Yo en su época, allá cuando el codec Divx iba por la versión 3 y pico, tiraba sin problemas con un PIII 450 con 64mB de RAM. Eso sí, seguramente el bitrate de antes no tiene nada que ver con el de ahora.
Para HD prueba CoreAVC, es bastante bestia este codec. Y VLC es un poco culo gordo, probablemente con un WMP Classic y unos buenos codecs saques más rendimiento.