¿De que formato de video estaremos hablando?, recuerda que AVI, MP4, MPG, MKV, FLV, MOV, etc., son "contenedores", el formato seria DivX/XviD, h.264, MPEG-1/MPEG-2, etc.
SI no lo sabes usa MediaInfo para averiguarlo
Quiza este intentando usar aceleracion por hardware de video y el video o no este bien codificaco o se sale de las normas estandar que no cubre siempre bien los perfiles del Catalyst.
¿Que version de Catalyste estas usando?
¿Que version de windows?
¿Que software de reproduccion esas empleando?