Puedes tener 2 problemas.
1.- Que tu PC no sea lo suficientemente potente como para recodificar al vuelo el video. Eso hara que la barra del buffer que se ve en la primera pantalla del PS3 MS, donde sale la foto de la PS3, este siempre vacia.
Si ves que el buffer tiene datos entonces tienes el otro problema
2.- Que el ancho de banda no este siendo suficiente. Esto pasa SIEMPRE cuando usas PC y PS3 por Wifi o PS3 por Wifi, el wifi de la PS3 es una mierda y hasta los Divx te pueden dar tirones, ya no digamos un MKV a 720 o 1080.
Soluciones:
Si tu PC no es lo suficientemente potente y estas hablando de divx utiliza el programa AVIAddXSub para añadir los subtitulos al avi en pocos segundos y luego reproduce el DIVX quitando el fichero de subtitulos. Si estas hablando de un MKV y tu PC no da de si para recodificarlo al vuelo tendras que buscarte una maña similar a la anterior.
Si el problema es la red, tira un cable desde la PS3 al router y usa solo el PC por Wifi, o mejor, todo por cable. Tb prueba a poner esta config en el menu de calidad de video.
keyint=5:vqscale=2:vqmin=3
Es la que tengo yo y veo todo perfectamente menos los 1080 con subtitulos que mi PC no tiene suficiente potencia. El PC lo tengo por WIFI N a 300Mbps y la PS3 por cable a un router gigabit asi que a lo mejor debes ajustar algo mas la configuracion.
Y aqui tienes la biblia de todo esto:
hilo_nuevo-ps3-media-server-mkv-s-funcionando-100_1142452 
