Hay que puntualizar un concepto:
MKV no se puede codificar porque no es un formato de video y por tanto no requiere de codecs, lo que Matroska es un CONTENEDOR, es decir el archivo donde esta almacenado los componentes de video, audio, subtitulos y mas que nosotros tan solo llamamos archivos de video. Matroska puede tener video y audio de varios formatos lo que lo hace muy versatil y por ello usado. Asi Matroska Video puede tener componente de video codificado en DivX/XviD, h.264/x.264, ASF entre muchos otros y audio codificado en MP3, Ogg, Dolby Digital o DTS o AAC por citar algunos.
El formato mas usado y que de hecho es el oficial en los discos bluray es tener el video codificado en apple h.264 o microsoft VC-1 y el audio en AAC, cuando usamos video h.264 y audio en AAC en un archivo contenedor MP4 le llaman MP4AVC, asi tu archivo de video Matroska seguro tiene video en h.264 y audio AAC... aclarado el punto pasamos a tu pregunta.
Basicamente cualquier tarjeta de video actual o de hace año y medio te servira para el video enalta definicion empezando desde la Gama Media de productos, si el video en h.264/x.264 no usa un perfil predeterminado la mayoria del proceso se realizara por el CPU y i se usa ese perfil especifico y con los programas habilitados la ecodificcion y despliegue se realizara practicamente por el GPU, yo de nVidia no megusta mucho asi que paare por alto esta compñia aunque claro que sus modelos serie 7 o serie 8 o la ultima serie 9 de las Geforce servira muy bien. De ATI te dire que cualquier tarjeta de la serie Radeon HDxxxx te serira y ya podrias pensar desde una Radeon HD36xx o una Radeon HD38xx.
Que raro, yo usaba inicios de año una Radeon X700Pro sobre una DFI nfinity SLI con procesador AMD64 3200+ -2.1GHz reales- mononucleo y 1GB en RAM y videos en alta definicion de 1024x768 o algo asi no se me veian entrecortados salvo estuvieran mal codificados o actualizando el codec que por cierto uso los ffdShow Tryout desde hace mucho y de maravilla, ya videos de mas de 1300x1xxxy algo si ya tenia de vez en cuando algun ligero salto, ahora con un AMD Athlon x2 5400+ -2.8GHz reales- aun esos videos en la Radeon X700Pro se ven fluidos y ni que decir si uso la Raeon HD4850.