El MAME oficial que yo sepa se ejecuta por linea de comandos (cmd o ejecutar en el menu inicio) creo que era algo del tipo:
mame.exe -l nombredelarom
o parecido, como comprenderas me parecia un coñazo a si que nunca lo he usado. Te recomiendo que te bajes el MAMEUI o el MAME32 que si traen un ejecutable más normalito con lista de ROMs y opciones de configuracion etc etc.