hay un metodo artesanal que puedes seguir para averiguar el pinout si es que el sistema que utiliza la maquina es "simple" como el que solian utilizar las maquinas por entonces. es algo trabajoso, pero relativamente facil de hacer.
solo necesitas un cable DB9 hembra (el que tendria el pad o joystick) con los 9 cables pelados, un tester/polimetro, y la consola abierta y encendida con un juego puesto (uno en el que puedas ponerte a averiguar lo que hace cada "boton" sin que te molesten/maten mucho).
vale, primero tenemos que encontrar masa. se pone el tester en ohmios o continuidad, se pone una punta en un contacto metalico de masa de la consola (un tornillo del chasis por ejemplo, o los protectores metalicos que suelen tener muchas maquinas encima de los puertos o en otros lugares) y con el otro vamos tocando cada uno de los 9 cables del "pad", hasta que uno "pite" (si utilizas el medidor de continuidad del tester), o marque practicamente 0 ohmios. bien. ese sera masa del puerto de joystick.
ahora tenemos que averiguar los otros 5 (o mas, si hay mas de 1 boton de disparo). bueno. pues es facil. hay que ir tocando el cable de masa con los demas cables, y ver la reaccion con el juego en pantalla. teoricamente, debera haber un hilo para cada direccion (izquierda, derecha, arriba, abajo), uno por cada boton de disparo y es probable que haya un cable con +5v que serian para alimentar el mando.
otra opcion que se me ocurre es desarmar el pad e intentar seguir el camino logico (o con multimetro, buscar continuidad) desde cada contacto a cada pin del conector.
si el sistema utiliza "señales simples" deberias por alguno de los dos metodos conseguir el pinout en relativamente poco tiempo.
pd. si la consola y mando funcionan bien con otros juegos, y mal con un determinado juego, yo me inclinaria a que el problema es del juego y no de la consola o el mando.