Hola.
Sería una buena idea, para poder ayudarte, que detalles un par de cosas:
- ¿Cómo están conectados los botones y joysticks al PC (usb2joy, ipp,...)?
- ¿Qué versión de mame estás utilizando?
- En el panel de control de Windows, en "Dispositivos de juego", ¿te reconoce los mandos?
No sé... sin más datos sólo se me ocurre que tengas que activar la opción "Enable joystick input" (ya sea a través del menú si tienes un mameui o a través del archivo .ini si tienes un mame por línea de comandos) o que tu interfaz de juego requiera un mame compilado con Direct Input...