Bueno pues me contesto a mi mismo despues de haber conseguido resolver alguno de los problemas que tenia.
Tengo que agradecer la ayuda que me ha prestado Antolin y airhead tambien.
Lo pongo aqui por si alguien tiene los mismos problemas que yo a la hora de compilar y le sirve de algo.
El tema del hlsl Antolin me ha comentado que hay que usar el source de MAMEUIFX.
Una vez compilemos copiamos la carpeta generada hlsl junto con el mame.exe a la carpeta de destino donde vayamos a ejecutar nuestor nuevo MAME compilado.
Asi lo he hecho y por fin me funciona el hlsl.
Un saludo.
Siento revivir el hilo, pero para eso esta... no? ehehehe
Yo estado compilando un par de versiones mame y me a ido bien, ahora que voy hacer la definitiva me encuentro con un problema....
Si activo el HSL desde el menu del ui me funciona
Si cambio el codigo directamente desde el ini, no. no hace nada. incluso borro el código en el ini y lo configuro desde el ui, me funciona. ya sea mame o con ui, pero si lo edito directamente desde el ini, no cosa rara... Pues si borro la configuracion del hlsl del ini, aun sigue funcionando el hlsl configurado mediante el ui ( cosa rara ya que nos e de donde coje la información)