Yo no estoy muy puesto en PS3 y mkv, pero diria que si lo grabas como DVD de datos no te lo reproducirá, lo más fácil es grabarlo en un regrabable y probar

Si te da pereza grabarlo y probar, entonces ya hay que empezar a tocar un poco el archivo, pero déjate de programas "guarros" como el DVD Santa y conversiones de mkv a DVD, lo que has de hacer es seguir este manual:
Convertir MKV en AVCHD para poder ver en PS3El manual está en inglés, pero no creo que tengas ningún problema para entenderlo, es muy sencillito
EDITO: Te he buscado manuales en español y te doy más opciones para que escojas, te toca estudiar
MKV a Blu-ray o Blu-ray a MKV o MKV a DVD o MKV a AVCHD con calidad 720p 1080p