also ich benutze avidemux und da kann man die encodig-mode Einstellungen manuell ändern. Das müsste bei XMedia recode auch funktionieren...
sieh dazu einmal die Einstellungen auf dieser Seite an und pass sie dementsprechend in deinem Programm an oder verwende gleich avidemux (Freeware)
http://www.engon.de/audio/vhs3.htm
mit Screenshots vom Ergebnis