Se não obteve bons resultados com o action e o fraps, recomendo usar o Dxtory ou o CamtasiaStudio. O Camtasia é um pouco pesado para jogos, quando gravo PB com ele, fica a 30/40fps. O Dxtory eu gravo com FPS muito alto entre 70/80fps. Aí a escolha é sua.