Я бы попробовал воспользоваться видеозахватом в реальном времени, сохранить файл, а потом уже его перевести в другой формат. Я сам сталкивался с проблемой, кода не мог оцифровать свою же собственную кассету. Проблему решает видеозахват в программе Pinnacle.