MKV и есть матроска (Matroska video,
https://ru.wikipedia.org/wiki/Matroska), плюс в ней куча дополнительных настроек качества, для неё действительно HD4250 слабовата. А размер видеопамяти, похоже, стоит на автомате и на максимуме. Так что копите деньги на новую карту.