Желательно бы проверить эту материнку с другой видюхой и желательно другого производителя и модели. Если все нормально, то меняем видюху. Если результат тотже то меняем материнку - у Asrock часто бывают глюки с PCI-ex слотом (заводской брак) :(
Кстати а на встроенной видюхе все работает?