Однозначно перегрев видекарты, у меня была точно такая же история с картой 4850(сдал по гарантии) Если гарантии нет, как вариант можно попробовать аккуратно снять систему охлаждения и заменить термопасту. В простое карточка нет должна грется выше 50, в идеале 35-45. С той картой было в простое 66 в тесте разогревалась до 114, проичем на одной материнке(ASRock) комп вырубался как у вас, а на ASUS нет, на ней собсно и определил что проблема в видео. В тесте через 3 минуты начинались тормоза и затем артефакты.