Это проблемма с видеокартой. Такое наблюдал при попытке установить частоты в ней свыше заявленных с помощью программы RivaTuner. Так же может быть после неправильной установки драйвера видеокарты (если например ты ставил вручную) или драйвера неподходящего к данной модели видеокарты. Попробуй установить новые драйвера для своей видеокарты , или если установленна RivaTuner - вернуть прежние частоты.
Возможен вариант плачевный- видеокарта "сдохла" напрочь, нужно купить новую.