На сколько ватт БП? 350,400,450 или...? Проверьте охлаждение видеокарты. Сколько градусов в простое и сколько в нагрузке. Проверьте в БИОСе выставленный порог температуры, превышение которого включает перезагрузку. Мощность БП также имеет значение, так как маломощный, при пиковых нагрузках системы может просто не выдерживать их и, -> ребут.
Проверьте хард на ошибки - свойства- сервис- выполнить проверку. Проверьте список автозагрузки win+R -> msconfig. Нет ли там чего левого. Проверка служб, процессов аналогичного происхождения. Сделайте восстановление системы на работоспособную дату. Хотя это детский лепет при таких траблах... Но все же, чем чьёрт не шутит.