с начала думал что видеокарта, потом протестировали в магазине всё в норме, может не совместимость памяти и материнки, ко всем изменениям в настройках памяти(частота, тайминги) относится отрицательно, может есть возможность добиться стабильной работы.
Заранее спасибо