Если memtest и другие тесты компьютера (диск например) проходят на ура, попробуйте потасовать разные версии драйверов для видеокарты, берите новые с сайта, пробуйте те что шли в комплекте с видеокартой, смотрите альтернативные сборки.
P.S. блин, первое что нужно убрать, если начались проблемы с оборудованием - это разгон.