Иерархия производительности видеокарт cледующая
GTS250 -> gts450=hd5750 -> hd5770
Конечно 5770 быстрее, но не намного.
Что вам можно сделать?
1) Попытаться разблокировать 4 ядро,
2) память 100% набрана криво,
3) а из видеокарт - HD6850 - это все можно сделать при условии качественного охлаждения, нормальной мамки, и БП не фирмы рогата и копыта.