Я не написал в первом посте как выбрать видеокарту ... так как понятия не имею какой у вас бюджет:
если эконом то
меняйте процессор и оперативку или только видеокарту - прироста вы почти не увидите, однако как первая волна замены вполне пойдет. Ну и у Вас будет понимание что на этом этапе вы сделали все что могли
если денег не жалея (не меняя мат. плату):
самый мощный процессор под вашу мат.плату, совместимая оперативка(по максимому), видеокарта, возможности которой должны быть под стать вашему процессору, БП, в конце списка идут SSD и по желанию жесткий диск. Ну и как водится товарищи забывают про пару(или даже три) хорошеньких вентилятора для корпуса.
Укажите бюджет и те приложения которые вы хотели бы запустить на своем ПК, качество работы которого сейчас вас не устраивает.