Необязательно, был случай, когда система вообще нестартовала, менял все вплоть до проца, пока не стартанул без видюхи(GeForce 9800GT 1Gb/256bit(Albatron)), комп запустился.
Попробуйте на всякий случай ее с HDD, FDD если есть, и приводом выдернуть и запуститься с минимальной конфигурацией. Кстати на материнке лампочки горят, если они вообще там есть? Хотя, учитывая описание ситуации, повторюсь, что более склоняюсь к БП, хотя оно за собой могло утянуть что-нибудь еще. Когда вилку выдергивали ничего не искрило?