Напряжение нужно повышать до рекомендованных производителем модуля памяти. Так же можно самому побаловатся с напругой. Очень часто и при меньшей напруге срабатывает на повышенных частотатах. Это во первых. Во вторых пробуйте увеличить частоту оперы посредством множителя. Так же не забудьте выставить рекомендуемые тайминги.
Напишите полный конфиг компа, это тоже важно.