Во-первых, выложите нормальные картинки, желательно без ссылок на Вконтакты. На тех, что Вы дали, я не в состоянии разглядеть толком формулы: что знак вычитания, что умножения отображаются в виде какой-то расплывчатой точки даже при максимальном увеличении. Во-вторых, одну ошибку я вижу сразу: в числителе величины b стоит сумма произведений Xi*Yi, а Вы заменяете ее произведением сумм, что АБСОЛЮТНО неверно! Рассмотрим простейший пример:
Пусть x1=2, y1=3, x2=4, y2=5. Тогда сумма произведений есть
(x1*y1) + (x2*y2) = 2*3 + 4*5 = 26,
а произведение сумм есть
(x1+x2)*(y1+y2) = (2+4)*(3+5) = 48.
Как говорится - почувствуйте разницу!