Ага, ну вот и вторая. Ответ:
f(n,m) = n*(n+1)*m*(m+1)/4
Рассуждаем так:
Если бы было
for i:=1 to n do
for j:=1 to m do
sum:=sum+1;
то ответ, очевидно, был бы m*n.
Если бы было
for i:=1 to n do
for x:=i to n do
sum:=sum+1;
то ответ был бы суммой n членов арифметической прогрессии с а(1) = 1, а(n) = n и разностью 1, то есть (1+n)*n/2.
Теперь замечаем, что циклы можно переставить местами, чтобы упорядочить:
for i:=1 to n do
for x:=i to n do
for j:=1 to m do
for v:=j to m do
sum:=sum+1;
поскольку суммирования по парам индексов (i,x) и (j,v) взаимно независимы, то есть результат, как и в первом упрощении, есть произведение результатов по каждой паре. Отсюда и получается произведение двух сумм арифметических прогрессий.
P.S. На всякий случай - проверено.