Как решать? Да очень просто.
1. Взять книжки, которые у Вас прописаны на скане, и сделать то, что Вы, очевидно, должны были сделать в течение семестра, а не в последний день перед сессией: ознакомиться с понятиями "производная по направлению", "градиент", "экстремум квадратичной формы" и т.п.
2. В соответствии с обретенными знаниями и приведенными в этих кладезях мудрости формулами - решать, решать, решать... Там абсолютно ничего сложного нет, а есть просто большой объем рутинной вычислительной работы. Сомневаюсь, что кто-нибудь, кроме Вас, в это дело впряжется.