Есть специальная встроенная дополнительная функция в этом табличном процессоре. Называется она Поиск решения. Почитайте по ней справку.
А еще в этом табличном процессоре есть целая куча логических функций, в том числе и операций сравнения. Также присутствует условный оператор ЕСЛИ(условие;(список операторов 1);(список операторов 2)). Этот самый условный оператор может быть вложен в другой условный оператор. А в качестве списка операторов в нем как раз и будет выступать ваша расчетная функция.
Пример реализации функции (пишу только формулу, можете ее скопипастить в ячейку с расчетом, только адрес ячейки поменяйте). Допустим, что значение x находится в ячейке a4, значение а - в ячейке b4:
=ЕСЛИ(A4<0,1;КОРЕНЬ(B4*A4^2+COS(A4));ЕСЛИ(A4=0,1;B 4*КОРЕНЬ(ABS((COS(A4))^2));EXP(A4)*(SIN(A4^2))^3))
Проверил на значениях x=1;0.1;-1 и a=4 в ms excel2007, ошибок не выдает, расчеты производятся.