нужно делать разбор строк! например разбить всю введеную строку на подстроки разделенные пробелы. дальше вычленить арифметические знаки и скобки(относящиеся к арифметике) и построить дерево. дальше вычленить функции и подсчитать их значение.... например для функции
( x * x + sin(x + 1) - 1 ) / 4 дерево после разбоки будет таким
ну это приблизительно там нужно еще учитывать расположение чисел относительно операций(чтоб не получилось что вместо x - 1 получилось 1 - x)
ну и т.д.
а дальше сворачивать это дерево в обратном порядке(подсчитывать значение). но это даже если не очень сложно то муторно...