Вопрос в том, что ранее с микроконтроллерами особо не стыкался, в основном на уровне изготовления устройств которые печатались в журналах. А то что я делал сам, то я обошелся масштабным усилителем в результате чего и избавился от проблемы с дробными числами. А теперь никак не получается, а вбивать таблицу результатов вычислений функции, возможным не вижу так как их больше максимально адресуемого объема ПЗУ.