К сожалению, без наличия самого учебника вам никто в вашей проблеме не поможет. Распознать можно, конечно, но качество будет сильно хромать, ваш оригинал сканирован с низким разрешением.
Формулы в любом случае придется вручную набирать. В текстовом процессоре MS Word редактор формул - внешнее приложение, сама формула - внедренный объект с закрытым кодом, так что при распознавании мало какая OCR-система сможет их корректно отобразить.
Используйте офисный пакет LibreOffice, там редактор формул работает с qr-кодами, что гораздо проще интерпретируется.