Допустим, что неизвестна точность вычисления при переводе числа 121,4(10). Тогда подобные примеры приведут к бесконечному циклу преобразований. Именно на невозможности точного перевода некоторых чисел и основано высказывание о погрешности вычисления на ЭВМ.
Перевод в двоичную систему счисления:
0,4(10)*2=
0,8(10)
0,8(10)*2=
1,6(10)
0,6(10)*2=
1,2(10)
0,2(10)*2=
0,4(10) и т.д.
происходит зацикливание, поэтому всегда нужно определять точность вычисления. В данном случае дробная часть будет 0110[0110] (2)
121.4(10)=1111001.0110[0110] (2)
Перевод в восьмеричную систему счисления:
0,4(10)*8=
3,2(10)
0,2(10)*8=
1,6(10)
0,6(10)*8=
4,8(10)
0,8(10)*8=
6,4(10)
0,4(10)*8=
3,2(10) и т.д.
В данном случае дробная часть будет 3146[3146] (8)
121.4 (10)=171.3146[3146] (8)
Перевод в шестнадцатиричную систему счисления:
0,4(10)*16=
6,4(10)
0,4(10)*16=
6,4(10) и т.д.
В данном случае дробная часть будет 6[6] (16)
121.4 (10)=79.6[6] (16)
Проверка осуществляется через развёрнутую запись числа.