Отправлено AAV 30 декабря 2005 г. 13:03

Столкнулся с непонятной вещью в IAR EwAVR 4.11. Объявляю переменную float m, присваиваю ей значение m=968513416.0f, а в дебагере вижу 9.68513408E+8. Что за фигня?

• Происходит округление мантиссы, - в силу нехватки разрядов мантиссы для представления 10 значащих цифр в исходном числе — argus98   (30.12.2005 13:23 81.22.205.230, пустое)
  • Т.е если нужно большое количество целых разрядов, то лучше работать с целыми типами данных? А только потом привести к float? — AAV   (30.12.2005 13:42 212.193.160.62, пустое)
    • Для представления одной десятичной цифры требуется 3.322 бита двоичного числа, соответственно для верных 10 цифр требуется не менее 33 бит двоичного числа (+): — argus98   (30.12.2005 13:52 81.22.205.230, 124 байт)

E-mail: info@telesys.ru