Отправлено AKSNAB 17 августа 2006 г. 10:44 В ответ на: Обычное дело. Погрешности округления. Попробуй использовать double. отправлено Codavr 17 августа 2006 г. 10:32

Но у float достаточно высокая точность - ±1,18 Е-38 до ±3,39 Е+38
а мне в сущности нужно 4 знака после запятой (для округления до 3 зн.)

Double пробовал - резудьтат тот же.

• У float точность чуть больше 6 десятичных цифр. float это всего 4 байта. — Codavr   (17.08.2006 10:46 193.233.48.103, пустое)
  • AVR IAR C/EC++ Compiler Reference Guide страница 84 — Codavr   (17.08.2006 10:50 193.233.48.103, пустое)