Отправлено Извращенец 05 февраля 2005 г. 20:07 В ответ на: а зачем флоат округлять в контроллере? отправлено колян безпарольныи 05 февраля 2005 г. 19:55

когда идет например сложение то необходимо числа
привести к одинаковой экспоненте (большей). при увеличении экспоненты
сдвигается вправо мантисса числа и если выдвигаются 1 то теряется значащие битики(точность). я взял dummy байт и сдвигаю в него мантиссу (выдвигающиеся биты). Потом складываю эти dummy байт, перенос от сложения складываю с двумя мантиссами.
потом прибавляю 0x80 к сумме dummy байт и перенос прибавляю к сумме мантисс. таким образом как то скругляю числа.

если это не делать то результат вычисления некторой формулы у меня совпадает с вычислением на PIC18 компиляторе