Я знаю следующий точный алгоритм через умножения. А как Вы рассчитываете получить точный результат - мне очень интересно. («Телесистемы»: Конференция «Микроконтроллеры и их применение»)

Я знаю следующий точный алгоритм через умножения. А как Вы рассчитываете получить точный результат - мне очень интересно.

(«Телесистемы»: Конференция «Микроконтроллеры и их применение»)

Отправлено Oldring 04 февраля 2003 г. 14:03
В ответ на: А "корректное округление" - это как? отправлено Oldring 04 февраля 2003 г. 13:39

1. Умножить 16-битное целое число на 41943/65536. К результату прибавить 0.5.
2. Поделить на 128 сдвигом на 7 бит вправо, отбросив дробную часть.

Если диапазон входнух данных меньше, бывает легко подобрать и более простые алгоритмы.