Считаем абсолютно точно (благо, все является степенями двойки), и округляем отбрасыванием точной части? Тогда для 1199/200 получаем 6 вместо 5. («Телесистемы»: Конференция «Микроконтроллеры и их применение»)

Считаем абсолютно точно (благо, все является степенями двойки), и округляем отбрасыванием точной части? Тогда для 1199/200 получаем 6 вместо 5.

(«Телесистемы»: Конференция «Микроконтроллеры и их применение»)

Отправлено Oldring 04 февраля 2003 г. 13:10
В ответ на: А никто не требует ограничиваться 16 битами, промежуточные вычисления выполняются с большей точностью. отправлено dfg 03 февраля 2003 г. 18:52

Составить ответ ||| Конференция ||| Архив

Ответы

Корректное округление предполагается само собой. — dfg (04.02.2003 13:26, пустое)
- А "корректное округление" - это как? — Oldring (04.02.2003 13:39, пустое)
  - Я знаю следующий точный алгоритм через умножения. А как Вы рассчитываете получить точный результат - мне очень интересно. — Oldring (04.02.2003 14:03, 237 байт)
    - Если я не запутался в нулях, то это вот так: — dfg (05.02.2003 15:54, 198 байт)

Перейти к списку ответов ||| Конференция ||| Архив ||| Главная страница ||| Содержание ||| Без кадра

E-mail: info@telesys.ru