Переполнения деваются в старшие 8 защитных бит 40-битного аккумулятора, а округления просто не делаются. («Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

[an error occurred while processing this directive] Переполнения деваются в старшие 8 защитных бит 40-битного аккумулятора, а округления просто не делаются.

(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

Отправлено SM 15 января 2006 г. 12:37
В ответ на: Не понятно, почему "шумит только округление полученных 40 бит до 16 выходных", округления, переполнения то куда деваются при перемножении и сложении, разрядность то фиксирована? отправлено <font color=gray>Шпак</font> 15 января 2006 г. 12:30

Составить ответ ||| Конференция ||| Архив

Ответы

Хм... Так что - и проблем особых то и нет, особенно если я эти 40 бит не буду в 16 перегонять, а перетранслирую их в плавающую точку? — Шпак (15.01.2006 12:44 212.48.209.230, пустое)
- При трансляции в плавающую точку все равно округлите. Только разряд, на котором округление, не будет иметь фикс. номер. — SM (15.01.2006 12:59 213.141.159.26, пустое)
  - Если, конечно, не в double. — SM (15.01.2006 13:05 213.141.159.26, пустое)

Перейти к списку ответов ||| Конференция ||| Архив ||| Главная страница ||| Содержание

E-mail: info@telesys.ru