[an error occurred while processing this directive]
Фу... Слава Богу... :-) (+)
(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

миниатюрный аудио-видеорекордер mAVR

Отправлено ASergej_R19 01 ноября 2006 г. 15:15
В ответ на: Да, правильно. Я стормозил, когда рассчитывал. Забыл, что когда мы начнем порядки выравнивать уже большой накопленной суммы и оередного слагаемого, 23-битная мантисса уже будет не способна впитать следующий член. В оправдание скажу лишь то, что (+) отправлено <font color=gray>homekvn</font> 01 ноября 2006 г. 15:07

Это как раз то, что я под "разрешением" подразумевал...
Практический смысл это имеет при расчете доз и прочих сумм за длительный период времени... Хотя конечно 32 разряда - это для примера, реально там более от 64 бит суммы до 96... Но в fixed это легко расширяется, а во флоате вообще посчитать низзя - о чем я и говорил...

Составить ответ  |||  Конференция  |||  Архив

Ответы


Отправка ответа
Имя (обязательно): 
Пароль: 
E-mail: 

Тема (обязательно):
Сообщение:

Ссылка на URL: 
Название ссылки: 
URL изображения: 


Rambler's Top100 Рейтинг@Mail.ru
Перейти к списку ответов  |||  Конференция  |||  Архив  |||  Главная страница  |||  Содержание