Ах я про вчерашнее. Не 1 там не получится. Вас обманули. И ссылки на то, что разницу между целочисленным и плавающим результатом мала, не канают. Вы просили про точность - получите. Кстати, в примере с суммированием пятерок прав будет Ваш оппонент, а не Вы с калькулятором. Я Вам больше скажу - чтобы этого понять калькулятрора не надо. И С не надо. А формат ieee754 - нада. Граница, где начнутся расхождения в предложенном Вам примере с суммированием 5, будет в районе (2^24)/5. И еще - когда Вам п («Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

[an error occurred while processing this directive] Ах я про вчерашнее. Не 1 там не получится. Вас обманули. И ссылки на то, что разницу между целочисленным и плавающим результатом мала, не канают. Вы просили про точность - получите. Кстати, в примере с суммированием пятерок прав будет Ваш оппонент, а не Вы с калькулятором. Я Вам больше скажу - чтобы этого понять калькулятрора не надо. И С не надо. А формат ieee754 - нада. Граница, где начнутся расхождения в предложенном Вам примере с суммированием 5, будет в районе (2^24)/5. И еще - когда Вам п
(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

Отправлено -=ВН=- 01 ноября 2006 г. 14:43
В ответ на: Ах, Вы про вчерашнее. А я думал, Вы про тот пример, что мне ASergej_R19 написал. А с Вашим примером там во флоатинге 1.0 получается. отправлено <font color=gray>homekvn</font> 01 ноября 2006 г. 13:55

Составить ответ ||| Конференция ||| Архив

Ответы

...пишут число 1, это все таки число 1, а не 2^-15. Между ними есть разница, "хотя к пожарной охране,..." это не имеет никакого отношения. — -=ВН=- (01.11.2006 14:45 193.125.71.140, пустое)
- Когда мне пишут число 1 в int16, то это будет 2^-15-1. Так что не будем про это. — homekvn (01.11.2006 14:55 84.146.34.201, пустое)
  - Топро что вы говорите называется fractional. Халява если и перемножитель тоже fractional. — andy_P (01.11.2006 15:08 80.82.63.185, пустое)
    - Еще есть названия q15, q31, 1.15, 2.14, ... — homekvn (01.11.2006 15:30 84.146.34.201, пустое)
      - Я эти q никак запомнить не могу и все время путаюсь в том, что циферки значат :-) Типа форматов в сишном выводе. Полная паника :-) — andy_P (01.11.2006 15:32 80.82.63.185, пустое)
  - Ну в общем нет слов, одни буквы остались. Вы разницу ощутите, когда умножите 1*1 и 2^-15 на 2^-15. А int, кстати, происходит от слова интегер, а не от слова фиксированная точка. Так что в int16 все числа целые:-) — -=ВН=- (01.11.2006 15:04 193.125.71.140, пустое)
    - Да уж... А Вы, когда будете умножать 1 на 1 результат куда будете записывать результат, в 16 бит, или в 32? Кроме того, если Вы мне про сдвиг на 1 еще напомните, так это тоже не в мой адрес: любой целочисленный проц. имеет в регистре установок соответствующий битик, который говорит о том, делать сдвиг после умножения, или не делать. — homekvn (01.11.2006 15:13 84.146.34.201, пустое)
      - Да куда бы я его не записывал, результат. Хоть в 1024 разряда. Но он будет 1. А сдвиг, который у любого целочисленного проца при умножении предусмотрен и может включаться и отключаться, как раз и придуман из-за того, что между 2^-15 и 1 есть отличия. Почему я Вам и заметил, что когда Вам пишут 1, это значит 1, целое, а не 2^-15. — -=ВН=-   (01.11.2006 15:22 193.125.71.140, пустое)
        
        Ладно, треп это уже. Все зависит от интерпретации данных. Если мне идут с кодека отсчеты аудиосигнала, то вообще-то обычно рассматривают его нормированным. И операции все делают со включенным флажком, о котором я говорил. Поскольку про интерпретацию мне никто ничего не сказал, то я интерпретировал так, как мне показалось уместным. — homekvn   (01.11.2006 15:26 84.146.34.201, пустое)
        
        Будучи буквоедом, в Вашей интерпретации 1 вообще не получится. -1 получится. 1 - 2^(-15) тоже получится. А 1 не получится никак. — andy_P   (01.11.2006 15:30 80.82.63.185, пустое)
        
        Ну ес-сно. Это за скобками... :-) — homekvn   (01.11.2006 15:31 84.146.34.201, пустое)
        
        А я Вам и заметил, что к пожарной охране это не относится. Просто на будущее имейте ввиду. — -=ВН=-   (01.11.2006 15:30 193.125.71.140, пустое)
        
        Есть на будущее иметь в виду! :-) — homekvn   (01.11.2006 15:30 84.146.34.201, пустое)
        
        "Вольно! С места не сходить! Не разговаривать!":-) — -=ВН=-   (01.11.2006 15:42 193.125.71.140, пустое)

Перейти к списку ответов ||| Конференция ||| Архив ||| Главная страница ||| Содержание