Отправлено -=ВН=- 01 ноября 2006 г. 14:45 В ответ на: Ах я про вчерашнее. Не 1 там не получится. Вас обманули. И ссылки на то, что разницу между целочисленным и плавающим результатом мала, не канают. Вы просили про точность - получите. Кстати, в примере с суммированием пятерок прав будет Ваш оппонент, а не Вы с калькулятором. Я Вам больше скажу - чтобы этого понять калькулятрора не надо. И С не надо. А формат ieee754 - нада. Граница, где начнутся расхождения в предложенном Вам примере с суммированием 5, будет в районе (2^24)/5. И еще - когда Вам п отправлено -=ВН=- 01 ноября 2006 г. 14:43

• Когда мне пишут число 1 в int16, то это будет 2^-15-1. Так что не будем про это. — homekvn   (01.11.2006 14:55 84.146.34.201, пустое)
  • Топро что вы говорите называется fractional. Халява если и перемножитель тоже fractional. — andy_P   (01.11.2006 15:08 80.82.63.185, пустое)
    • Еще есть названия q15, q31, 1.15, 2.14, ... — homekvn   (01.11.2006 15:30 84.146.34.201, пустое)
      • Я эти q никак запомнить не могу и все время путаюсь в том, что циферки значат :-) Типа форматов в сишном выводе. Полная паника :-) — andy_P   (01.11.2006 15:32 80.82.63.185, пустое)
  • Ну в общем нет слов, одни буквы остались. Вы разницу ощутите, когда умножите 1*1 и 2^-15 на 2^-15. А int, кстати, происходит от слова интегер, а не от слова фиксированная точка. Так что в int16 все числа целые:-) — -=ВН=-   (01.11.2006 15:04 193.125.71.140, пустое)
    • Да уж... А Вы, когда будете умножать 1 на 1 результат куда будете записывать результат, в 16 бит, или в 32? Кроме того, если Вы мне про сдвиг на 1 еще напомните, так это тоже не в мой адрес: любой целочисленный проц. имеет в регистре установок соответствующий битик, который говорит о том, делать сдвиг после умножения, или не делать. — homekvn   (01.11.2006 15:13 84.146.34.201, пустое)
      • Да куда бы я его не записывал, результат. Хоть в 1024 разряда. Но он будет 1. А сдвиг, который у любого целочисленного проца при умножении предусмотрен и может включаться и отключаться, как раз и придуман из-за того, что между 2^-15 и 1 есть отличия. Почему я Вам и заметил, что когда Вам пишут 1, это значит 1, целое, а не 2^-15. — -=ВН=-   (01.11.2006 15:22 193.125.71.140, пустое)
        • Ладно, треп это уже. Все зависит от интерпретации данных. Если мне идут с кодека отсчеты аудиосигнала, то вообще-то обычно рассматривают его нормированным. И операции все делают со включенным флажком, о котором я говорил. Поскольку про интерпретацию мне никто ничего не сказал, то я интерпретировал так, как мне показалось уместным. — homekvn   (01.11.2006 15:26 84.146.34.201, пустое)
          • Будучи буквоедом, в Вашей интерпретации 1 вообще не получится. -1 получится. 1 - 2^(-15) тоже получится. А 1 не получится никак. — andy_P   (01.11.2006 15:30 80.82.63.185, пустое)
            • Ну ес-сно. Это за скобками... :-) — homekvn   (01.11.2006 15:31 84.146.34.201, пустое)
          • А я Вам и заметил, что к пожарной охране это не относится. Просто на будущее имейте ввиду. — -=ВН=-   (01.11.2006 15:30 193.125.71.140, пустое)
            • Есть на будущее иметь в виду! :-) — homekvn   (01.11.2006 15:30 84.146.34.201, пустое)
              • "Вольно! С места не сходить! Не разговаривать!":-) — -=ВН=-   (01.11.2006 15:42 193.125.71.140, пустое)