Отправлено ASergej_R19 31 октября 2006 г. 20:42 В ответ на: Не в состоянии прочитать всю дискуссию, но сейчас особенно моден формат ieee754. Каковой для флоата обычного оговаривает на все прол все 32-х разряда. С учетом этого сложите во float 2 числа и доложите результат. Первое число=1073741823, второе =1073741822. отправлено -=ВН=- 31 октября 2006 г. 20:38

А я бы предложил посчитать какую-нибудь дозу за длительный промежуток времени...
Приходят очень мелкие отсчеты, надо накопить результирующую сумму...

Через какое-то время мелкие отсчеты пропадут в погрешностях float'а, и сумма перестанет накапливаться, что с fixed'ом не произойдет...

• Очень хорошо! Вот и давайте Ваш пример рассмотрим (Пример ВН оставлю на закуску) (+) — homekvn   (31.10.2006 20:56 212.185.161.237, 530 байт)
  • Ответ... (+) — ASergej_R19   (31.10.2006 21:08 80.250.160.170, 322 байт)
    • Хорошо. Показываю (+) — homekvn   (31.10.2006 21:32 212.185.161.237, 928 байт)
      • Нет... Вы упрощаете мантиссу беря частный вариант и тем совершаете ошибку... (+) — ASergej_R19   (31.10.2006 21:39 80.250.160.170, 251 байт)
        • Скажу даже больше... (+) — ASergej_R19   (31.10.2006 21:47 80.250.160.170, 89 байт)
          • Так Вы RMS отыщите, RMS... — homekvn   (31.10.2006 21:48 212.185.161.237, пустое)
            • Хорошо... Вот Вам вводные... (+) — ASergej_R19   (31.10.2006 22:00 80.250.160.170, 234 байт)
        • Тогда давайте совсем по-честному. Я попрошу Вас найти среднеквадратичное от чисел квадраты коих Вы привели выше. Сообщите результат. То же сделаю и я. (+) — homekvn   (31.10.2006 21:46 212.185.161.237, 464 байт)
    • Как только разница между числами станет меньше разрядности мантиссы - флоат начнет давать ошибку... (+) — ASergej_R19   (31.10.2006 21:22 80.250.160.170, 136 байт)
      • Либо разница между числами больше разрядности мантиссы - тоже флоат будет с ошибкой... Вобщем - разрешающая способность у флоата хуже - о чем я и писал... (-) — ASergej_R19   (31.10.2006 21:27 80.250.160.170, пустое)