Отправлено Grigory 04 декабря 2002 г. 12:09 В ответ на: и что же у вас за физ процес что требует более 2**32? отправлено net 03 декабря 2002 г. 18:12

• В ГЕОФИЗИКЕ АЦП 24 РАЗРЯДНЫЕ - Я УЖ НЕ ГОВОРЮ ПРО ДАТЧИКИ - ВСЕ ОСТАЛЬНОЕ ПЕРЕКЛЮЧЕНИЕ ДИАПАЗОНА!!!! — net   (04.12.2002 12:48, пустое)
  • "Мгновенное" переключение диапазона и есть плавучка,точность ограничена мантиссой -диапазон представления числа - порядком.Вся последующая обработка исключительно float,иначе ломаются алгоритмы.Реальная область требующая безмерного динамического диапазона при разумной точности. — Grigory   (04.12.2002 17:59, пустое)
    • Ответ: применение балистики на практике — пользователь   (03.02.2006 21:16 217.21.48.207, пустое)
    • видщимо вы на практике не работали с геофизикой - потому как то что вы говорите это теория - кроме того балистики работают с двойной точностью только изза разрядности нНО никак не изза плавающей арифметике - более того как раз в целых числах решают все задачи для того чтобы не потерять точность- ваше мнение мне понятно - и я с ним не согласен ;-)))) — net   (04.12.2002 19:25, пустое)
      • Проблема именно в диапазоне,а не в точности. — Grigory   (04.12.2002 19:51, 249 байт)
        • просто вы не умеете делать геофизический БПФ по отсечению верхних гармоник - а решаете задачу в лоб о чем я и говорил, это аналогично как и детекция событий при LTA/STA - когда народ влоб берет длинный интеграл LTA и при этом кричит что ему не хватет разрядности - моя усЕ понял ;-) — net   (04.12.2002 20:15, пустое)