Просто к сведению - библиотека эмуляции плавающей точки от TI (та что в RTS входит) сравнения не по стандарту обрабатывает. У них два NAN равны между собой :-) («Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

[an error occurred while processing this directive] Просто к сведению - библиотека эмуляции плавающей точки от TI (та что в RTS входит) сравнения не по стандарту обрабатывает. У них два NAN равны между собой :-)

(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

Отправлено andy_P 21 апреля 2006 г. 16:59
В ответ на: Времени потратил достаточно много отправлено KPAH 21 апреля 2006 г. 16:47

Составить ответ ||| Конференция ||| Архив

Ответы

Я NaNы убрал. Да у меня и представление другое... А вот насчёт сравнений - помню-помню, замечал на тестах! — KPAH (21.04.2006 17:26 213.85.191.245, пустое)
- У них еще где-то в недрах fprintf/sprintf/snprintf и тп глюки - при выводе в формате %f - откуда-то дробная часть лезет, когда ее в оригинальном числе нет + — andy_P (21.04.2006 17:43 80.82.63.185, 87 байт)
  - Дробной части нет на самом деле только в двух случаях: X=2^n, n>=0 или X<2^24 — KPAH (21.04.2006 17:55 213.85.191.245, пустое)
    - Глюк касается только float. C double все в порядке. Фишка в том что x = 123457e17 (больше чем 2^24) выводится с дробной частью :-) — andy_P (21.04.2006 18:00 80.82.63.185, пустое)

Перейти к списку ответов ||| Конференция ||| Архив ||| Главная страница ||| Содержание

E-mail: info@telesys.ru

Ответы

Отправка ответа