[an error occurred while processing this directive]
Я NaNы убрал. Да у меня и представление другое... А вот насчёт сравнений - помню-помню, замечал на тестах!
(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)
Отправлено
KPAH
21 апреля 2006 г. 17:26
В ответ на:
Просто к сведению - библиотека эмуляции плавающей точки от TI (та что в RTS входит) сравнения не по стандарту обрабатывает. У них два NAN равны между собой :-)
отправлено andy_P 21 апреля 2006 г. 16:59
Составить ответ
|||
Конференция
|||
Архив
Ответы
У них еще где-то в недрах fprintf/sprintf/snprintf и тп глюки - при выводе в формате %f - откуда-то дробная часть лезет, когда ее в оригинальном числе нет +
—
andy_P
(21.04.2006 17:43
80.82.63.185
, 87 байт)
Дробной части нет на самом деле только в двух случаях: X=2^n, n>=0 или X<2^24
—
KPAH
(21.04.2006 17:55
213.85.191.245
,
пустое
)
Глюк касается только float. C double все в порядке. Фишка в том что x = 123457e17 (больше чем 2^24) выводится с дробной частью :-)
—
andy_P
(21.04.2006 18:00
80.82.63.185
,
пустое
)
Отправка ответа
Имя (обязательно):
Пароль:
E-mail:
NoIX ключ
:
Запомнить
Тема (обязательно):
Сообщение:
Ссылка на URL:
Название ссылки:
URL изображения:
Перейти к списку ответов
|||
Конференция
|||
Архив
|||
Главная страница
|||
Содержание
E-mail:
info@telesys.ru