У них еще где-то в недрах fprintf/sprintf/snprintf и тп глюки - при выводе в формате %f - откуда-то дробная часть лезет, когда ее в оригинальном числе нет + («Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

[an error occurred while processing this directive] У них еще где-то в недрах fprintf/sprintf/snprintf и тп глюки - при выводе в формате %f - откуда-то дробная часть лезет, когда ее в оригинальном числе нет +

(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

Отправлено andy_P 21 апреля 2006 г. 17:43
В ответ на: Я NaNы убрал. Да у меня и представление другое... А вот насчёт сравнений - помню-помню, замечал на тестах! отправлено KPAH 21 апреля 2006 г. 17:26

Что только про этот тексас не узнал когда на нем С++ стандартную библиотеку заводил :-)

Составить ответ ||| Конференция ||| Архив

Ответы

Дробной части нет на самом деле только в двух случаях: X=2^n, n>=0 или X<2^24 — KPAH (21.04.2006 17:55 213.85.191.245, пустое)
- Глюк касается только float. C double все в порядке. Фишка в том что x = 123457e17 (больше чем 2^24) выводится с дробной частью :-) — andy_P (21.04.2006 18:00 80.82.63.185, пустое)

Перейти к списку ответов ||| Конференция ||| Архив ||| Главная страница ||| Содержание

E-mail: info@telesys.ru

Ответы

Отправка ответа