Дробной части нет на самом деле только в двух случаях: X=2^n, n>=0 или X<2^24 («Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

[an error occurred while processing this directive] Дробной части нет на самом деле только в двух случаях: X=2^n, n>=0 или X<2^24

(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

Отправлено KPAH 21 апреля 2006 г. 17:55
В ответ на: У них еще где-то в недрах fprintf/sprintf/snprintf и тп глюки - при выводе в формате %f - откуда-то дробная часть лезет, когда ее в оригинальном числе нет + отправлено andy_P 21 апреля 2006 г. 17:43

Составить ответ ||| Конференция ||| Архив

Ответы

Глюк касается только float. C double все в порядке. Фишка в том что x = 123457e17 (больше чем 2^24) выводится с дробной частью :-) — andy_P (21.04.2006 18:00 80.82.63.185, пустое)

Перейти к списку ответов ||| Конференция ||| Архив ||| Главная страница ||| Содержание

E-mail: info@telesys.ru