[an error occurred while processing this directive]
Если 3 байта то мин число 2 в -23 как минимум а тут числа 0.2/20 да и точность то великая не нужна
(«Телесистемы»: Конференция «Микроконтроллеры и их применение»)
Отправлено
Kostofey
17 марта 2006 г. 14:09
В ответ на:
ну у float мантисса 3 байта, сами посчитайте какая точность вычислений. Плохая точность будет особенно заметно когда одно число от другого сильно отличается по размерности
отправлено Elektronik 17 марта 2006 г. 14:04
Составить ответ
|||
Конференция
|||
Архив
Ответы
При чем ситуация хуже тем что две одинаковые формулы следующие друг за другом считаются по разному одна правильно другая нет
—
Kostofey
(17.03.2006 14:12
195.22.132.3
,
пустое
)
оптимизатор небось на макс?
—
ы
(17.03.2006 14:31
80.92.98.211
,
пустое
)
На этапе отладки оптимизация всегда на лоу
—
kostofey
(17.03.2006 18:19
193.17.208.254
,
пустое
)
либы не оптимизируются.
—
=DDD=
(17.03.2006 15:25
81.3.156.42
,
пустое
)
либы нет, а остальные вычисления (размещение результата) да, причем в дебагере может совершенная чушь отображаться при макс оптимизации
—
ы
(17.03.2006 15:29
80.92.98.211
,
пустое
)
Чушь отображается _только_ если локалка или ее текущее значение более не нужны.
—
=DDD=
(17.03.2006 15:44
81.3.156.42
, 88 байт)
Отправка ответа
Имя (обязательно):
Пароль:
E-mail:
NoIX ключ
:
Запомнить
Тема (обязательно):
Сообщение:
Ссылка на URL:
Название ссылки:
URL изображения:
Перейти к списку ответов
|||
Конференция
|||
Архив
|||
Главная страница
|||
Содержание
E-mail:
info@telesys.ru