2 must_alive. Тебе в Elab приходилось выполнять операции с плавающей точкой? (+) («Телесистемы»: Конференция «Микроконтроллеры и их применение»)

[an error occurred while processing this directive] 2 must_alive. Тебе в Elab приходилось выполнять операции с плавающей точкой? (+)

(«Телесистемы»: Конференция «Микроконтроллеры и их применение»)

Отправлено DM 10 июня 2003 г. 08:52

Тип float интересует.
Какую точность он может обеспечить? Сколько знаков после запятой можно сохранить?

Спасибо.

Составить ответ ||| Конференция ||| Архив

Ответы

3 байта мантисса - примерно 6,7 знаков после запятой. — Rintik (10.06.2003 09:45, пустое)
- Не после запятой, а всего 7 знаков — CTAC (10.06.2003 14:27, пустое)
  - Почему ровно семь? Например, число 1.0000152587890625 хранится очень точно, а там не 7 знаков! — Rintik (10.06.2003 15:04, пустое)
    - Класс!!! А другие числа отменим :) — CTAC (10.06.2003 15:28, 75 байт)
      - Вопрос звучал: "Сколько знаков после запятой МОЖНО сохранить?" Можно и 15 знаков - это как повезёт :) — Rintik (10.06.2003 15:38, пустое)
        
        Ну дык и я об том же :) Миллион с точностью до 6-го знака после зпт не сохранишь. — CTAC (10.06.2003 16:18, пустое)
- спасибо — DM (10.06.2003 12:05, пустое)

Перейти к списку ответов ||| Конференция ||| Архив ||| Главная страница ||| Содержание ||| Без кадра

E-mail: info@telesys.ru