Операции с плавающей запятой в Keil mVision («Телесистемы»: Конференция «Микроконтроллеры и их применение»)

Разработка, производство и продажа радиоэлектронной аппаратуры

| Карта сайта | Пишите нам | В избранное

Требуется программист в Зеленограде
- обработка данных с датчиков; ColdFire; 40 тыс.
e-mail:jobsmp@pochta.ru

Телесистемы | Электроника | Конференция «Микроконтроллеры и их применение»

Операции с плавающей запятой в Keil mVision

Отправлено гип 06 октября 2009, г. 12:50

Здраствуйте!
Программа для LPC2104 содержит такой фрагмент:

float a;
a=12.52;
a=a*1000.0;

В результате a=12535 (а не 12520 как хотелось бы). Как получить корректный резудьтат?

Составить ответ | Вернуться на конференцию.

Ответы

double не пробовал ? - DASM (06.10.2009, 13:21:52 203.185.50.220, пустое)
- Ответ: Пробовал double - в ф-ции main работает, а если пересылать в другую функцию (тип аргумен...{+} - гип (07.10.2009, 08:53:9 94.75.5.43, 236 байт)
В настройках проекта точность FLOAT попробуй поменять. Там по умолчанию 3 знака после запятой. - _MICV_ (06.10.2009, 13:07:5 192.168.12.62,195.91.155.90, пустое)
- Ответ: Ткните носом, не найду никак... (в Options for target нету) - гип (06.10.2009, 13:18:31 94.75.19.100, пустое)
  - Упс... Это я глупость сказал, со сравнением перепутал.. - _MICV_ (06.10.2009, 14:49:41 192.168.12.62,195.91.155.90, пустое)