Отправлено gag_avr 14 февраля 2006 г. 14:46

пример
float aa1,aa2;
unsigned int lcd_h,lcd_l;
void convert(unsigned long TT)
{
aa1=0.9*TT;
lcd_h=aa1;
aa1=aa1*100;
TT=lcd_h;
TT=100*TT;
aa1=aa1-TT;
lcd_l=ceil(0.1*aa1);
}
например TT=720;
aa1=0.9*TT; получаем 647,9999 почему,не 648

компилятор Codevision 1.24.6

• Дык float не дает больше 7-8 десятичных разрядов. Так что вполне нормальный результат, в пределах погрешности типа float — CTAC   (14.02.2006 16:17 62.183.50.164, пустое)
• А результа-то каким образом смотрите? — _Bill   (14.02.2006 15:38 193.233.83.90, пустое)
  • Ответ: AVR studio 4.11 — gag_avr   (14.02.2006 16:02 212.72.146.14, пустое)
    • Тогда чего Вы боитесь? — _Bill   (14.02.2006 16:46 193.233.83.90, пустое)
• см функцию nint — vvv   (14.02.2006 15:14 85.65.34.116, пустое)
• Ответ: как выкручиваться — gag_avr   (14.02.2006 14:59 212.72.146.14, пустое)
  • +0.5 только вот частенько придется:) — ы   (14.02.2006 15:04 80.92.98.211, пустое)
  • Округлять результат. Например прибавить 0.5 и только потом преобразовать в целое. Или, в Вашем конкретном случае с 0.9 и 720, заменить умножение на 0.9 умножением на 9 и делением на 10. — -=ВН=-   (14.02.2006 15:03 194.190.181.231, пустое)
• Потому чтоне на 0.9 умножение происходит, а на (15099494/2^24):-) . 0.9 не точно представляется. — -=ВН=-   (14.02.2006 14:57 194.190.181.231, пустое)
• компилер кривой — ы   (14.02.2006 14:55 80.92.98.211, пустое)
  • aa1= 0.9 и посмотри чему равна aa1 в hex виде - 0x3F666666 ? — ы   (14.02.2006 14:57 80.92.98.211, пустое)
• Ответ: —    (14.02.2006 14:55 213.130.7.220, 92 байт)

E-mail: info@telesys.ru