Отправлено kos 01 октября 2001 г. 18:43

Сегодня обнаружил следующий глюк - если написать
float flt=2.1;
long x;
x=(long)(flt*100);
то х=209!!!!!
причем это относится только к двум сотням.
проект на 163меге

• Ответ: 2.1 - это на самом деле 2.0999999046 со всеми вытекающими... — Юрий   (01.10.2001 19:00, пустое)
• Ответ: 2.1 - э — Юрий   (01.10.2001 19:00, пустое)
• Ответ: А по-моему так и должно быть... — Владислав   (01.10.2001 18:48, 175 байт)
  • Это понятно... Но обидно. Дело в том что Franklin для 51 вел себя более правильно — kos   (01.10.2001 19:02, пустое)
    • Ответ: Franklin и RIDE "вели себя правильно" ТОЛЬКО при BCD формате числа с плавающей точкой. — Юрий   (01.10.2001 20:56, пустое)