Отправлено undefined 05 февраля 2005 г. 20:03 В ответ на: судя по всему т.к. на 64 бит точнее при отсутствии округлении ошибка меньше...как правильно надо делать? отправлено Извращенец 05 февраля 2005 г. 19:52

• я понял...тут случайно получилось так...а как правильнее делать? — Извращенец   (05.02.2005 20:07, пустое)
  • Правильно - считать на 80 битах мантиссы все, и только в самом конце формулы обрубать до нужной длины с округлением отбрасываемой части — undefined   (05.02.2005 20:29, 52 байт)