Отправлено Алексей Мусин 13 февраля 2003 г. 12:12 В ответ на: Признайтесь, Шура, Вы утрируете. Ентот фокус был при длинной цепи вычислений с потерей разрядности/переполнением, суть которой была, действительно 2x2(-) отправлено Peet_on_B3 13 февраля 2003 г. 12:05

примерно такими действиями: ln, ln, ln ...., e^x, e^x.
Называется - потеря точности, и лечится грамотным построением порядка действий. Помнится, в какой-то книге Дьяконова (еще по калькуляторам, а не по матлаб :) этому уделялось внимание.
Основы надо знать!

• А, это был программируемый калькулятор, под названием, по-моему "МК-65". — L.A.   (13.02.2003 12:23, пустое)
  • Это ответ Шуре — L.A.   (13.02.2003 12:28, пустое)