Бугога! Давай посчитаем. (+) («Телесистемы»: Конференция «Микроконтроллеры и их применение»)

Разработка, производство и продажа радиоэлектронной аппаратуры

| Карта сайта | Пишите нам | В избранное

Требуется программист в Зеленограде
- обработка данных с датчиков; ColdFire; 40 тыс.
e-mail:jobsmp@pochta.ru

Телесистемы | Электроника | Конференция «Микроконтроллеры и их применение»

Бугога! Давай посчитаем. (+)

Отправлено Токовый клещ (95.26.40.145) 06 апреля 2010, г. 11:44
В ответ на: еще меньше зум сделай - еще прямее будет. Человек за сотые бьется при тысячном результате, а ты захотел на мониторе в пикселях ошибку увидеть отправлено MegaJohn 06 апреля 2010, г. 11:28

Все входные числа округлены до 1/16, видимо, такое отклонение устраивает автора.
А теперь вместо 189/16 подставим почти такое же число (189/16+1/32), которое, с точки зрения автора, лежит в допустимом интервале отклонений.
И получим разницу примерно на 3 единицы в точке 4095.

Как видите, дробная часть результата здесь не имеет смысла. Учите матчасть (точнее, "методы вычислений").

Составить ответ | Вернуться на конференцию

Ответы

Я про линейную апрокимацию, и то что там не прямая линия, и то что в середине получишь 3% погрешность. Учите русский и математику - MegaJohn (06.04.2010, 11:52:16 81.222.85.88, пустое)
- а я про сотые доли, за которые ты борешься ради автора. :) а прямую сдвинуть можно, чтобы погрешность была 1.5% - Токовый клещ (06.04.2010, 12:31:53 95.26.40.145, пустое)
  - сами себе противоречите, сударь. Начните с начала подветки про палку. - MegaJohn (06.04.2010, 13:43:50 81.222.85.88, пустое)
    - Не увидел противоречия. И перестаньте говорить загадками. Загадки тут я задаю. :) - Токовый клещ (06.04.2010, 13:49:5 95.26.40.145, пустое)