по поводу недавней дискуссии по методу наименьших квадратов - посыпаю голову пеплом
(«Телесистемы»: Конференция «Микроконтроллеры и их применение»)

миниатюрный аудио-видеорекордер mAVR

Отправлено Max_Fly 02 июля 2004 г. 17:16

ошибка по всей вероятности была у меня в ДНК. я забыл что работаю под самой лучшей осью реального времени - у которой самый продвинутый компилятор. И кое где где было умножение флоата на целое забыл явно привести целое к флоату. в результате - компилятор решил соптимизить код и округлил кое где. А поскольку мои кружочки в системе координат далеко от центра - играют роль сотые и тысячные. вот это округление и сыграло против меня. На нескольких тестовых примерах от диаметра 4 до диаметра 200 отработало нормально. последний результат center is : X=250.029556 Y=250.192368
radius is : R=3.938962 при эталонных 250, 250, 4. из окружности было только 3 точки.

Составить ответ  |||  Конференция  |||  Архив

Ответы



Перейти к списку ответов  |||  Конференция  |||  Архив  |||  Главная страница  |||  Содержание  |||  Без кадра

E-mail: info@telesys.ru