Отправлено murid0 22 апреля 2003 г. 11:08 В ответ на: 2SM & BLACKEAGLE: подкиньте идейку отправлено вопрос 22 апреля 2003 г. 00:03

говорят о том, что если использовать для уточнения какой либо величины усреднение либо другие методы фильтрации, то можно получить увеличение точности лишь в корень квадратный раз от избыточности отчетов. В вашем случае на частоте выдачи в 1000 раз меньшей можно получить только 30 кратное повышение точности. Для неопределенного сигнала это предел. Если же знать спектр шумовых составляющих, то можно их ослабить спектральным фильтром. И даже для той разрешающей способности, которая у вас получилась непосредственно с источника необходимо применять математику с разрешением не менее 3*разрядность входных данных (42-48 бит мантисы). Иначе будете иметь на выходе практически только шум вычислений.

• В случае усреднения - да, sqrt(n) — вопрос   (22.04.2003 11:14, 120 байт)