разрешение? Ну допустим будем считать в 64-битах. Допустим частота известна заранее, 16 кГц, и в этих 64-битах мы вычисляем отклонение от центра в герцах в формате с фикс. точкой Q63 Тогда разрешение будет 1*2^-32 примерно 1*10^-9 герц. Ну промежуточные вычисления отдельно оцениваются.

Для рассчета в реальном времени и ДЛЯ КАЖДОГО ПЕРИОДА понадобится нечто мощное, думаю что что-то уровня 5500 или 6000-ных TMS. АЦП в них не встроен, ставьте аудиокодек, который может работать с частотой 44,100 или 48000 кГц, это стандартные частоты. Если уложитесь в 55-й TMS, то будет вообще дешовка. А зато 671х или 672х умеют считать в double плавучке аппаратно.

ЗЫ Вы лучше скажите, на кой Вам такая разрешающая без точности?