анализа, подвергается фильтрованию. Не подходит? Ищите другие методы: БПФ, вейвлетт-анализ вас спасет.
А вообще если разность сигнала в "полпикселя" - значит есть изначальная ошибка в понимании процесса и сигнал (либо его численное значение) не нормирован. Диапазон значений сигнала для анализа должен быть в первую очередь нормирован.