Формула на Вашей совести, проверять не буду, но если она правильная, то все должно быть хорошо. А все погрешности , как любил говаривать мой однокашник, объясняются непрецизионностью вычислений, а также переходным процессом в фильтре. :-)
(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)