Угол расхождения постоянный, усреднить пару десятков-сотен смежных кадров. Яркую метку на тусклом фоне выделить на картинке не слишком большая проблема. Диаметр метки в 1 мм вполне реален.
Вероятные проблемы - непрозрачная среда, неоднородный коэффициент преломления, сильное дрожание камеры.
Ну, и насчет точности в 1мм - принципиальна ли она ? На тестовой поверочной гладкой трубе и получить ее просто, и результат измерения что-то скажет. А реальная труба внутри давно заросла, и ее просвет может колебаться в широких пределах.