Ворота по АРУ вроде бы нормальные, проблем с инверсией спектра тоже, кажется нет. Посмотрите изменение сигнала от расстояния на выходе 13 (видео) ТДА 9802 - их не должно быть. Если что - удушите сигнал на приёме 75-омным аттенюатором ( есть такой девайс). Начхайте пока на согласование кабеля - они вам дадут лишь двоения. Если их нет, то в этом плане всё в ажуре.
(«Телесистемы»: Конференция «Микроконтроллеры и их применение»)