А терминаторы не забыли поставить на все 4 провода терминаторы на Vref ? Там же LVPECL, то есть диф. выходы с открытым коллектором. Обычно Vref=Vcc-2v, то есть, для Vcc=3.3в Vref=1.3в. Причем, Vref должен быть не источником, а шунтом (управляемый стабилитрон на землю). В крайнем случае можно просто поставить на все 4 провода резисторы 130ом на Vcc и 82ом на Gnd (для Vcc=3.3в).