Так может почитаете рекомандации по применению, может там надо злостный конденсатор какой поставить на изолированной стороне или ДЦ/ДЦ по мощнее или еще что. Осциллом то гляньте что у вас твориться на линии и по питанию. Кстати, были у нас проблемы с МАХ483, с установленными терминаторами они на RX всегда 0 ставили.