то, что переход на внутреннмй рс генератор улучшило ситуацию, подтверждает мысель о том что причина в хреновой трассировке. На меге16 у меня были подобные проблемы с контакторами , релюшками и моторами. Решил переделать и схему и плату, сделают платы, увидим что будет. Четырехслойку со страху заказал.(+)
(«Телесистемы»: Конференция «Микроконтроллеры и их применение»)
У тебя видать с землей - питанием проблема. И шаманство с BOD это подтверждает. Кстати, в условияж помех по питающей сети лучше импульсный обратноходовый источник питания использовать.