Моделировать ЦАП и регистр можно как угодно, даже полностью как аналоговую схему. От этого их поведение в реальной жизни не изменится. Но назвать регистр в DDS фильтром непрерывного времени...
Надеюсь, Вы не будете возражать, что продукты нелинейности ЦАП (сигнал ошибки) имеют бесконечно широкий спектр. На выходе ЦАП, который работает с некой частотой дискретизации Fs, спектр тоже бесконечно широкий, но он содержит повторяющиеся участки 0..Fs/2, и все это умножено на весовую функцию. Т.е. никакой дополнительной информации в копиях спектра не находится. Вопрос: куда делись составляющие сигнала ошибки, которые не попали в 1-ю зону Найквиста? Пропали? На самом деле, они отобразились в 1-ю зону и присутствуют в выходном сигнале, но уже на других частотах.
Вот Вы просите математические первоисточники. Не знаю даже, что мне нужно предоставить. Что-то из самых основ теории дискретизированных сигналов, наверное. Мне кажется, для инженера достаточно практических выводов авторитетных специалистов, например, из Analog Devices. Тем более, что всё сказанное подтверждается на практике, видел собственными глазами и слышал собственными ушами :) Кстати, очень любопытно слушать выход DDS, работающего на нескольких МГц после фильтра с частотой среза порядка 10 КГц.
Есть такой документ "A Technical Tutorial on Digital Signal Synthesis" (по ссылке). Там на стр. 26 как раз обсуждается наша тема, DAC nonlinearity. На рис. 4.10 показано наложение спектров и результирующая "грязь" в рабочем диапазоне. Или мы умные, а в Analog Devices кретины, DDS в глаза не видели? :)))