Чтобы представить строгую математику процессов, происходящих в ЦАП на их нелинейности, мне придется гуглить, так как это вне сферы моих интересов. Думаю, Вы это сможете сделать лучше меня.

Но как я понимаю процесс: ЦАП фактически осуществляет перемножение входного кода на свою передаточную функцию, на практике нелинейную. То, что является результатом такого перемножения, мы и видим на выходе. Как бы Вы ни возражали, ЦАП работает в дискретном времени. Он просто преобразует многоразрядное двухуровневое представление чисел в одноразрядное многоуровневое. Сигнал остается дискретизированным по времени. А уже потом аналоговый фильтр производит переход к непрерывному времени. А что будет, если внутри дискретной системы с помощью перемножителя умножить сигнал на какую-то нелинейную функцию, Вы знаете лучше меня. Конечно, в такой системе не может существовать составляющих с частотой выше Fs/2. Но в результате умножения получится такой же результат, что и при перемножении в непрерывной системе с последующей дискретизацией (и сопутствующим наложением спектров).

Что касается спектрального состава шума квантования, то действительно хрен с ним. С инженерной точки зрения ситуация, когда входной сигнал не коррелирован с Fs, является более благоприятной, так как в этом случае больше SFDR. Изучать эту ситуацию нет необходимости. Наоборот, чтобы в случае коррелированного сигнала "размазать" спектр шума (Noise-Shaping), делают dithering, иногда прямо в ЦАП.