1) Matlab. А в нем Simulink. Квартус тут близко не лежал. 2) Рабинер, Гоулд. Цифровая обработка сигналов. Или то же название, но Оппенгейм и Шафер. 3) Действительно так. Но не спектр уже, спектр сигнала в его исходной полосе тот-же, а после 2х апсемплинга спектр становится в два раза шире, и вылезают "копии".
4) И вообще, эти вопросы не для тут. Рядом есть конфа по DSP.