Вопрос 1. Вообще удалите эту матрицу из статьи. Она не является ни Rx, ни Rs, хотя ближе к Rs. Дело в том, что для того, чтобы она была Rs необходимо еще домножить на амплитуду.
Вопрос 2. Со знаком "плюс" или со знаком "минус" - роли не играет. Дело в том, что операция "Н", которую делают над вектором е ниже, означает "эрмитизацию" (перевод на русский язык - транспонирование + комплексное сопряжение). Это следует хотя бы из того, что на главной диагонали АКМ должны получаться действительные значения. Почему? Спрашивайте - отвечу.
Замечание. Очевидна еще одна описка. Вектор е1 должен быть вектором-столбцом. В противном случае хотя бы не имеет смысла (8).
Вопрос 3. Выражаясь русским языком, ранг - это число линейно-независимых строк (столбцов) в матрице. Здесь ежику ясно, что вторая строка линейно зависит от первой, третья - от второй (впрочем, как и от первой), и т.д. Если не понятно, почему - пишите, отвечу.
Потом, если время будет, отвечу на другие вопросы.