Т.е. Linux получает управление только тогда, когда оно не нужно RTAI или реалтаймным задачам (ответ на вопрос 2).

Там алгоритм крайне простой. Когда RTAI (или какой-то из реалтаймных задач) понадобился CPU, оно его просто отбирает у Linux, невзирая на то, чем он сейчас занимается, и без какой бы то ни было безопасности или реэнтерабельности, соответственно, это накладывает очень сильные ограничения на то, что эти задачи могут делать. Например, они не могут вызывать никаких функций, кроме RTAIшных, даже банальный вызов time() приводит к краху системы.

Никакого взаимодействия между шедулерами RTAI и Linux нет. (ответ на вопрос 1).

Место не подскажу. (вопрос 3).