Все лицензии (и на квартус, и на моделсим, и пр.) прекрасно уживаются в одном файле, на который указывает LM_LICENSE_FILE.
Но для менторовских продуктов иногда требуется еще одна переменная - MGLS_LICENSE_ILE, которая должна указывать на тот же файл, что и LM_LICENSE_FILE.
Зашлите мне в мыло Ваш HOSTID, я сделаю лицензию для ModelSim-Altera.