у моделсима vcom.exe лежит не в C:/MODELTECH_5.8/, а в C:/MODELTECH_5.8/win32/ - исправляйте пути в hdldesigner