一、开题答辩题目：混合专家系统模型的构建及其轻量化方法研究
二、开题答辩人：赵鋆赫
三、开题答辩时间：2025年7月4日 上午9:00
四、开题答辩地点：自动化学院会议室505
五、开题答辩内容简介：
针对稠密Transformer模型向稀疏混合专家系统（Mixture of Experts，MoE）模型转化过程中存在的专家构建不当、路由匹配偏差及混合专家系统模型轻量化部署时冗余专家识别不精确、专家混合精度量化精度恢复困难等关键挑战，聚焦于有效的专家构建、合理的路由设计、精准的冗余专家识别、适配专家量化配置的微调策略等关键挑战，重点突破基于数据驱动结构化剪枝的专家构建、基于动态参数与共享专家的模型路由、基于层自适应重要性分数的专家剪枝、基于渐进式微调的专家混合精度量化等关键技术，为实现更高效、更稳定的MoE模型构建，探索更精准、更极致的MoE模型轻量化方法奠定基础。
六、开题答辩人简介
赵鋆赫，男，西北工业大学自动化学院控制科学与工程专业，2023级在读博士研究生，主要研究方向为模型轻量化及高效推理。
