终检评审通过 创业训练 520计算机科学技术 社交媒体国家级

本项目的目标是构建面向端侧移动设备（如智能手机、IoT、可穿戴设备等）的基础模型（foundation model）。构建首个面向移动端的基础模型基准测试集，整合移动端的机器学习任务数据集，包括NLP、CV、移动感知、多模态等场景，并度量经典大模型（LLM）在这些任务上与传统方法的性能和开销的对比。进一步地，构建面向移动端的多模态基础模型，在部分移动端数据集上使用parameter-efficient方法进行微调，达到相较已有大模型更好的效果。最后，面向移动端SoC芯片，构建并优化稀疏化大模型推理引擎，实现在移动设备上对10B左右参数大模型的高效实时推理甚至微调训练，其中训练部分主要关注面向数据隐私的高效联邦学习与大模型迁移技术的结合。