10月12日,在2024中国移动全球合作伙伴大会期间,中国移动携手央企及产业各方共同发布大模型评测体系建设的重要成果《通用大模型评测标准》,为产业界遴选优质大模型提供重要参考依据。


  大模型评测是助力人工智能赋能行业应用的重要一环。当前众多企业已启动大模型建设,亟需建立配套的通用大模型和行业大模型评测体系。


  为发挥大模型评测领域的引领作用,中国移动联合电子标准院及16家重点央企共同开展大模型评测体系建设工作。第一阶段将围绕通用领域和4个重点行业领域,从评测标准制定、评测基地建设、评测试点应用等方面开展工作。


  目前,中国移动携手央企及产业各方遵循“确保评测权威、加强业界协同、解决实际问题、保持开放态度”的原则,初步完成通用大模型评测标准制定,得到行业龙头央企、业界头部公司、知名高校及科研机构充分认可,为后续试点评测等工作奠定了坚实基础。


  通用大模型评测标准基于“2-4-6”框架。“2”代表两类评测视角,以重点行业实际使用需求为导向,与国标对模型能力要求拉齐,将评测任务划分为理解和生成两类视角。“4”代表四类评测要素,从评测全生命周期中提取出评测工具、评测数据、评测方式和评测指标四类关键要素,确保评测工作可实施性。“6”代表六大评测维度,综合考虑大模型应用过程中的核心能力,设定功能性、准确性、可靠性、安全性、交互性和应用性六大维度。该标准广泛吸纳产学研用各方意见,并结合行业特色场景需求,可为通用大模型全面评估提供客观依据,为AI赋能千行百业提供保障。


  未来,中国移动将联合行业龙头企业、业界头部公司、知名高校和科研机构,深入挖掘石油、电力、交通和物流等重点行业应用需求,持续打造并完善通用及行业大模型评测体系,积极建设大模型评测基地,广泛征集各中央企业及头部民企积极参与大模型评测,打造落地应用最佳实践,为提升AI+行业新质生产力,保障国产大模型高质量发展,贡献央企力量。