悟道基础模型

悟道基础模型简介

悟道基础模型是由智源研究院开发的人工智能大模型，它涵盖了语言、视觉、多模态等多个基础大模型。悟道基础模型的目标是推动大模型产业落地和技术创新，为此，智源研究院发布了“开源商用许可语言大模型系列+开放评测平台”两大成果，打造“大模型进化流水线”，持续迭代、持续开源开放。

悟道基础模型的特点

悟道基础模型具有以下几个特点：

1. 规模宏大：悟道基础模型的规模达到了前所未有的水平，其参数规模达到1.75万亿，是中国首个、全球最大的万亿级模型。
2. 涌现性能力强：悟道基础模型能够在训练过程中产生预料之外的新能力，展现出强大的涌现性。
3. 通用性强：悟道基础模型不仅不限于专门问题或领域，而且能够处理多种不同的任务，展现出强大的通用性。

悟道基础模型的应用

悟道基础模型在多个领域都有广泛的应用，例如：

1. 语言处理：悟道基础模型在中英文高质量语料基础上从0开始训练，通过数据质量的控制、多种训练的优化方法，实现在更小的数据集、更短的训练时间内，获得比其他开源模型更优的性能。
2. 评测体系与开放平台：悟道基础模型发布的天秤(FlagEval)开源大模型评测体系与开放平台，旨在建立科学、公正、开放的评测基准、方法、工具集，协助研究人员全方位评估基础模型及训练算法的性能，同时探索利用AI方法实现对主观评测的辅助，大幅提升评测的效率和客观性。