vivo 自研蓝心大模型 7B 向全行业开源

在 2023 年 vivo 开发者大会上，vivo 宣布率先开源 70 亿参数级的蓝心大模型 7B 以及对应的微调框架。

根据承诺，vivo 已经在 Hugging Face 平台上正式开源了 BlueLM-7B。

这款大模型包括基础和对话模型，并且 vivo 还开放了支持 32K 长文本的基础和对话模型。

据悉，BlueLM 采用了高质量语料库进行训练，该语料库包含中文、英文和少量日韩数据，共约 2.6 万亿个 token 数。其中 BlueLM-7B-Chat 在 C-Eval 和 CMMLU 上均取得了领先。

另外，BlueLM-7B-Base-32K 和 BlueLM-7B-Chat-32K 两款模型支持 32K 长文本，在保持基础能力相当的情况下，能够支持更长的上下文理解功能。

文章来源：爱范儿