“鹏城・脑海”通用AI大模型发布：2000亿参数

9月21日消息，21 日上午，鹏城实验室主任、中国工程院院士高文在 2023 华为全联接大会上正式发布了“鹏城・脑海”（PengCheng Mind）通用 AI 大模型。

高文主任介绍，“鹏城・脑海”通用 AI 大模型以稠密型架构实现 2000 亿参数，依托“鹏城云脑 II”国产化 AI 算力平台进行全程预训练，采用了 MindSpore 昇思国产化 学习框架，完善了大规模并行训练策略、底层算子性能和容错机制，显著提升了国产算力平台的训练效率，并构建了一套涵盖中文、英文及 50 余个“一带一路”沿线国家及地区语种的多样化语料数据集和数据质量评估工具集。

本次发布的是以中文为核心的“鹏城・脑海”基础版，将在 OpenI 启智社区向全社会开源。

高文强调，鹏城实验室正同步研制“中国算力网”（China Computing Network，C²Net）全国一体化算力协同计算调度平台，以深圳为总调度中心，已汇聚全国协同算力达 3E 规模。

“鹏城・脑海”大模型将进一步依托“中国算力网”接入的协同算力，以“算力网算力调度 + 模型赋能”相结合的方式，携手国家新一代 AI 公共算力平台，共同推动国产化 AI 大模型的持续演进与部署应用，最终打造一个基于“中国算力网”的各类领域 AI 大模型及应用生态的数字化基座。

与此同时，实验室将牵头成立“鹏城・脑海”开源联合体，广泛联合企业、高校和科研院所，通过这一全新的开源群智合作模式，“一揽子”提供覆盖压缩、部署、微调与价值对齐等环节的模型工具，并加强大模型的开源管理与资源共享。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。