3月15日，在中国人工智能产业发展联盟(AIIA)第十一次全会上，中国信通院发布大模型标准符合性验证结果，华为云盘古凭借大模型安全解决方案——盘古安全护栏完成软硬件、数据、模型、应用等可信模块测试，成为业界首个在大模型可信领域获得卓越级(5级)评分的大模型产品。
华为云盘古大模型获得信通院可信要求5级评分
全新盘古安全护栏，信通院可信满级认证
近年来，我国人工智能产业在《“十四五”数字经济发展规划》《“十四五”国家信息化规划》等政策引导下蓬勃发展。大规模预训练模型作为人工智能新基建的关键技术，在自然语言处理、计算机视觉等领域取得显著突破。然而，随着技术应用深入发展而来的数据投毒、不当应用等风险也逐渐凸显。
自2021年起，中国信通院开始研究大规模预训练模型标准，与多方共同建立技术和应用标准体系，推动人工智能发展。华为云盘古大模型在2022年首批参与，“模型开发”和“模型能力”两个模块达到优秀级(4+级)，在2023年大模型标准符合性验证结果中，成为业界首个在模型应用模块获得卓越级(5级)评分的大模型产品。
在本次大模型标准符合性验证中，华为云大模型安全解决方案覆盖了基础设施、训练数据、生成内容的端到端安全合规全场景，有效应对大模型数据治理、模型可信、内容合规等三大维度风险，并以文本审核、Prompt攻击检测、AIGC鉴伪、个人隐私脱敏等新型可信能力，确保应用中的可信可靠。此外，在软硬件和数据方面，盘古安全护栏保证了基础软硬件的安全性、可靠性和兼容性，以采集、预处理和使用控制实现数据可信性，并从多角度构筑数据可信能力，打造稳健、可控、合规且符合价值观的应用服务。
为引导产业发展和规范行业自律，华为云还与中国信息通信研究院联合其他相关单位共同开展编制《大规模预训练模型技术和应用评估方法 第5部分：可信要求》，为国家人工智能产业的健康发展贡献力量。
全新盘古安全护栏，筑牢大模型新防线
大模型逐渐深入行业核心系统，成为推动数字化转型的关键力量，伴随而来的还有端到端的可信挑战。盘古安全护栏，进一步强化了大模型的全链路保障，基于华为云在盘古大模型实践中积累的丰富经验和技术优势，开放兼容，能够服务于多样化的模型形态，助力企业实现大模型全链路合规。
华为云盘古安全护栏凭借四道防线，全面覆盖大模型使用的全生命周期，兼容开源、三方大模型，为企业用户提供最佳的大模型安全解决方案。
• 数据防护防线：通过数据脱敏、数据血缘、数据防毒等技术手段，从预训练模型的数据集，直至数据治理阶段，全方位保障企业构建高质量、安全合规的数据集，确保数据多样性和公平性。
• 模型防护防线：针对模型训练阶段可能遭遇的数据投毒风险，以及推理阶段训练数据、用户隐私信息泄露等风险，采用模型混淆、模型加密等先进技术，软硬件结合，加密模型，有效保障企业大模型资产安全。
• 内容防护防线：通过Prompt攻击检测等新型防御能力，实现对多种直接与间接攻击手段的有效检测，并通过对模型输入输出内容严格审核，严防生成有害或不当信息，有效应对新型安全风险。
• 应用防护防线：保护大模型在应用插件场景下的安全可靠性，确保大模型在各类应用场景中都能稳定、高效地发挥作用。
据悉，盘古安全护栏四道防线的综合拦截率超过90%，能够为企业大模型提供坚实的保障。未来，华为云将持续致力于AI技术与行业实践 融合，护航大模型技术的创新与发展，为企业用户提供更加可信的人工智能解决方案，让企业创新安心无忧。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
