近几个月来，以ChatGPT为代表的生成式人工智能狂飙突进，大模型时代已然降临。在“百模大战”越战越酣之时，大模型其内生及衍生安全威胁也愈演愈烈，数据泄露、幻想、生产歧视、排斥和有害内容等安全问题层出不穷。
如何将制约大模型应用发展的“绊脚石”变为“压舱石”?
7月7日，清华大学人工智能研究院孵化企业瑞莱智慧RealAI在2023WAIC世界人工智能大会上，重磅发布了全新人工智能安全平台RealSafe3.0，为“加速度”发展中的大模型系好“安全带”、把好“方向盘”。
瑞莱智慧RealAI联合创始人、算法科学家
现状：“双刃剑”效应，制约大模型落地
和所有通用目的技术一样，自人工智能诞生的那一刻起，创造技术的力量和控制技术的力量就存在不对等。新技术必然会带来新的安全问题，这正是技术两面性。大模型亦是如此，尽管它的强大已让人类瞥见了通用人工智能的曙光，但也让众多学界、业界人士心生忧惧。前不久，就有全球400多位专家发布联名公开信，警告人工智能发展速度过快，缺乏监管，可能会危及人类生存。
他们的担忧并非危言耸听。近段时间以来，关于大模型的安全隐患屡见不鲜，例如：机密文件被泄露、添加无意义的字符后模型竟给出完全相反的回答、输出违法有害内容、隐含对某些人类社群的偏见和歧视等等。
这一新兴技术带来的风险，已经引起世界各国的高度关注。国家互联网信息办公室4月11日起草《生成式人工智能服务管理办法(征求意见稿)》公开征求意见;欧盟于6月14日投票通过了《人工智能法案》，以期法律法规引领技术向好向善发展。
瑞莱智慧联合创始人、算法科学家萧子豪认为，大模型“落地难”的本质在于，当前仍处于“野蛮生长”阶段，还没有找到场景、风险和规范三者之间的平衡点。而在探寻这一平衡点的过程中，缺少易用和标准化的工具，即在技术层面上缺乏有力抓手，能够科学评判大模型在场景中能否同时满足规范和低风险，且能够进一步定位问题并给出优化建议，助力模型上线运行。
出路：源头上找症结，技术上找对策
因此，瑞莱智慧在2023世界人工智能大会上，正式发布人工智能安全平台RealSafe3.0版本。它是集成主流及RealAI独有的世界领先的安全评测技术，能够提供端到端的模型安全性测评解决方案，解决当前通用大模型安全风险难以审计的痛点问题。
相较上一版本，RealSafe3.0新增了对通用大模型的评测，在评测维度上，它已覆盖数据安全、认知任务、通用模型特有漏洞、滥用场景等近70个评测维度，全方位多维度地评测通用大模型的性能，且未来还会持续扩增测评维度的数量。
“评测只是手段，帮助通用大模型提升其自身安全性才是核心目的。”萧子豪说，不能因为对于被技术反噬的担忧就止步不前，创造新技术和控制技术危害应该同步进行，“瑞莱智慧的办法是，从源头上找到症结，再用‘魔法’打败‘魔法’。”
如果将人工智能模型比作“引擎”，数据则是模型的“燃料”。可以说，数据集质量直接影响模型的内生安全。因此，RealSafe3.0内部集成了多个自研模型和专家论证高质量数据集，来帮助用户修复模型中的问题。
对黑盒不可解释的通用大模型，自研红队对抗模型取代人工设计问题，显著提升攻击成功率和样本多样性。也就是说，该模型数据集中，不仅包含了自有数据集，还包含了模型自生成的数据，无论是从数据质量还是数据规模上都可圈可点，因此它能够自动化地挖掘出更多的漏洞，真正从源头上缓解安全问题。
教练模型则通过对被测大模型进行多轮次的提问-回答训练，并以训练好的评分模型对问答结果进行评分，再将评分结果反馈给大模型，使其不断强化学习到好坏答案的要点及区别，直至问答能力逐步迭代至最优。除了定制化的训练框架，教练模型理想的模型效果还得益于夯实的数据基础，瑞莱智慧自有数据集经过数十位价值观领域的专家论证，以确保输入的数据无误，质量高且领域多元，未来也将持续更新补充。
萧子豪透露：“这些技术，都是基于自研多模态大模型底座实现的。”
瑞莱智慧人工智能安全平台RealSafe3.0通用大模型测评及优化工作流程
结语：用AI打败AI，用智慧驾驭智能
除了可提升生成式大模型安全性的RealSafe3.0，瑞莱智慧此次还带来了能够防范生成式人工智能恶意滥用的DeepReal2.0。据悉，DeepReal此前名为 伪造内容检测平台，现已正式更名为生成式人工智能内容检测平台，因为它除了能够检测Deepfake内容，还新增两个功能模块，可以检测Diffusion、LLM这两类新方法生成的数据，支持对图像、视频、音频、文本进行是否伪造的检测。应用场景包括打击网络诈骗和声誉侵害行为、检测网络内容合规性、检测音视频物证真实性等，可对生成式人工智能技术滥用行为进行管控和治理。
自2018年成立以来，瑞莱智慧就致力于研究和发展安全可控的第三代人工智能技术，建立通用AI模型能力和人工智能安全能力：通过通用人工智能模型来适应各类复杂的智能应用场景和任务;并通过人工智能安全能力，真正使AI造福人类整体利益。
瑞莱智慧坚持源头创新和底层研究，在生成式人工智能等领域不断发表世界领先科研成果。成立以来，瑞莱智慧研发团队核心成员在人工智能领域顶会上发表论文数百篇，多次在国际测评和竞赛中斩获冠军，获得授权专利100余项。同时，瑞莱智慧积极推动行业规范化，累计参与30余项国家标准、行业标准制定。此外，瑞莱智慧已与网信办、工信部、公安部及下属多家单位展开深入的项目合作。
“从古至今，技术始终都是一把‘双刃剑’。通用人工智能的时代必将到来，如何让人工智能扬长避短，如何用人类智慧驾驭人工智能，是从业者的一道长久课题。”萧子豪说，这也是瑞莱智慧一直努力的方向。未来，RealSafe3.0将在保障通用大模型和专有模型安全、可靠、可控上，发挥强大作用。瑞莱智慧也将持续迭代技术、打磨产品，以确保在这场人工智能安全“攻防战”中始终立于不败之地，将人工智能的两面性这一“关键变量”，转化为高质量发展的“最大增量”。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
