7月7日，由南方都市报、清华大学人工智能国际治理研究院主办，中国科协-复旦大学科技伦理与人类未来研究院和上海人工智能实验室协办的“人工智能创新与治理”论坛在上海召开。本次论坛邀请了多位来自国内外的大咖专家参与，并针对近年来出现的AI换脸诈骗、大模型生成虚假信息、AIGC版权归属争议等聚焦生成式AI潜在的风险与问题，发布了《生成式AI伦理与治理倡议书》(下称《倡议书》)。据了解，这也是国内首份由智库媒体发起、跨行业联动发布的生成式AI治理与伦理倡议书。赛博昆仑创始人兼CEO郑文彬，与30余位专家、学者、公众人物一道，联合署名发布了本次倡议书。
《倡议书》提到，近年来，“AI诈骗”、“AI犯罪”等关键词开始走入公众视野，出现了一系列“网聊10分钟骗走430万元”等真实案例，而利用AI换脸、AI拟声技术等佯装好友实施诈骗，以及利用人工智能软件 “捏造”罪名、生成虚假案例，生成内容涉嫌侵犯知识产权等问题，更是屡屡见诸媒体。
如何区分足以“以假乱真”的AI生成内容、当AI生成内容造成侵权或违法问题时，如何认定相关责任，以及类似的问题如何利用技术手段去管理，都成为本次会议讨论的焦点。
据南都数字经济治理研究中心介绍，本《倡议书》最终形成了“七大原则”和“七大建议”，内容包括确保安全、客观公正、信息披露、尊重自主、可问责可追溯、人工把关、敏捷治理等。其中“确保安全原则”提出，相关企业或组织应采取足够的管理措施和技术手段，积极防范生成式AI技术产品的漏洞攻击风险，并在产品的整个生命周期中保证用户隐私及个人信息的安全。
赛博昆仑方面表示，随着人工智能技术的高速发展，特别是AIGC出现以后，网络安全开始遭遇到新的问题与挑战，新的使用场景，带来了新的攻击手段和安全隐患。对此，除了社会各界深入关注、恪守公德边界之外，技术手段的“硬手段”，往往才是最终的解决之道。
赛博昆仑代表认为，AIGC的内容安全不仅仅牵涉到数据以及隐私泄露，也同时关乎模型训练、标注、应用，以及长期舆情监控的各个环节，其中任何一个环节存在漏洞，都可能引入相关风险。对此，赛博昆仑代表表示将充分发挥自身优势，与社会各界一道，积极参与应对防范AIGC安全问题的行动中来。
作为《倡议书》的签署方，赛博昆仑在防范漏洞攻击、确保信息安全方面，恰恰是国内顶级技术能力驱动的网络空间安全服务商，在高危漏洞攻防、0day漏洞预警应急等方面，拥有国内首屈一指的技术实力。公司旗下安全研究团队“昆仑实验室”，由国内顶尖安全研究人员组成，自成立以来，已多次斩获Pwn2own、天府杯、强网杯精英赛等国际顶级黑客大赛最高荣誉。而其旗下高级攻防团队成员，则均来自一线大厂的攻防实验室，并作为攻击队核心成员，在大型护网、区域/行业级护网、企业级护网中表现优异，取得过多项优秀成绩。
赛博昆仑代表最后表示，未来将从技术角度出发，积极践行《倡议书》的原则和方向，为生成式AI更加健康、稳定的长远、安全发展，贡献自己的力量。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
