【聚焦WAIC 2024】图灵奖得主姚期智：AI面临三大风险 我们不能无动于衷

7月4日消息 2024年7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议-全体会议在上海世博中心举办。

本次全体会议现场，姚期智（2000年获奖）、罗杰·瑞迪（1994年获奖）、曼纽尔·布卢姆（1995年获奖）等三位享誉全球的图灵奖得主，与原微软执行副总裁、美国国家工程院外籍院士沈向洋，一同联袂进行了一场围绕人工智能治理协同创新的巅峰论道。

姚期智表示，AI风险来自于三个方面：

首先，随着AI能力出现，传统的数据和网络安全风险被放大，AI会将管理数据安全的困难放大100倍。

其次，没有意识到的社会风险，AI非常强大且有很多种使用方式，是存在在短期内颠覆现有社会结构的可能性；比如，AI可能带来大规模的失业。

第三，生存或者存在的风险，强大的AI技术在改变世界，这一次颠覆性的力量可能比核生化威胁更加威胁。“所有这些风险都需要很多专家来解决，不仅是科学家，还可能需要政府、律师、经济学家来参与，几乎涉及到每一个行业。”

姚期智指出，AI相当于网络风险的放大。“AI可以说有些是无法解释，在数学上无法掌握，对我们来说是一个挑战。”

“简单来说，突然发现了一个方式，创造一个新的物种，这个物种比我们强大很多很多倍，我们是不是确定能跟它共存？如果无动于衷，就会被灭亡，这也是毫无疑问。这也是计算机的本质，或者是恶意行为者所带来的情况。”姚期智表示，“一方面我们把AI控制好，毕竟这是我们设计出来的；另外一方面，也不希望它被我们给破坏了，权衡是非常困难的。正如图灵所说，这是无法预测的，预测不了机器有了足够算力之后会做什么。”

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。