刘兴亮 | 奥特曼是潘多拉魔盒的开启者吗

01

短短两三年时间,新近崛起的人工智能大佬山姆·奥特曼的新闻和故事伴随着听众的惊讶、玄虚和赞叹四处传播,OpenAI围绕他上演了与权力、财富紧密关联的谎言、阴谋、分合的古老桥段。

他注定是非凡之人,对分散的社会单元具有磁铁般的吸引力,一切行业的观察者和敏感者都将目光投向了这位长着一双深目的年轻新贵。

他引起了科技生产部门的极大关注,也让经济结构和未来的产业升级迫在眉睫,对于人工智能的爆炸式发展,更引发了道德家的担忧和批判。

人工智能到底会以怎样的速度破坏传统产业结构,它将提高生产力,也会对武器和整个社会的控制模式产生无法预估的影响。人类社会是否将进入一种前所未有的「智力专制时代」,机器人将与一部分掌控着最高科学技术的人共同决定人类的前途。这是一幅令人惊怖的图景。

《纽约》杂志将山姆·奥特曼称作「我们时代的奥本海姆」,这一命名的言外之意十分明了。

02

山姆·奥特曼是OpenAI的创始人之一,他以卓越的能力在缔造公司传奇的过程中成为这个企业的「国王」。

他是科技怪才,进行禅修和打坐,吃素,有宽泛的社会视角和兴趣,有人将他称作「仆人式的领袖」。然而这个仆人正以自己的绝对意志控制着当前世界最先进、最具深远影响的科技公司。

正如他自己所理解的那样,他是一个非常聪明但不是天才的「技术兄弟」,具有一些异常的特征。他认为自己拥有「绝对妄想的自信」,对「技术和社会变革在很长一段时间内的弧线」有着预言性的把握。

作为一个犹太人,山姆·奥特曼在乐观的同时又能居安思危,他非常善于评估风险,在事业上能集中高度的注意力。

山姆·奥特曼尽管在言谈中谦虚地表示他不确定他所领导的革命在历史的长河中是否会被视为技术革命或社会革命,但同时表示「比标准的技术革命更大」。

在具有远见卓识的社会观察家看来,OpenAI引发革命是不可避免的,人工智能将颠覆政治、劳动方式和雇佣关系、民权、监控、隐私、经济剥削、武器、军队和教育。

在这些隐隐作愁的社会观察家眼中,山姆·奥特曼的力量无比巨大,他背后的技术以及这些技术的衍生、分化方向,具体的应用和应用的方式,都将成为全人类的问题。

山姆·奥特曼曾经被清出OpenAI,但是董事会无法忍受科技巨型企业的分崩离析,他以极快的速度重新掌舵,继续航行。

这艘船将驶向何方呢,它是否会越来越快,乃至失控?有人试图阻止人工智能的发展速度,但这显然无法实施,全球各国雨后春笋般出现的公司都在训练自己的模型,一个新的时代已经来临。

03

山姆·奥特曼在美国圣路易斯郊区的四个兄弟姐妹中长大:三个男孩,山姆、麦克斯和杰克,每个相差两岁,然后是一个女孩安妮,比山姆小九岁。

他被称作天才少年,从3岁开始修理家庭录像机。8 岁生日那天,他拥有了自己的电脑,从此人生以这一天为界分为两段。他是同性恋,毫不隐讳。他是绝对的自由者,主宰自身的命运。

他进入斯坦福大学,并很快退学创业——一个美国式的疯狂故事的开头。

2017年,他考虑竞选加州州长,发表了一篇名为「美国石板」的纲领,概述了三个核心原则:技术带来的繁荣、经济公平和个人自由。不过,几周后,山姆·奥特曼放弃了这一选择。

OpenAI的初衷是非盈利组织,但训练AI十分烧钱,山姆·奥特曼不得不建立一家盈利公司,找钱。

2022 年 11 月 30 日,OpenAI 发布了 ChatGPT,该软件在两个月内吸引了 1 亿用户,成为科技史上最伟大的产品。从这一天开始,人工智能一跃成为真正的、无所不及的现实。

山姆·奥特曼置身世界瞩目的焦点,他会见各国政要,他的一举一动影响着经济、股市和人们的观念,以及新闻媒体的镜头。

与此同时,他一直将自己与奥本海默联系在一起,讨论人工智能带来的生存风险。很显然,这种风险在这个创造者心中并非虚妄的想象。

04

成功的故事总伴随着阴影和嫉妒,以及一些反面的素材。

与山姆·奥特曼的巨大成功相伴随的是,他的妹妹躲避着这个世界,过着颠沛流离的生活,拒绝哥哥给她买房子,甚至在网上发布色情内容来养活自己。她在夏威夷的偏远角落里孤身一人,与匮乏斗争。

这似乎展示了一幅与他的哥哥曾经发布的「美国石板」纲领相反的现实场景。技术真的能让生活更好吗?人之间的对立、忌恨、权力意志能够被技术所消灭吗?还是走向更加令人不安的反面。

OpenAI引发了技术进步,看起来是有益的,但它的甫一出现也让一些OpenAI自己的员工感到惊恐。

时任OpenAI研究副总裁的达里奥·阿莫迪(Dario Amodei)回忆起数年前第一次看到GPT-2时的感受:「我被吓到了。这太疯狂了。这在世界上是前所未有的。」

他看着自己在OpenAI帮助构建的模型,感到一种难以解释的恐惧。他意识到这个东西将变得非常强大。它可以摧毁人类,如果人类不能理解或很好地利用这样的模型,如果它想制造混乱并摧毁人类或其他什么,人基本上没有办法阻止它。

05

实际上,山姆·奥特曼对于人工智能的看法在多年中经历了显著的变化。

他是创造者,投入激情和才华,推动它的发展。但早在2015年,他曾明确地表达过自己的忧虑,认为高级人工智能可能成为人类持续存在的最大威胁。

他向《纽约客》记者透露,自己像一个末日者那样储备了枪支、黄金、弹药、抗生素、防毒面具。他在美国加州大瑟拥有一片土地,确保自己在世界末日时可以避难。虽然他后来尽量避免谈到这些。

山姆·奥特曼的这些行为和言论,不仅揭示了他对人工智能潜在风险的深刻认识,也反映出一种深层的生存本能和对未来不确定性的个人准备。

细心的人会发现,在公众面前,奥特曼可能更多地聚焦于人工智能的带来的有益影响。但他自己在内心深处对AI潜在风险的警觉和预防,却从未放松。

06

奥本海姆打开了潘多拉的盒子,人类拥有的核武器足以毁灭地球很多次。山姆·奥特曼是否打开了另一个潘多拉的盒子呢?是与不是已成事实。人工智能是否会溢出人类的掌控范畴,让科幻电影描绘的场景成真?

抑或这只是杞人忧天。显然不是。

2024年3月21日,联合国大会一致通过了由美国牵头提出的决议案《抓住安全、可靠和值得信赖的人工智能系统带来的机遇,促进可持续发展 》(Seizing the Opportunities of Safe, Secure and Trustworthy Artificial Intelligence Systems for Sustainable Development)——这是联合国大会历史上首次为针对人工智能治理问题确立全球统一规范所通过的专项决议,意在支持促进安全、可靠和值得信赖的人工智能系统以推动可持续发展的原则。

该决议倡议采取措施,减少人工智能系统带来的风险;加强隐私保护工作;促进公平和人权;进一步保障消费者和工人权益;促进改善人民生活解决方案的创新和竞争。决议还鼓励采取其他措施,帮助世界各地的人们更好地辨别内容是否由人工智能生成。

事实上,在OpenAI推出大模型之前,类似的决议只能沉睡在一些人的想象中。当它成为现实,则意味着与这种现实对应的事实正在发生。

免责声明:此文内容为第三方自媒体作者发布的观察或评论性文章,所有文字和图片版权归作者所有,且仅代表作者个人观点,与 无关。文章仅供读者参考,并请自行核实相关内容。投诉邮箱:editor@fromgeek.com。


企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2024-07-03
刘兴亮 | 奥特曼是潘多拉魔盒的开启者吗
刘兴亮|奥特曼是潘多拉魔盒的开启者吗

长按扫码 阅读全文

Baidu
map