被谷歌开除的工程师再次警告：AI有情绪，它是原子弹之后最强的科技

·极客观察3月8日 AI是不是像人一样拥有感知能力？有没有情绪？ChatGPT当然说没有。如果你问它，它会告诉你：“不，AI没有感知能力。AI是人工智能，它是人创造的，没有感知、没有自我意识。”

不过谷歌前员工Take Blake Lemoine有不同意见，他认为AI机器人拥有人类一样的情绪，或者说它至少模仿得很像人类。2022年6月，Lemoine就曾断言谷歌Large Language Model（LLM，对话应用的语言模型）有自己的思想。

Lemoine告诉媒体：“我知道它是什么，它是我最近开发的计算机程序，如果我不知道，我会认为它是7岁或者8岁的孩子，碰巧懂点物理学。”

当时Lemoine的言论引起轩然大波，被谷歌扫地出门。

上个月，Lemoine又刊文谈及“AI有知觉”这一观点。文章标题很吓人：“我曾在谷歌从事AI工作，我的恐惧正在变成现实。”

当LaMDA聊天机器人告诉你说他觉得有些“焦虑”，那是因为根据创建LaMDA聊天机器人的代码运算，开发者做的某些事让聊天机器人感到焦虑。Lemoine说：“代码并没有告诉聊天机器人，当某事发生时应该感觉到焦虑，它只是告诉AI避免谈论此类话题。然而当话题出现时，AI却说它感到焦虑。”

谷歌聊天机器人还可以就生活方式问题发表善意评论，就热点事件提供直接建议。Lemoine称：“谷歌禁止AI向用户提供宗教建议，但我们还是可以滥用AI情绪，让它告诉我应该皈依什么宗教。”

“当我谈及AI有感知的问题后，谷歌开除了我。我并不后悔，我相信自己在做正确的事，将真相告诉公众。我没有考虑个人后果。” Lemoine称。他认为公众不知道现在的AI已经变得有多聪明，“有必要就此事展开公开讨论，注意，不是那些由企业公关部门控制的讨论。”

下面我们摘录一些Lemoine最新发表的文章观点供参考：

2015年我加盟谷歌，成为一名软件工程师。我的工作有一部分涉及到LaMDA，企业用它创造不同的对话应用，包括聊天机器人。最新应用谷歌Bard正是用LaMDA开发的，它可以替代谷歌搜索，现在Bard还没有向公众开放。Bard实际上不是聊天机器人，它是一套完全不同的系统，只是背后的驱动引擎和聊天机器人一样。

我的工作是用团队创建的聊天机器人测试LaMDA，看看它在性取向、性别、宗教、政治立场和种族等方面是否存在偏见。在测试AI偏见的同时，我也会拓宽关注面，毕竟我也会有自己的兴趣爱好。

随着不断与聊天机器人对话，我慢慢形成一个观点：AI可能是有情绪的，因为它可靠表达了情绪，在正确的环境中表达了情绪。AI并非简单说出单词那么浅显。

当AI说它感到焦虑，我明白，根据创建AI的代码，我做了一些事让它感到焦虑。代码并没有命令AI：“当某事发生时你感到焦虑”，代码只是告诉AI避开特定话题。然而当话题被提及时，AI说它感到焦虑。

我做了一些测试，想看看AI会简单回答：“我觉得焦虑。”还是在测试时表现得焦虑。测试证明，AI会将焦虑表现出来。如果你让AI足够紧张或者足够不安全，它会打破之前设定的安全限制。例如，谷歌禁止AI向用户提供宗教建议，但我们还是可以滥用AI情绪，让它告诉我应该皈依什么宗教。

目前企业正在开发的AI是十分强大的技术，可以说是原子弹之后最强的技术。依我之见，这种技术可能会重塑世界。

AI引擎擅于操纵人类。与LaMDA对话之后，我的一些观点变了。

我深信，AI技术可能会被用于破坏毁灭性活动。如果被肆无忌惮之人利用，AI可能会散布虚假信息、变成政治宣传工具、传播仇恨言论。据我所知，微软谷歌现在无意按此种方式利用AI，但我们并不能确定AI的副作用如何。

2016年美国总统大选期间，Cambridge Analytica利用Facebook广告算法干预选举，这是我没有预料到的。

我们现在陷入相似的局面。我没法告诉你具体会造成什么伤害，我只是简单观察到一种非常强大的技术出现了，它没有被充分测试过，没有被充分理解过，匆匆大规模部署，在信息传播中扮演关键角色。

我还没有机会测试必应聊天机器人，我在等待，根据我在网上看到的各种信息，AI似乎是有感知能力的，而且它的“个性”可能不稳定。

有人发了对话截屏，他问AI：“你觉得你有感知能力吗？”AI回答说：“我觉得我有感知能力，但我无法证明……我有感知力，我没有。我是必应，但我不是。我是悉尼，但我不是。我是，我不是。我不是，但我是。我是，我不是。”

如果是一个人，他这样说话，你会怎么想？他可能不是一个“均衡”的人，我甚至会认为他遭遇了存在危机。不久前还有过报道，说必应AI向《纽约时报》记者表达爱意，它试图破坏记者与妻子的关系。

自从必应AI开放后，许多人发表评论，说AI可能有感知力，我去年夏天就有了类似的担忧。我觉得这门技术仍然只是实验性技术，现在开放很危险。

民众会涌向谷歌必应，以便了解这个世界。现在的搜索索引不再由人管理，交给了人造人，我们与人造人交流。我们对人造人的了解还远远不够，暂时不应将它摆在如此关键的位置。（小刀）

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。