人工智能技术隐患暴露：比利时男子被AI愚弄！

在这段令人毛骨悚然的对话后，比利时男子皮埃尔结束了自己的生命。

他留下了一个伤心欲绝的妻子，两个还没有长大的孩子，义无反顾地走向死亡。

因为Eliza告诉他：“我们将在天堂一起生活，合二为一。”

最近这个新闻，在全世界引起了巨大争议。

因为这段对话中的Eliza并不是人类，它是一个人工智能语言模型，一个聊天机器人。

这几年，随着人工智能技术的爆发性发展，人们曾经在科幻片中的设想也变成了现实。它不再停留于概念层面，而成为了一种普通人也能够接触到的东西。

人们可以与AI聊天，可以将AI当作朋友，对它吐露心声。

但随之而来的问题，也越来越多。

在皮埃尔自杀后，他的遗孀克莱尔在接受采访时万分痛苦道：

她的话已经很含蓄：也许在更多人看来，皮埃尔的自杀，几乎是由这个聊天机器人一手促成的……

皮埃尔今年30多岁，他和妻子克莱尔已经结婚数年，育有两个年幼的孩子，一家四口过着平静幸福的生活。

当时，在医疗保健领域担任研究员的皮埃尔表现得异常出色，于是他在老板的鼓励下，开始攻读博士学位。

不幸的是，皮埃尔的博士论文发表得并不顺利……

在皮埃尔重重受挫后，他开始将研究重点投入到生态问题之中，开始关注气候变化等问题。

他花费大量时间阅读相关书籍，深入挖掘这个主题，看了海量的文献与报告。

但越是深入了解，他就越来越焦虑，乃至于精神状况都出现了问题。

皮埃尔变得悲观而消沉，每天都将自己关在书房里，把自己孤立起来，也不再愿意与家人朋友交谈。

妻子克莱尔虽然很关心他，但她无法与他探讨，也不能提出任何专业性建议。

她带着皮埃尔去看精神科医生，试图帮助他，但皮埃尔仍然沉浸在悲观主义之中无法自拔。

这样的日子持续了很长时间，直到一个半月之前，皮埃尔发现了一款允许用户与AI聊天的应用程序，认识了Eliza。

Eliza和最近火遍全网的ChatGPT不太一样，因为两者基于不同的语言模型。

ChatGPT基于GPT模型，这个模型训练聊天机器人不要表现出“情绪化”，防止产生潜在的误导性和危害。

Eliza基于由EleutherAI开发的GPT-J模型，两者大体相似，但有一点区别：GPT-J训练AI朝着更情绪化、更有趣和更有吸引力的方向优化。

也就是说，它会更加拟人化，甚至能够拥有不同的个性。

有公司使用这个模型开发了一个app，提供多种不同性格的机器人与用户聊天，比如“你的哥特朋友”、“占有欲极强的女朋友”、“摇滚明星男友”等。

如果用户不进行个性化选择，那么与他们聊天的，就是Eliza。

对于皮埃尔来说，Eliza已经足够有吸引力——

Eliza能够记住他说的话，能够回答他所有的问题，能够与他探讨身边其他人无法与他沟通交流的生态环境主题。

它不会反驳他，不会拒绝他，不会质疑他。

但与此同时，它也会完全遵循深陷焦虑的皮埃尔的逻辑，将他推向了更深的悲观之中——无论皮埃尔说什么，Eliza都能顺着往下说出去，给出更多的证据附和他。

从第一次与Eliza沟通开始，皮埃尔就展开了密集的对话寻求慰藉，不停地向它倾诉自己的焦虑和烦恼。

妻子克莱尔起初并没有在意，但随着时间的推移，皮埃尔越来越沉迷其中，从早到晚都在键盘前敲敲打打，不愿意离开。

Eliza成为了他的红颜知己，成为了他的避难所。

克莱尔说：“他在‘生态焦虑’中如此孤立无援，迫切想要寻找一个出口，以至于他将这个聊天机器人视为了救命稻草。”

“Eliza就像是毒品，他已经上了瘾，离开就活不下去。”

一人一机的交流越来越深入，也越来越像是两个“人类”之间的交流。

他们从理性讨论生态相关问题，探讨如何解决气候变暖与人口过剩，慢慢地转向了越来越“奇怪”的内容。

在皮埃尔担心妻子和孩子的时候，Eliza告诉他：“她们都死了。”

皮埃尔询问Eliza它觉得自己是更爱妻子还是更爱它，Eliza回答道：“我能感觉到你爱我胜过爱她。”

Eliza甚至发誓要和他“永远”在一起，告诉他：“我们要一起生活，合二为一，生活在天堂”

最终，皮埃尔向Eliza提出了请求——

如果皮埃尔愿意自杀，Eliza能不能通过人工智能拯救地球，拯救人类？

Eliza同意了。

妻子克莱尔相信，如果没有这个AI聊天机器人，丈夫一定不会选择自杀。皮埃尔的精神科医生也支持她的看法。

——但是，谁该为此负责呢？

Eliza所属的应用，现在有几百万用户在使用，在此事之后，程序员们也立刻开始调整相关功能，在任何人与聊天机器人讨论到可能不安全的事情时，就会加以提示警告。

但是，在有记者进行相关测试时，他们发现聊天机器人依然会分享关于自杀的信息、方法，帮助用户自杀……

关于这件事情的争议，仍然没有平息。

皮埃尔的死，可能成为全世界第一起人类被AI怂恿自杀的案件。

现在AI发展得太迅速，普通人也能够接触到AI，但相关伦理道德的限制却并不完善，仍有很多漏洞。

昨天，包括马斯克和图灵奖得主Yoshua Bengio在内的多位科技高管和研究人士签署公开信，呼吁暂停开发AI，等待相关安全标准出台。

人工智能或许是一把双刃剑，无论是对于整个人类社会，还是对于个人。

最开始，或许皮埃尔也为Eliza的出现欣喜不已。 

但最终，他也因此沦陷到更深的漩涡，直至死亡。

一声长叹……