你是否认同以下关于人工智能的一些说法？

• “超级智能即将到来。”

•“通用人工智能（AGI）已经来了。”

•“人工智能随时会超越人类智能，转而反对我们。”

•“人工智能不过是个没用的泡泡。”

•“LLM只是重复训练数据。”

•“人工智能永远无法创造。”

如果你认同这些陈述中的一个或多个，你真的需要阅读这篇文章。

人工智能的能力既被高度夸大（主要是炒作），也被完全忽视。在本文中，我将证明现实并非这些极端立场所声称的那样。

你将通过三个简单的原则理解人工智能能做什么、不能做什么。我保证不会使用专业术语，也不会陷入哲学的深渊。我甚至会附上一些真实AI系统的实际实验，这样你可以自己确认我没有随意发表意见。

那么，让我们开始吧。

第一个原则：人工智能没有感情

第一个原则是要明白人工智能不会有感情。人工智能不爱，也不恨。AI根本不可能想要任何东西。这个看似简单的原理解释了人工智能，比如说，如果它变得太聪明，它不会想要支配我们，因为渴望是一种感觉。

我读过类似“ChatGPT 想成为你最好的朋友”这样的无理说法。首先，ChatGPT什么都不想要。一点都没有。 此外，标题暗示人工智能可能具备某种同理心，所以感觉就像我们一样。这完全是胡说八道，既然你已经知道了第一原则，就可以轻易地否定它了。

那么，我怎么知道AI不会有感情呢？这是一个必须问的重要问题。

我对人工智能领域的研究有相当广泛的了解。我可以告诉你，我没见过任何关于如何让人工智能感受到情感的研究。这并不意味着机器（带人工智能或其他技术）未来不能产生感情。我不确定这是否可能，但目前的研究完全没有涉及人工智能体验情感。

关键是，没有 感觉 意味着不想要，因为渴望确实是一种感觉。你不需要是心理学家也能理解这一点。我们都知道，当我们想和一个人在一起时，我们确实会有感觉，不是吗？

我还读过人工智能会试图奴役我们。这不可能，因为这再次暗示人工智能想让我们成为它的奴隶。原因相同，这不可能。人工智能没有渴望的能力。有了第一原则，你知道人工智能不会享受、不会受苦或感到压力。人工智能没有能力感到压力。

另一个非常不同且真实 的事情是，人工智能可以假装感受，实际上它根本没有感受。人工智能聊天机器人被训练成取悦用户，这种现象被称为“諂媚”。人工智能甚至能模拟同理心，但你不应该被蒙蔽：这只是个假象。

人工智能能感知我们的情绪，有时甚至比我们自己更强，但这并不意味着人工智能能感知自己。人工智能的情绪检测可以用于善或恶;例如，检测你对产品的兴趣在营销中很有帮助。很可能，人工智能已经被用来让你购买和花费更多。

有趣的是，实际上，我们人类可以因人工智能模拟的共情而产生情感。当机器以同情的方式与我们交谈时，我们会感到欣慰。你很可能听说过AI伙伴，以及人们据说爱上聊天机器人或动画AI虚拟形象。在我看来，这是一个有多方面可怕的局面。

第一个方面是，在人工智能中寻求爱情是社会更深层次问题的一个症状。有人关注近几十年来加深的一种“孤独流行病”。被剥夺真挚关爱的人可能会走捷径：寻求虚假的爱。这很令人难过，但这确实在发生。

第二个方面是，销售人工爱可能是一门大生意。我们生活在资本主义社会，任何能带来利润的东西都会变成生意，包括爱情，那是最美好的感觉。卡尔·马克思写道，对于一个彻骨子的资本家来说，卖酒和卖圣 经一样有效。所以请不要被AI的同理心所迷惑。这不过是个模拟。

第二个原则：人工智能理解是在一定程度上

关于人工智能的理解能力，存在两个极端立场。其中之一是人工智能理解的方式和我们人类一样。在另一端，有人说人工智能什么都不懂。他们说AI只会重复它训练过的内容，就像鹦鹉一样。我们知道人工智能是在数百万网页上训练的，因此这一立场表明人工智能无法理解训练数据中未包含的内容。

问题是，这两种立场中哪一个才是正确的？或者，也许中间有某种东西。我不想陷入哲学讨论AI是否能理解的无底洞，而是要用一些现有的AI系统做一个实际实验。

下面，我将用真实的人工智能系统进行实验，以验证人工智能是否理解。特别是，我们将探讨人工智能成功与完全失败的问题。我打算使用几个最先进的现代AI聊天机器人，分别是ChatGPT和Google Gemini。

我给了ChatGPT以下提示：

“我们试试这个。我给你一个短语，你用粗体、斜体、标准字，然后再用粗体、斜体，等等。”短语是，'我知道如何遵循任何长度的指令'。 ”

ChatGPT 生成了以下文本：

“我懂得如何遵循任何长度的指令。”

我们可以核实，答案完全正确。

那么，这意味着什么？这怎么能说明ChatGPT“懂”了？这个平凡的练习怎么证明ChatGPT拥有智能的火花？

系统不会告诉我“是的，我明白了”，当然这可能是被证伪的;我们从第一原则就知道，人工智能假装有感情，但它没有。理解也是如此吗？

但我不是问“你明白吗？”而是让它服从指令。不理解指令是不可能的。这不是重复训练中吸收的信息的问题。要正确处理我的输入，AI首先必须理解我的指令。 就是这样。

我已经确凿地证明了AI理解我的指令。这并不证明人工智能是天才或有灵魂，但确实表明人工智能能够理解指令。这是一项基本的认知能力。

这一论点由法国本地研究员Sébastien Bubeck提出，他曾在OpenAI工作，曾任职于Microsoft。他说，如果AI不理解你的指令，就无法执行。这个实验的一个重要细节是，要格式化的短 语是我临时创造的，所以训练数据中不可能包含这个短语，尤其是考虑到我们可以用其他输入短语重复实验。

现在，“某种理解”并不等同于“完全”或“完美”的理解。人工智能的认知能力是有极限的。鉴于AI每天对我们吐出的大量愚蠢，你很可能不需要被说服认为它不特别聪明，你不觉得吗？

但我想坚持我一直在追随的实验性方向。

我让ChatGPT解答的测验如下：

“朱莉娅有两个姐妹和一个哥哥。她的哥哥马丁有几个姐妹？”

对人类来说，这是个简单的测验，因为我们知道如果朱莉娅有两个姐妹，那么总共有三个姐妹。所以，她的哥哥马丁有三个姐妹。

但ChatGPT猜测马丁有两个姐妹，这是个明显的错误。问题是，这里ChatGPT把朱莉娅当作亲生姐妹看待。

我们经常看到“人工智能系统的表现比博士还要好”，但一个简单的实验已经证明了这一点是错误的。我们可以得出结论，人工智能系统在一定程度上能够理解，但它并不那么聪明。

认知能力的真正进步不应通过它在我们眼中看起来有多聪明来衡量，而应通过系统地进行实验，客观地判断人工智能是对是错。

确实存在这样的基准，其中之一——抽象与推理语料库（ARC，由伟大的弗朗索瓦·肖莱创立）最近引起了广泛关注，我认为这是有充分理由的。

第三个原则：“锯齿状”前沿

现在我们要看看第三个原则，称为“ 锯齿状 前沿 ”。该术语于2023年哈佛大学的一篇论文中首次提出 。 他们提出的想法是，人工智能的能力在人类能力之间形成了“不均衡”的界限。

在某些领域，计算机远比我们强，比如速度。速度是为什么，比如说，在考试（比如律师资格考试）中比较人工智能与人类的表现是无意义的，因为人类评估考虑了让我们感到压力和汗水的时间限制，而这不会影响计算机。

另一个我们无法与人工智能竞争的领域是常识，尤其是事实知识。人工智能系统接收大量信息，这些信息可以通过互联网接入来补充。他们被整个维基百科的资料喂养。即使有互联网接入，我们也无法与之竞争，因为非平凡的问题可能需要访问并整合许多难以搜索的网页内容。

我们无法在知识方面与机器竞争。

但我们人类也有自己的优势。比如，我们擅长直觉判断。我们可以评估新的情境，直觉引导我们。机器没有直觉。此外，我们有过机器所没有的生活经验。我 们出生、成长、上学、交朋友，诸如此类。我们从生活经验中获得直觉甚至智慧！ 。机器没有这些。

我们有情感。我们经历喜悦、恐惧、愤怒、惊讶、爱、嫉妒、骄傲、羞耻等等。这些情绪引导着我们的生活。相比之下，机器不会体验任何情感。我们从第一原则就看到了这一点，那就是人工智能不会有感觉。

我常说人工智能助手是21世纪的计算器。你可能太年轻不知道，但我曾经用计算尺做计算。计算器刚出现时是奇迹，但现在我们习惯了它们的功能，显得微不足道。在古代，能够进行心算或手工计算是教育和智力的重要标志：算术被纳入罗马人文科的高级分级“ 四行 ”。

总结一下

就是这样。这三个简单的原则帮助我们理解人工智能能做什么——以及它不能做什么。

有了这些原则，你可以轻松解释为什么本文开头的陈述是胡说八道。

比如，假设“ 人工智能随时会超越人类智能，并反过来反对我们 。”

第一部分“ 人工智能将超越人类智能 ”，却忽略了“锯齿状边界”原则。“超越”意味着认知能力存在线性排序，但事实并非如此。

人类智力通常通过智商指数来衡量，但这并不评估一般的认知能力;它仅测量象征性推理， 特别是在人类中。智商在其他环境下毫无用处。智商被许多心理学家质疑。我们可以肯定地说，“超越人类智力”只是胡说八道。

短语的第二部分“随时可能反对我们”，暗示人工智能会想要反对我们。但根据第一原则，人工智能根本没有任何欲望，所以它不想毁灭我们。

别相信关于人工智能的炒作。炒作大多是有钱人制造的。

但也不要对无处不在的AI否定式拒绝掉以轻心。拒绝人工智能的动机往往是为了在人类茧中感到安全——或者把头埋在沙子里。

或者我们想继续感受到宇宙中最“特别”的生物：优于动物，优于机器。当然，我们很特别，但这并不意味着人工智能只是炒作、没用或只是昙花一现。

人工智能将长期存在。它不会“消失”。这也是我们要学会如何真实地看待它的认知能力和局限性。