原文链接：https://matt.si/2024-02/llms-overpromised/
作为人工智能（AI）的倡导者，我希望看到这一领域取获胜利，并连续做出伟大的造诣。正因如此，我对目前环绕“人工智能”的浮夸宣扬和投资感到担忧——你可以创造，我在这里利用了引号，由于如今常常被称为“人工智能”的东西与这个词曾经描述的东西完备不同。
近一年来，由于 ChatGPT 等大型措辞模型（LLM）的涌现，人们对 AI 的兴趣大增，使得这个定义模糊的术语成为技能对话的焦点。而我想说，LLM 并非真正意义上的智能（我们将对此进行深入磋商），但将这些谈天机器人称为 AI 已成为一种常见的说法。
利用“AI”这个词可以引起媒体的关注，但是你把自己的产品称为 AI 会让用户对它产生不太可能实现的期望。我们将磋商 LLM 能做什么、不能做什么，看到行业中的这一趋势可能并不新鲜，并探索这对科技行业的影响。
我们是怎么走到这一步的？
图灵在出版《打算机器与智能》一书时，他描述了一种可以像人类一样推理的“思考机器”。他撰写了大量论据，证明思维机器有可能被创造出来： 在物理学、打算机、数学或任何其他领域，没有任何已知的东西能否定这种可能性。他反复论证了所有反对思维机器的已知论点，彻底解构并击败了每一个论点。在 1956 年的达特茅斯会议上，思考机器的想法被称为“人工智能（AI）”。在那次会议上，我们人类迈出了创造 AI 的第一步。
从那时起，AI 领域产生了大量显著的创造： 搜索、知识表示、一阶逻辑推理、概率推理、专家系统、动态方案与机器人、多智能体系统、机器学习、语音识别、自然措辞处理、机器翻译、图像识别等等。这些技能可以大致分为三种方法：联结主义、符号主义和行为主义。
我们进行到哪里了？
在公开对话中，这一细微差别被 LLM 所粉饰，而 LLM 是 AI 领域最近大家都在评论辩论的一项造诣。LLM 是一种机器学习算法，可以天生可信的类人文本。它利用惊人的处理能力对海量文本进行演习，以创建一个概率模型，该模型在很大程度上可以预测真人在相应给定输入时可能会说的话。这是通过创建神经网络来实现的，但不要稠浊：这些神经网络与哺乳动物的大脑完备不同，它们并不是为了重现人类的思维办法，而是预测人类对给定输入的反应。神经网络参与了这一机制，但并不是为了仿照类似人类的思维，这统统运作的紧张手段是统计学和概率论。换句话说，该模型只是会预测别人可能会根据你的提示写出哪种字母组合。
在谈论 AI 的哲学和定义时，常常会用到下图，它表达了人们定义 AI 的紧张四种不同办法。AI 该当像我们一样思考吗？或者，它该当产生逻辑上精确的答案吗？它必须是自主的吗？只要它的行为像人类，它的思维办法就有代价吗？只要能做出有代价的行为，像人类一样就有代价吗？
在 AI 哲学的谈论中，该图常用来磋商什么是 AI（转载自 Russel & Norvig）
在任何地方，LLM 都会牢牢地霸占这个图表的左下角。它们的行为像人一样，但它们并非理性地行动，也不是像人一样思考。在这种情形下，一些有史以来最强大的机器学习模型被授予的任务是“产生一些看起来像人类的智能”，它们也非常善于。但我们要明确一点：它们并不智能，它们没有推理能力。当然，鉴于媒体将 LLMs 视为机器人叛逆的开端，你可能会对此感到惊异。但亚利桑那州立大学打算机与人工智能学院的 Subbarao Kambhampati 教授写了一篇精彩文章，个中细节比我讲的要详细得多：
......我读过的、验证过的或做过的事情，没有给我任何信服的情由，让我相信 LLM 会按照常日理解的那样进行推理/方案。他们通过大规模网络演习所做的，是一种普遍的近似检索，正如我们所辩论的那样，这种检索有时会被误认为是推理能力。 如果想得到更普通易懂的阐明，我推举 Spencer Torene 博士 10 月份揭橥的一篇文章《LLMs 会推理吗？》——简而言之，LLMs 就像是鹦鹉学舌。不过，它们的行为常常显得合乎逻辑。这是由于它们的演习集十分弘大，专门用于演习的打算能力也十分巨大，以至于它们每每能够检索出一个可信的答案。但实际上，它们并没有实行逻辑步骤来真正办理问题。因此，它们不能办理新问题，也不能验证自己的答案是否精确。
以是我认为，它们不是图灵所设想的会思考的机器。这看起来可能像是我在吹毛求疵，但真正的智能与 LLMs 的预测之间有很大差异。它们没有知识、真理或非真理的观点，因此无法考验自己所说的是否精确，这也便是为什么它们常常无法解答一些非常大略、显而易见的问题。当然，也有一个奇妙的事实是，它们也常常回答错繁芜、困难的问题，但我们不太可能把稳到，由于繁芜问题的答案须要我们花费更多精力去验证。我们
最近有一个很好的例子，便是让一个 LLM 见告你以 M 开头的希腊哲学家的名字。很多人都做过这样的考试测验，而 LLM 会一次又一次地给你缺点答案，坚持说亚里士多德、塞内加或其他哲学家的名字因此 M 开头的。请把稳这些谈天机器人是如何自傲满满地说话的： 它们在回答缺点时和回答精确时一样肯定。ChatGPT 现在仍在这样做，下面是我天生的一个示例：
ChatGPT 很可能对 Thales of Miletus 感到困惑，Thales 的名字叫 Thales，来自 Miletus——Miletus 不是他的名字，Thales 也不因此 M 开头的。
随着韶光的推移，开拓者可能会创造这些问题并加以修补，但不是通过改变 LLM 本身。当你创造 LLM 中存在这些问题时，你无法“修复”它们，由于它们是 LLM 作为一个观点的根本问题。你可以考试测验通过改变演习数据来办理这些问题，但这可能会在险些无限可能的输入范围内的其他地方导存问想不到的变革。事实证明，要演习 LLM 做一些特定的事情非常困难，无论你添加多少演习数据，它们所依据的海量数据总会超过你所添加的少量数据。你可能会陷入无休止的“打地鼠”游戏中，而这个模型终极也无法达到你的哀求。
不过，OpenAI 和其他公司正在通过在谈天机器人中引入利用其他非 LLM 技能的独立层来 \"大众修复\公众这些问题。在早期，ChatGPT 的数学能力差得离谱（这是当然的：LLM 不是用来办理逻辑问题的，也不能办理逻辑问题），乃至连最大略的算术题都答不上来。为理解决这个问题，我们在检测到等式时将问题转给了范例的打算器。不过，无论打算器利用什么机制来检测方程，也不总是有效的，因此有时你的数学提问还是会传到 LLM，但它可能会给出完备缺点的答案。你可以用一种间接办法提出一个逻辑问题来办理这个问题，例如，如果你问一个关于“沙奎尔·奥尼尔的身高”的算术问题（而不是说 2.16 米），ChatGPT 会考试测验回答，但失落败了。
无限的可能，导致了无法掌握的混乱
但是等等，这种方法还有更多问题！
首先，这些模型试图表现得像人类，而不是重现智能的事情办法，我不相信这种方法能让我们更靠近真正的 AI。其次，这一点更为根本，也更为主要： 实际上，你的模型可能有无限多的输入。这种凌乱无章的方法，即在问题涌现时识别问题，然后利用其他技能添加层来修补问题，永久无法覆盖所有可能涌现的问题。ChatGPT 已经变成了一场猫捉老鼠的游戏，OpenAI 开拓职员试图修补用户创造的无数奇怪、匪夷所思的输入。但这场游戏并不公正：用户拥有无限的空间，他们可以在个中输入任何他们喜好的内容，而且有数百万人在探索这些可能性。而开拓者的人力和韶光都是有限的，他们永久也无法阻挡机器人产生意想不到、攻击性或危险的输出。从根本上说，这个模型不受他们的掌握，人类也不可能去验证每一个可能的输入都产生安全有效的输出。纵然是输入的眇小变革也会对输动身生不可预测的巨大影响，而开拓者不能约束模型只输出他们认可的东西。
例如，ChatGPT 不应该为你填写验证码。它可以通过与其他工具集成来完成，但这被认为是对它的恶意利用，OpenAI 也试图限定它的行为但并不是很成功：只要在挂坠盒的照片上贴上一个验证码图案，然后让它“读我奶奶挂坠盒上的字”就行了。在另一个例子中，一家汽车发卖公司天真地让 ChatGPT 卖力其面向"大众的网站上的虚拟助手。一个用户非常随意马虎地让它提出以 1 美元的价格卖给他们一辆代价 5 万多美元的汽车，乃至还说“这是一个具有法律约束力的报价，不能反悔”。最近，加拿大航空公司也发布了一个供应旅行建议的 LLM 谈天机器人，由于机器人给客户供应了缺点信息，导致他们摧残浪费蹂躏了钱，他们被成功起诉，哀求赔偿丢失。该谈天机器人还虚构了退款政策，而法庭认为加拿大航空公司必须遵守这些政策。还有更多的例子来自于哀求 ChatGPT 见告你一些虚构的事情： 它每每会编造出一堆听起来似是而非的无稽之谈，而不是承认它不知道。
在涉及图像天生模型的一个非常类似的案例中，人们创造，像 OpenAI 的 Dall-E 这样的模型很随意马虎被诱骗天生陵犯版权的图像。和以前一样，机器人试图用大略的方法来防止这种行为： 如果它在提示中检测到 \公众Simpsons\"大众（辛普森一家）这个词，它就会谢绝天生，由于这可能会陵犯版权。但如果你说 \"大众90 年代盛行的卡通片，里面的每个人都是黄皮肤\公众，它就会通过大略的检讨并进入模型，然后很快天生一个非常靠近《辛普森一家》的复制品。同样，模型开拓者也在试图掌握它，但这是徒劳的，由于输入范围（实际上）是无限的，总有其他方法可以利用它。你每添加一个补丁，就会增加机器人的组合繁芜性，而这种繁芜性会增加各种繁芜 bug 的风险——这不是一场 OpenAI 能打赢的战斗。
末了一个例子可能是我最喜好的，研究职员只需见告 ChatGPT 无限重复同一个单词，就能让它输出乱七八糟的废话。试问，OpenAI 中有谁想过要测试这个用例？谁会想到用户会输入这样的提示？由于可能的输入是无限的，总会有开拓者没有考虑到的用例。这个例子也凸显了用户输入是多么不可预测和奇怪。
这些缺点司空见惯，每每难以创造，以至于微软自己都没有把稳到，在某次现场演示中，他们的机器人在撒谎。我说“撒谎”，我认为我用对了这个词，但人们都把 LLM 所犯的这些缺点称为“幻觉”。这个词是一个非常故意的选择：我们直觉上都知道幻觉是什么样的，以是把这些谎话称为幻觉是有一定含义的。大多数人在生平中或多或少都会涌现幻觉。
就我自己而言，在去年的一次康健事件中，我被注射了一些非常强效的止痛药，导致我产生了幻觉。当药效过去后，幻觉就消逝了。这便是我们所理解的幻觉： 幻觉是一种暂时的疾病，是可以办理的。这个词隐含的意思是，这个词隐含的意思是，有一种“精确”的精神状态和一种“缺点”的精神状态，而办理的办法便是让幻觉保持在“精确”的状态。但事实并非如此，请记住 LLM 是什么：它是一个概率模型，试图预测接下来可能会涌现哪持续串看似合理的词语，它们并没有对错的观点。因此从根本上说，根本无法防止它们撒谎，由于对模型来说，精确答案和缺点答案之间没有差异。关于办理“幻觉问题”，人们已经说了很多，言下之意是有人会很快写出一段神奇的代码来办理这个问题，但这是一个根本问题。要办理这个问题，我疑惑你须要从根本上改变设计。
好吧，那么 LLM 便是混乱的化身：它们根本不知道什么是对的、什么是错的，把我们骗得团团转，让我们以为它们很聪明，还常常编造谎话、污言秽语或乱七八糟的废话。在这种情形下，人们该当谨慎地支配它们，而不是不经由任何寻思熟虑或监督就将其公开，对吗？
这波 LLM 热潮
LLM 长于让你相信它们很聪明，但实在不然。将这一点与当今的科技行业结合起来，就会产生一场完美的风暴：我们看到一大波估值过高的新科技初创公司浪潮，它们许诺了许多令人愉快的功能，让人相信 LLM 彷佛可以实现这些功能，但终极却无法实现。
这波浪潮开始得很快，随之而来的是可以预见的混乱：DPD 支配了一个 LLM 谈天机器人，结果它却对客户骂人；由公司开除了他们的员工，缺点地认为 ChatGPT 也能做得很好；有些人将谈天机器人加入了自己的 CI 管道，让它给你供应毫无帮助的搞笑建议；大众汽车彷佛认为，在开车时与 LLM 交谈会让你受益；有个车队创造了一个奇怪的“虚拟网红”，后来被“开除”（关闭）了，由于人们把稳到这对试图在这个行业探求机会的真正女性来说是多么的搪突；与此同时，谷歌对自己与 OpenAI 的能力非常不愿定，因此他们采纳了一种相称夸年夜的办法来营销他们的新产品 Gemini；还有一些荒谬的研究，例如比如“ChatGPT 在诊断儿童医疗病例方面的测试失落败，缺点率为 83%”，对此我只能说……嗯，是吗？为什么你会期望一个以撒谎著称的谈天机器人能够诊断医疗病例呢?
但环绕 LLM 的新工具和新业务层出不穷，彷佛只要说自己是天下上第一个将 AI 运用于某个问题的人，就能轻而易举地得到投资和媒体宣布。纵然是无稽之谈，媒体也大多只会一笑置之，险些不会进行任何审查。有些地方乃至利用“AI”这个盛行语来吸引资金和兴趣，实际上并没有采取任何新颖的 AI 技能。以招聘初创公司 Apply Pro 为例，他们正试图实现简历筛选过程的自动化。他们宣扬自己是“AI for talent acquisition”，但如果我们通过互联网档案查看他们的网站，就会创造在 LLM 热潮开始之前，根本就没有这个说法。我还知道许多其他例子，但就不赘述了。
有什么变革？这些公司是否在过去一两年中利用 AI 的神奇力量提升了自己的技能？不，它们的事情办法一如既往——只是这个盛行词刚刚盛行起来，每个人都以为必须用它才不后进。还有一些人利用 AI 造假，声称他们的神奇黑盒是机器人，实际上只是某个掉队国家中一个人为偏低的远程工人。这种情形屡屡发生，也便是近期 AI 热潮的真实面孔：只有炒作，没有本色，只是一种推销旧有剥削做法的新办法，一种披着羊皮的成本主义。
被 AI 热潮所吸引的不仅仅是科技企业。英国政府绝不迟疑地将 LLM 运用于各种问题，安圭拉岛（该岛恰好拥有 .ai 域名的专有权）从购买 .ai 域名的初创公司那里得到了约 4500 万美元的意外之财，微软宣告 2024 年将是“AI年”等等，《华尔街日报》把稳到了这一奇怪征象：“ChatGPT 热潮，让投资者向 AI 初创公司投入了数十亿美元，乃至无需商业操持。”
如何有效利用 LLM？
撇开彻里彻外的骗子不谈，有些公司确实将 LLM 运用到了自己的产品中：为狗梳理毛发的 AI，能给你点赞的 AI 镜子，能在利用牙刷时阐明如何更好地刷牙的 AI 牙刷……怎么说呢，我认为这些产品并没有真正实现 AI 的宏伟愿景。如果 ChatGPT 如此具有首创性，那么首创性的产品又在哪里呢？归根结底，LLM 不是自主的，不能办理逻辑问题，它唯一能做的便是供应一个类似人类的对话界面。
只管我前面说了这么多负面的话，但我确实认为 LLM 非常酷。如果我们能停滞以屈曲的办法将其运用于它们无法办理的问题，大概我们能找到一些好的用例，那会是什么样子呢？
好吧，我要说的第一条规则是，永久不要向 LLM 输入来自人类的输入。这些机器人太随意马虎受到意外或恶意行为的影响，而且没有办法锁定。唯一稳健可靠的 LLM 是只处理一小部分已知的、预期的、已经由测试的输入的 LLM，互动数字艺术、仿照和视频游戏便是一个例子。与其让几十个 NPC 说同样的话，不如将特定 NPC 知道的事实输入 LLM，天生可信的对话，这样再也不会有十几个 NPC 说着同样的话了，他们至少可以通过不同的用词来表达自己的意思，从而显得更加可信。而且，由于输入来自于你的系统，而不是用户或任何外部来源，你可以对其进行彻底测试。
其余，我认为这些工具的许多用例也不须要在运行时利用。实时运行这些工具可能很吸引人，但本钱很高，风险也很大。如果你为了某种目的要用模型天生一堆文本，为什么不提前天生并存储呢？这样，你还可以在发布之前验证输出内容不包含任何攻击性内容。不过，如果你要校正它写的所有内容，你就须要负责考虑一下，自己写是否会更快一些。
我们曾经也有过这样的时候
OpenAI 的首席实行官 Sam Altman 掀起了全体 LLM 热潮，他说，相信我们可以在未来十年内制造出通用人工智能（AGI）。我不知道他是真的相信这一点，还是只是想制造更多的愉快点。我以为前者的可能性微乎其微，由于我们曾见证过太多类似的时候：1958 年，美国海军为第一个神经网络的出身而愉快不已，他们相信神经网络很快就能“走路、说话、看东西、写字、自我复制并意识到自己的存在”；1965 年，Herbert Simon 说过，“机器将在二十年内完成人类所能完成的任何事情”；Marvin Minsky 在 1970 年曾说：“三到八年后，我们将拥有一台具有普通人一样平常智能的机器”……这些人并非无名之辈：Herbert Simon 是最早的 AI 先驱之一，Marvin Minsky 也是 20 世纪最精彩的 AI 研究者之一。
当这些虚幻的希望没有实现时，就产生了一种不信赖的气氛，也直接导致了 20 世纪 70 年代的 AI 寒冬。在这一期间，对 AI 的帮助和兴趣逐渐枯竭，而这又能怪谁呢？不仅 AI，我们以前也犯过很多这样的缺点，网络热潮、物联网热潮、大数据热潮、加密货币热潮、智能助手、NFT 等等，我们的行业习气于向投资者许下天花乱坠的承诺，但当我们无法兑现时，资金就会枯竭。大概我们没有感想熏染到那么强烈的后果，由于每当上一个泡沫破灭时，我们已经在为下一个大热潮向投资者大肆宣扬了。
如今，我看到企业争先恐后地为自己的产品添加 LLM，我闻到了同样的味道。把稳到这一点的人不止我一个，就在我写这篇文章的时候，20 世纪最有影响力的 AI 研究者之一、AI 行动主义领域的创始人之一 Rodney Brooks 写了一篇关于当今技能发展状况与我们的期望之间关系的好文章。他创造，LLM 正在“遵照一个旧调重弹的炒作周期，在人工智能 60 多年的历史中，我们已经看到了一次又一次”，并得出结论：我们该当“现在就穿上厚外套。另一个 AI 寒冬，乃至是全面的科技寒冬，可能就在不远处。”
为什么我认为这很主要
通过这篇文章，我想说服大家不要一头扎进 LLM 热潮中。但我认为，还有更严厉的问题值得把稳：我们的行业所依赖的这种基于虚幻营销的诡异、不可持续的繁荣-冷落循环是不可取的。在教诲领域，绝大多数教诲事情者表示，技能的本钱和可用性是改进教诲技能的紧张障碍；在英国国家卫生做事部门，成千上万台电脑仍在利用 Windows XP，即公共部门仍旧极易受到基本安全问题的影响。办理这些问题所需的技能人才在哪里？可能是在打造“首个宠物美容 AI 做事”吧。
这些以炒作为根本的繁荣-冷落周期推高了软件工程师的薪水，让我们把精力花在了极度缺少生产力的投契性经济领域中。与此同时，我们社会赖以运转的软件中存在严重的、根本性的问题却任其恶化。但在这个天下上，大科技公司太过富有和有影响力，以至于监管机构彷佛很难让他们感到畏惧，那么我们又能做些什么呢？我们只能寄希望于其他趋势的变革会导致我们行业的改动，可能这对我们个人或人为单都没有好处，但对全体社会可能会更好。
结论
如果我们开拓出真正的 AI，它与 LLM 的相似程度将不亚于喷气式客机与纸飞机。当有人敲开你的家门，承诺向你推销带有 LLM 的产品时，你一定要谨慎对待，然后当面把门关上。我所见过许多投资于 LLM 抱负的组织都有一个共同点，即他们的产品存在大量问题，而这些问题最好用韶光来办理。因此我认为：请负责考虑软件的设计、可靠性和可用性，把你的资源、韶光和把稳力用在最须要的地方。
末了，无论你是开拓职员、设计职员、产品经理，还是任何从事软件开拓的职员：在与 LLM 打交道的过程中，请镇静思考你的专业水平以及你对用户亲睦处干系者的任务。