对话式人工智能告诉我们我们想听什么——网络可靠且友好的谎言

由柏拉图重新发布

关注： 0

检讨古语有云：豪强相斗，吃亏的是小草。对于我们这些观看比赛的小人物来说，除了跑去寻找掩体和抓起爆米花，别无他法。

二十年来，微软和谷歌一直认为彼此根本不合法。微软从未真正从搜索战的失败中恢复过来，也没有从 Windows Mobile 的失败中恢复过来。谷歌渴望拥有一个通用的操作系统，但奇怪的是，它一直无法利用 Android 在移动领域之外的全球主导地位。他们的战斗在多个方面继续激烈进行：必应与谷歌搜索、Azure 与谷歌云，并且还在继续。

在一个我们先到先于你先到这里的荒唐景象中，这两个计算巨头最近一直在试图破坏对方推出基于大语言的“对话式”搜索产品的努力。模型（法学硕士）。谷歌多年来一直在改进 LaMDA——去年它甚至解雇一名雇员谁说服自己 LaMDA 拥有感知力——而微软一直喂食和浇水 OpenAI 及其多代生成式预训练转换器 (GPT)。

谷歌拥有的 AI 博士可能比其他所有公司加起来还要多。在过去十年的中期，它通过雇用整个班级，让他们提高公司搜索结果的质量，有效地剥夺了全世界人工智能的研究生项目。

凭借这种智慧，谷歌应该成为面向公众的人工智能应用程序中无可争议的领导者。但当然，谷歌只做了几件事情：搜索和广告定位。这两者都需要很多智慧，但它们在真实的人眼中隐藏得很好。在 Joe Citizen 看来，那些在 AI 方面的巨大努力已经完全付诸东流。

在 OpenAI 发布半小时后，这一点变得很明显发布 ChatGPT – 它是对话式的、上下文感知的 LLM。几乎本能地，任何与 ChatGPT 交互的人都会问自己“为什么我不能用它进行搜索？” 它的界面看起来自然、散漫、友好且完全人性化——与丑陋的搜索结果页面恰恰相反，搜索结果中充斥着广告和跟踪器，以及谷歌认为为了保持高利润而必须插入的所有其他垃圾。

微软立即将 ChatGPT 视为破坏其竞争对手稳定所需的武器。雷德蒙德迅速签署了一份数十亿美元的投资交易使用 OpenAI，并保证 ChatGPT 将集成到整个 Microsoft 产品套件中。这不仅意味着 Bing，还意味着 Office、Github，而且很可能还有 Windows。

大约在这个时候，谷歌去了“红色代码“ - 不管什么意思。它让 Larry 和 Sergey 重新回到甲板上，并尽其所能，尽快将其现有的 LLM 财富整合到旗舰搜索产品中。

但现在后悔已经晚了。

上周，谷歌宣布了一项特别活动 8 月 6 日公布其在 AI 方面的工作。不久之后，一张集成到 Bing 中的 ChatGPT 截图在网上泄露。然后在 XNUMX 月 XNUMX 日星期一，Alphabet 首席执行官 Sundar Pichai 宣布吟游诗人 – Google 将 LaMDA 集成到其搜索引擎中的第一代尝试。微软迅速组织了一场竞赛活动（7 月 XNUMX 日当天），在活动中它透露了将 ChatGPT 集成到 Bing 中的进展——确认泄露的屏幕截图是真实的。

这可能不是接近像会话式、上下文感知的 LLM AI 一样强大且充满挑战的技术的最佳方式。一只巨人跺着脚，另一只又跺回去——受苦的是草。

也许在过去的几个月里一亿人玩过 ChatGPT，惊叹于它的强大功能……以及它的缺点。这 ”随机鹦鹉”（一个该死但准确的技术评估）什么都不懂，只是吐出它认为最有可能从已经传达的内容中跟进的内容。它很有帮助，也很有趣——但它不是理解。缺乏深度意味着它完全没有常识。

还有另一句老话：“犯错是人之常情，但真正大规模地把事情搞砸需要一台计算机。”

谷歌和微软都承诺，他们的 LLM 风格的搜索工具将向用户明确表示这些结果是不可靠的。但同样是这两家公司，花费了数十年和无数亿美元，告诉我们计算机是我们值得信赖的伙伴——它们永远不会忘记，永远不会犯错误，并提供获取人类知识财富的途径。

在所有这些灌输之后，我们别无选择，只能相信 ChatGPT 或 LaMDA 对我们说的任何话。否则意味着忽略我们两代人所听到的关于计算机承诺的一切。

微软和谷歌都升级了他们的游戏，使用没有人完全理解的新武器——包括他们自己。这是明智的吗？它甚至安全吗？ ChatGPT 可能会同意，但它有既得利益。

对话式 AI 擅长准确地告诉我们我们想听什么。谷歌和微软已经决定，为了在下一代计算中生存，我们的用户必须被合成骗子包围, 不断地如此微妙和彻底地混淆事实和虚构，以至于真相在噪音中消失，几乎不可知。递爆米花。 ®