ChatGPT 不能思考——意识与今天的人工智能完全不同

世界各地都对它的快速进步感到震惊 ChatGPT 以及使用所谓的大型语言模型 (LLM) 创建的其他人工智能。 这些系统可以生成似乎显示思想、理解甚至创造力的文本。

但这些系统真的能思考和理解吗？ 这不是一个可以通过技术进步来回答的问题，但仔细的哲学分析和论证告诉我们答案是否定的。 如果不解决这些哲学问题，我们将永远无法完全理解人工智能革命的危险和好处。

1950 年，现代计算机之父艾伦·图灵 (Alan Turing)， 发表了一篇论文 它提出了一种确定计算机是否思考的方法。 这现在被称为“图灵测试”。 图灵想象一个人与两个看不见的对话者进行对话：一个是人类，另一个是计算机。 游戏是找出哪个是哪个。

如果一台计算机可以在 70 分钟的对话中骗过 5% 的评委​​，让他们认为这是一个人，那么该计算机就通过了测试。 通过图灵测试——现在看来迫在眉睫——是否表明人工智能已经实现了思考和理解？

国际象棋挑战

图灵驳回了这个问题，认为它非常模糊，并用一个务实的“思想”定义取而代之，据此，思考就意味着通过测试。

然而，图灵错了，他说“理解”的唯一明确概念是通过他的测试的纯粹行为概念。 虽然这种思维方式现在主导着认知科学，但也有一个清晰的、日常的“理解”概念与 意识. 在这个意义上理解，就是有意识地把握现实的一些真相。

在1997， 深蓝人工智能击败国际象棋大师加里卡斯帕罗夫. 就纯粹的行为理解概念而言，深蓝拥有超越任何人类的国际象棋策略知识。 但它没有意识：它没有任何感觉或经历。

人类有意识地理解国际象棋的规则和策略的基本原理。 相比之下，深蓝是一种冷酷无情的机制，经过训练可以在游戏中表现出色。 同样，ChatGPT 是一种无情的机制，它经过大量人造数据的训练，可以生成看起来像是人写的内容。

它不会有意识地理解它吐出的单词的含义。 如果“思想”是指有意识的反思行为，那么 ChatGPT 对任何事情都没有任何想法。

是时候付款了

我如何确定 ChatGPT 没有意识？ 1990 年代，神经科学家 Christof Koch 打赌哲学家大卫查默斯一箱好酒 科学家们将在 25 年内完全确定“意识的神经关联”。

通过这个，他的意思是他们已经确定了意识体验所必需和充分的大脑活动形式。 现在是科赫付出代价的时候了，因为对于这件事已经发生的共识为零。

这是因为 意识 不能通过观察你的头脑来观察。 在他们试图找到大脑活动和经验之间的联系时，神经科学家必须依赖于他们的受试者的证词，或者依赖于意识的外部标记。 但是有多种解释数据的方法。

一些科学家 相信意识和反思性认知之间存在着密切的联系——大脑获取和使用信息来做出决定的能力。 这使他们认为大脑的前额叶皮层——获取知识的高级过程发生的地方——基本上涉及所有有意识的体验。 其他人否认这一点， 争论而不是 它发生在相关感觉处理发生的任何局部大脑区域。

科学家对大脑的基本化学有很好的了解。 我们在理解大脑各个部分的高级功能方面也取得了进展。 但我们几乎对两者之间的一点一无所知：大脑的高级功能是如何在细胞水平上实现的。

人们对扫描揭示大脑运作的潜力感到非常兴奋。 但是 fMRI（功能性磁共振成像）的分辨率非常低： 每个像素 脑部扫描对应 5.5 万个神经元，这意味着这些扫描能够显示的细节是有限的。

我相信当我们更好地了解大脑的工作原理时，意识就会取得进步。

开发暂停

正如我在即将出版的书中所说的那样 为什么？ 宇宙的目的, 意识一定是进化了，因为它造成了行为上的差异。 与没有意识的系统相比，有意识的系统必须有不同的行为，因此能更好地生存。

如果所有行为都由潜在的化学和物理学决定，那么自然选择就没有动机让生物体有意识； 我们会进化成无情的生存机制。

那么，我敢打赌，随着我们对大脑详细运作的了解越来越多，我们将准确地确定大脑的哪些区域体现了意识。 这是因为这些区域会表现出目前已知的化学和物理学无法解释的行为。 已经， 一些神经科学家 正在寻找对意识的潜在新解释，以补充物理学的基本方程。

虽然 LLM 的处理现在太复杂了，我们无法完全理解，但我们知道原则上可以从已知物理学中预测它。 在此基础上，我们可以自信地断言 ChatGPT 是无意识的。

人工智能带来了很多危险，我完全支持最近数万人的呼吁，包括科技领袖史蒂夫沃兹尼亚克和埃隆马斯克， 暂停 解决安全问题的发展。 例如，欺诈的可能性是巨大的。 然而，认为当前人工智能系统的近期后代将具有超级智能并因此对人类构成重大威胁的论点还为时过早。

这并不意味着当前的人工智能系统不危险。 但是，除非我们准确地对其进行分类，否则我们无法正确评估威胁。 法学硕士不聪明。 它们是经过训练的系统，可以提供人类智能的外观。 可怕，但没那么可怕。

本文重新发表 谈话 根据知识共享许可。 阅读 原创文章.

图片来源： 格德阿尔特曼 止 Pixabay

• SEO 支持的内容和 PR 分发。 今天得到放大。
• 柏拉图爱流。 Web3 数据智能。 知识放大。 访问这里。
• 与 Adryenn Ashley 一起铸造未来。 访问这里。
• 使用 PREIPO® 买卖 PRE-IPO 公司的股票。 访问这里。
• Sumber: https://singularityhub.com/2023/05/23/chatgpt-cant-think-consciousness-is-something-entirely-different-to-todays-ai/