AI Development “Utterly Reckless” Claims U.S. Academic

关注： 0

一位美国学者表示，人工智能系统对社会构成了生存威胁，其持续发展速度“完全鲁莽”。

发表上述言论的同时，由 23 名资深专家撰写的一份警告性新报告发布。周二发布的报告《在快速进步的时代管理人工智能风险》警告说，不公正现象会加剧，社会稳定会受到侵蚀，我们对现实的理解也会结束。

风险大

一组 AI 包括该领域两位“教父”在内的专家们发布了一份新报告，警告该技术的危险性。

加州大学伯克利分校计算机科学教授斯图尔特·拉塞尔 (Stuart Russell) 是该文件的共同作者之一。

“是时候认真对待先进的人工智能系统了，”拉塞尔说道 守护者 on 周二。 “这些不是玩具。在我们了解如何确保它们的安全之前就增强它们的能力是完全鲁莽的。对三明治店的监管比对人工智能公司的监管还要多。”

该文件的其他合著者包括杰弗里·辛顿（Geoffrey Hinton）和约书亚·本吉奥（Yoshua Bengio），他们被视为三位“人工智能教父”中的两位。 2018 年，他们因其在该主题上的工作而获得了 ACM 图灵奖。

报告这篇文章读起来令人震惊，其中列举了随着人工智能不断进步的一些潜在陷阱。作者提出的一个担忧是该技术的潜力近乎无限，甚至可能发展到超出我们的理解范围。

报告称：“人工智能的进步没有根本原因会在人类水平上放缓或停止。”

作者指出，在蛋白质折叠或策略游戏等狭窄领域， AI 已经超越了人类。该报告接着补充说，“我们必须认真对待通用人工智能系统在这十年或未来十年内在许多关键领域超越人类能力的可能性。”

虽然人工智能系统目前的自主权有限，但改变这一状况的工作正在进行中。一些人工智能系统甚至可以自行构建和编程，这使得人工智能有可能由其他人构建 AI.

这些系统可以追求人类无法预料的目标。

正如报告所述，“一旦自主人工智能系统追求由恶意行为者或意外嵌入的不良目标，我们可能无法控制它们。”

“先进的自主人工智能系统将带来前所未有的控制挑战，”作者补充道。 “如果没有足够的谨慎，我们可能会不可逆转地失去对自主人工智能系统的控制，从而导致人类干预无效。”

该报告发布之际，人工智能领导者正准备下个月在布莱奇利公园举行会议。

英国政府发言人表示，此次会谈是为“志同道合的国家举办的，他们都认识到人工智能带来了巨大的机遇，但也意识到我们需要确保正确的护栏到位。”

英国首相里希·苏纳克 (Rishi Sunak) 表示，“英国完全有能力领导和塑造这方面的对话，因为我们在人工智能方面非常强大。”

批评者质疑英国是否拥有必要的政治资本来对大型科技公司和国际政府施加真正的影响。

意大利总理梅洛尼是唯一确认接受苏纳克邀请的七国集团领导人，而加拿大总理贾斯汀·特鲁多、德国总理奥拉夫·肖尔茨和美国总统乔·拜登也已经做出了借口。

SEO 支持的内容和 PR 分发。今天得到放大。
PlatoData.Network 垂直生成人工智能。赋予自己力量。访问这里。
柏拉图爱流。 Web3 智能。知识放大。访问这里。
柏拉图ESG。碳，清洁科技, 能源，环境，太阳能，废物管理。访问这里。
柏拉图健康。生物技术和临床试验情报。访问这里。
Sumber: https://metanews.com/ai-development-utterly-reckless-claims-u-s-academic/

时间戳记： 2023 年 10 月 6 日