“即将到来的浪潮”：Mustafa Suleyman 呼吁人工智能监管

由柏拉图重新发布

关注： 0

随着人工智能 (AI) 不断重塑我们的世界，关于其影响的争论已经到了关键时刻。 DeepMind 联合创始人兼 Inflection AI 首席执行官 Mustafa Suleyman 在其著作《即将到来的浪潮：人工智能、权力和 21 世纪最大的困境》中深入探讨了人工智能对社会的深远影响。本文探讨了苏莱曼的见解、人工智能带来的挑战，以及面对前所未有的技术进步时监管的迫切需要。

另请参阅： 研究证明“人工智能模型存在性别偏见”

DeepMind 联合创始人 Mustafa Suleyman 呼吁人工智能监管

人工智能的不对称本质

苏莱曼确定了人工智能的四个关键特征，强调其不对称性。单个人工智能程序可以生成人类难以想象的规模的文本。这引发了人们对潜在滥用的担忧，从发射数千架武装无人机到自主决策中出现不可预见的后果。数字技术的加速发展和人工智能的全能性进一步加剧了挑战。

另请参阅： 调查称人工智能可能导致人类灭绝

人工智能的自主性和不可预测性

人工智能的显着特征之一是其自主性。苏莱曼强调人工智能的自学特性，使其逻辑变得越来越不透明且难以预测。随着人工智能的发展，挑战从创造和释放其力量转变为遏制其释放的力量。人工智能行为的不可预测性构成了潜在威胁，需要监管机构的关注。

另请参阅： 研究表明 Waymo 的自动驾驶比人类驾驶员更安全

监管困境

苏莱曼热情倡导人工智能发展的监管。不过，他承认这项任务的复杂性。与监管汽车排放等容易量化的问题不同，监管通用全能技术具有挑战性。人工智能开发的经济激励，加上工程师和发明家的好奇心驱动的本质，使监管环境进一步复杂化。

另请参阅： 负责任的人工智能现已有了 ISO 标准：ISO/IEC 42001

Suleyman 的解决方案和建议

针对这些挑战，DeepMind 联合创始人在《The Coming Wave》中提出了一系列解决方案。苏莱曼建议实施强大的技术安全框架，对新的人工智能工具进行强制审核，并控制“红队”以发现弱点。他还倡导政府在人工智能和类似于《巴黎协定》的国际条约方面拥有专业知识。此外，他敦促建立与癌症药物或疫苗监管类似的许可制度。

我们的说法

在人工智能问题两极分化的世界中，苏莱曼呼吁监管是对不受限制的人工智能发展带来的潜在风险的务实回应。人工智能许可制度的想法虽然雄心勃勃，但解决了人工智能部署结构化方法的需求。随着人工智能竞赛中国际紧张局势的加剧，苏莱曼提出的类似于政府间气候变化专门委员会的联合努力对于全球稳定变得至关重要。

《即将到来的浪潮》对人工智能带来的挑战和机遇进行了大胆而富有洞察力的探索。 Suleyman 的专业知识源于他在 DeepMind 和 Inflection AI 中的关键作用，这增加了他的建议的可信度。随着社会正处于人工智能革命的边缘，创新与安全之间的平衡变得至关重要，苏莱曼的监管愿景成为探索这一未知领域的指路明灯。