人工智能是一种责任

人工智能是一种责任

时间戳：21年2023月7日凌晨06:XNUMX
源节点： 3029233

评论 人工智能，意味着可以预测文本并可以对图像和语音进行分类的大型基础模型，看起来更像是一种负债，而不是一种资产。

到目前为止，美元受到的损害还很小。 2019年，一名特斯拉司机在汽车制造商的自动驾驶软件的帮助下驾驶车辆，闯红灯并撞上了另一辆车。车内人员死亡，特斯拉司机上周被救 有序 支付 23,000 美元的赔偿金。

特斯拉大约在同一时间发布 召回 美国国家公路交通安全管理局 (NHTSA) 的调查发现 Autopilot 缺乏安全控制，因此要求 XNUMX 万辆汽车修改其 Autopilot 软件。

两万三千美元对于两条人命来说并不算多，但涉事家属正在对司机和特斯拉提出民事索赔，因此成本可能会上升。据说至少有 十几起诉讼 涉及美国的自动驾驶仪。

与此同时，在医疗保健行业，UnitedHealthcare 正在被起诉 因为据称，该公司通过 2020 年收购 Navihealth 获得的 nH Predict AI 模型拒绝为参保老年人提供必要的急性后护理。

需要限制

销售人工智能模型和服务的公司清楚地意识到存在问题。他们提到了围绕基础模型设置的“护栏”，以帮助他们保持在自己的车道上——即使这些 不工作 很好。如果这些模型不包含此类预防措施，则没有必要 儿童性虐待材料 以及一系列其他有毒内容。

这就好像人工智能开发者读了作家 Alex Blechman 的书一样 病毒式帖子 关于科技公司将警示故事“不要创造折磨关系”解释为产品路线图，并说“对我来说看起来不错。”

当然，还有一些适合人工智能的较早的文学参考文献，例如玛丽·雪莱的《弗兰肯斯坦》或《潘多拉魔盒》——这是特别合适的，因为人工智能模型由于训练材料缺乏透明度而经常被称为黑匣子。

到目前为止，充满有害内容的商业模式的神秘性并没有对企业造成太大损失。最近有一个 要求 Laskie（今年被一家自称为 X 的公司收购）的创始人兼首席执行官 Chris Bakke 表示，加利福尼亚州沃森维尔汽车经销商使用的通用汽车聊天机器人被说服同意出售 2024 款雪佛兰 Tahoe 美元1 并进行一些快速的工程设计。但经销商不太可能兑现这一承诺。

尽管如此，依赖人工智能模型的风险已经足够了 谷歌, 微软及 人类的 已提出赔偿客户的版权索赔（此类索赔数量众多且大部分尚未解决）。除非有可能承担责任，否则你不会这样做。

税法法规

当局仍在试图弄清楚如何评估人工智能责任。考虑一下欧盟委员会在努力制定可行的人工智能法律框架时如何界定这个问题：

“当前的责任规则，特别是基于过失的国家规则，不适用于处理人工智能产品/服务造成的损害的赔偿索赔，”委员会 说过 [PDF] 去年。 “根据这样的规则，受害者需要证明造成损害的人的错误行为/不作为。人工智能的具体特征，包括自主性和不透明性（所谓的‘黑匣子’效应），使得识别责任人并证明成功责任索赔的要求变得困难或成本过高。”

美国立法者已经 建议 两党人工智能框架“确保人工智能公司在其模型和系统侵犯隐私、侵犯公民权利或以其他方式造成可识别的损害时，可以通过监督机构执法和私人诉讼权利承担责任。”

不要因为看到人工智能公司高管入狱而太兴奋：人工智能行业领导者参与这一过程表明，任何出现的规则都将与被游说者削弱的其他监管框架一样有效。

但兴奋是问题的一部分：关于随机鹦鹉（人工智能模型）的炒作太多了。

正如安全公司 Socket 所指出的那样，人工智能模型在某些情况下具有真正的价值，该公司已使用 ChatGPT 来 帮助标记 软件漏洞。他们在语音识别、翻译和图像识别方面创造了奇迹，但却损害了转录员和验证码难题。他们提醒行业资深人士，玩起来有多么有趣 伊丽莎，一个早期的聊天机器人。如果有人参与其中，它们看起来在决策支持工作中具有真正的实用性。他们采用了复杂的命令行咒语及其各种标志和参数，并将它们变成了同样复杂的文本提示，可以继续进行段落。

但人工智能实现的自动化是有代价的。在最近的一次 刊文 科幻贸易杂志 Locus 的作者兼活动家科里·多克托罗 (Cory Doctorow) 认为，“人工智能公司暗中押注，他们的客户会购买人工智能来实现高度后果的自动化、消防工人，并因此对自己的客户造成身体、精神和经济伤害。 ，以某种方式逃避对这些伤害的责任。”

由于存在风险，多克托罗对高价值企业中的人工智能服务是否存在有意义的市场持怀疑态度，并认为我们正处于一个 人工智能泡沫。他以通用汽车 Cruise 为例，指出自动驾驶汽车公司的商业模式 - 陷入困境 由于行人受伤而被召回——相当于用 1.5 名成本更高的远程监管员取代每位低工资司机，而不排除发生事故和相关诉讼的可能性。

超载

至少与人工智能相关的低价值业务有一些潜力。其中包括每月付费访问 API 来进行不准确的聊天、未经许可而采用艺术家风格的算法图像生成，或者 产生数百个 假新闻网站（或 图书）以这样的方式“淹没该地区” 带有错误信息。

Arena Group 似乎不太可能 要求 其人工智能平台可以将《体育画报》等出版物的文章创作时间缩短 80-90%，从而提高读者满意度、品牌忠诚度或内容质量。但也许在该公司的数百个标题中生成比人类可能的文章更多的文章将导致更多的机器人页面浏览量和来自过于天真而无法理解的广告买家的更多程序化广告收入。

部分问题在于，主要的人工智能推动者——亚马逊、谷歌、英伟达和微软——运营云平台或销售 GPU 硬件。他们是人工智能淘金热中的镐和铲供应商，他们只想出售他们的云服务或数字处理工具包。他们都支持区块链快车和加密货币霸权，直到这种错觉消失。

他们更热衷于帮助公司运行人工智能工作负载，无论有用还是其他。他们只是云播种，希望为他们的租赁处理器业务带来业务。同样，没有基础设施的机器学习初创公司希望通过谈论变革性技术来抬高公司估值，以奖励早期投资者。

人工智能热潮也可以部分归因于科技行业不断努力回答“接下来会发生什么？”在长期停滞的时期。 Apple, 谷歌, Amazon, 元, 微软及 Nvidia公司 所有人都在尽最大努力阻止有意义的竞争，自 2000 年代中期云和移动时代开始以来，他们做得相当不错。反竞争行为并不是什么新鲜事——回想一下 2010 年的行业 沉降 与美国司法部就 Adob​​e、谷歌、英特尔、Intuit 和皮克斯之间达成的避免相互挖角人才的协议进行了讨论。

微软在人工智能与必应（Bing）的整合上投入了大量精力，长期以来一直被谷歌搜索所掩盖，微软声称这是“重塑搜索”。但自那以后并没有太大变化 – Bing 据说 谷歌未能从谷歌手中夺取任何市场份额，而此时人们普遍认为谷歌搜索——现在也充斥着人工智能——变得越来越糟。

迎接2024年

为了弄清楚接下来会发生什么，我们将不得不等待司法部和世界其他地方的监管机构强制改变 反垄断 执行和诉讼。因为虽然谷歌通过与苹果和其他公司的交易锁定了搜索分销，并通过与 Meta 的交易锁定了数字广告（在美国清关，还是 在调查中 在欧洲和英国）以及其他活动 激怒 司法部的利益——无论添加多少人工智能酱，搜索业务和广告业务看起来都无法接受新的挑战者。

人工智能不仅在经济意义上而且在道德意义上也是一种责任。它承诺节省工资——尽管 非常 昂贵的方面 培训与发展 和 对环境造成的影响 – 同时鼓励对人类劳动、知识产权、有害产出和信息准确性漠不关心。当人们经常增加资产负债表上不明显的价值时，人工智能会邀请公司将他们从方程式中剔除。

人工智能还有真正发挥作用的空间，但它需要被用来帮助人们，而不是消灭他们。 ®

时间戳记：

更多来自 注册