人工智能多样性的重要性不是观点，而是数学 – IBM 博客

我们都希望看到我们理想的人类价值观反映在我们的技术中。我们希望人工智能 (AI) 等技术不会欺骗我们、不会歧视我们，并且能够安全地供我们和我们的孩子使用。然而，许多人工智能创造者目前因模型中暴露的偏见、不准确和有问题的数据实践而面临强烈反对。这些问题需要的不仅仅是技术、算法或基于人工智能的解决方案。事实上，需要一种整体的社会技术方法。

数学证明了一个强有力的真理

所有预测模型（包括人工智能）在结合不同的人类智能和经验时都会更加准确。这不是一个意见；而是一个观点。它具有经验有效性。考虑 多样性预测定理。简而言之，当一个群体的多样性很大时，群体的错误就很小——支持“群体的智慧”的概念。一项有影响力的研究表明，不同的低能力问题解决者群体可以胜过高能力问题解决者群体（洪和佩奇，2004).

用数学语言来说： 方差越大，平均值就越标准。 方程如下所示：

A 进一步研究 提供了更多的计算来完善明智群体的统计定义，包括对其他成员的预测的无知以及将那些有预测的人纳入其中 最大程度地不同 （负相关）预测或判断。因此，提高预测的不仅仅是数量，还有多样性。这种见解可能如何影响人工智能模型的评估？

模型（英寸）精度

引用一句常见的格言，所有模型都是错误的。这在统计、科学和人工智能领域都是如此。缺乏领域专业知识而创建的模型可能会导致 错误 输出。

如今，一小群同质的人决定使用哪些数据来训练生成式人工智能模型，这些数据来自于英语的来源。 “对于世界上 6,000 多种语言中的大多数来说，可用的文本数据不足以训练大规模基础模型”（摘自“论基础模型的机遇与风险”，Bommasani 等人，2022）。

此外，模型本身是根据有限的架构创建的：“现在几乎所有最先进的 NLP 模型都是从几个基础模型之一改编而来的，例如 BERT、RoBERTa、BART、T5 等。虽然这种同质化产生了极高的杠杆作用（基础模型的任何改进都可以为整个 NLP 带来立竿见影的好处），但它也是一种责任；所有人工智能系统都可能继承一些基础模型的相同问题偏差（博马萨尼等人。）“

为了让生成式人工智能更好地反映其所服务的多元化社区，必须在模型中表示更广泛的人类数据。

评估模型准确性与评估偏差密切相关。我们必须问，该模型的目的是什么以及它是为谁优化的？例如，考虑谁从内容推荐算法和搜索引擎算法中受益最多。利益相关者可能有截然不同的利益和目标。算法和模型需要贝叶斯误差的目标或代理：模型必须改进的最小误差。该代理通常是一个人，例如具有领域专业知识的主题专家。

一个非常人性化的挑战：在模型采购或开发之前评估风险

新兴的人工智能法规和行动计划越来越强调算法影响评估形式的重要性。这些表格的目标是捕获有关人工智能模型的关键信息，以便治理团队可以在部署之前评估和解决其风险。典型的问题包括：

• 您的模型的用例是什么？
• 不同影响的风险是什么？
• 您如何评价公平性？
• 您如何使您的模型易于解释？

尽管设计初衷是好的，但问题是大多数人工智能模型所有者不了解如何评估其用例的风险。常见的说法可能是：“如果我的模型不收集个人身份信息 (PII)，它怎么会不公平呢？”因此，表格的填写很少经过治理系统准确标记风险因素所需的深思熟虑。

因此，强调了解决方案的社会技术性质。模型所有者（个人）不能简单地获得一个复选框列表来评估其用例是否会造成伤害。相反，我们需要的是具有广泛不同生活经验的人们聚集在社区中，提供心理安全感，以便就不同的影响进行艰难的对话。

欢迎对值得信赖的人工智能有更广阔的视野

IBM® 相信采取“零客户”方法，通过咨询和产品主导的解决方案实施其为自己的客户提出的建议和系统。这种方法延伸到了道德实践，这就是 IBM 创建值得信赖的 AI 卓越中心 (COE) 的原因。

如上所述，经验和技能的多样性对于正确评估人工智能的影响至关重要。但对于一家充满人工智能创新者、专家和杰出工程师的公司来说，参与卓越中心的前景可能会令人生畏，因此需要培养一个心理安全社区。 IBM 明确表达了这一点：“对人工智能感兴趣？对人工智能伦理感兴趣？这张桌子上有你的座位。”

COE 为各个级别的从业者提供人工智能道德培训。提供同步学习（教师和学生在课堂环境中）和异步（自学）课程。

但这是COE的 应用的 培训为我们的从业者提供了最深刻的见解，让他们与全球、多元化、多学科团队在实际项目中合作，以更好地了解不同的影响。他们还利用 IBM 的设计思维框架 人工智能设计 小组在内部和与客户一起使用来评估人工智能模型的意外影响，将那些经常被边缘化的人放在首位。 （参见西尔维娅·达克沃斯的 权力与特权之轮 有关个人特征如何相互交叉从而使人们享有特权或边缘化的示例。）IBM 还向开源社区捐赠了许多框架 符合道德的设计.

以下是 IBM 公开发布的有关这些项目的一些报告：

需要自动化 AI 模型治理工具来收集有关 AI 模型执行情况的重要见解。但请注意，在模型开发并投入生产之前尽早捕获风险是最佳选择。通过创建由多元化、多学科从业者组成的社区，为人们提供一个安全的空间，就不同的影响进行艰难的对话，您就可以开始实施您的原则并负责任地开发人工智能的旅程。

实际上，当您招聘人工智能从业者时，请考虑创建模型的 70% 以上的工作都是在整理正确的数据。您希望雇用的人员知道如何收集具有代表性的数据，并且这些数据也是在征得同意的情况下收集的。您还希望了解的人与领域专家密切合作，以确保他们拥有正确的方法。确保这些从业者有情商，以谦逊和洞察力应对负责任地策划人工智能的挑战是关键。我们必须有意识地学习如何认识人工智能系统如何以及何时会加剧不平等，就像它们可以增强人类智力一样。

利用人工智能重塑您的业务运作方式