人工智能和安全：很复杂，但并不需要如此 | IoT Now 新闻与报告

由柏拉图重新发布

关注： 0

人工智能越来越受欢迎，而且这种趋势只会持续下去。这得到了支持 Gartner公司 其中指出，大约 80% 的企业将使用生成式人工智能（智能人工智能）应用程序编程接口（API）或模型到 2026 年。然而，人工智能是一个广泛而普遍的术语，在许多情况下，它涵盖了一系列技术。尽管如此，人工智能在以不同方式处理逻辑的能力方面取得了突破，这引起了当今正在尝试各种形式人工智能的企业和消费者的关注。与此同时，这项技术也吸引了威胁行为者的类似关注，他们意识到这可能是公司安全的弱点，同时也可能是帮助公司识别这些弱点并解决这些弱点的工具。

人工智能的安全挑战

公司使用人工智能的一种方式是审查大型数据集以识别模式并相应地对数据进行排序。这是通过创建通常包含行和数据行的表格数据集来实现的。虽然这对公司来说有显着的好处，从提高效率到识别模式和见解，但它也会增加安全风险，因为如果发生违规，这些数据会以一种易于威胁行为者使用的方式进行整理。

当使用大型语言模型 (LLM) 技术时，进一步的威胁会出现，该技术消除了安全障碍，因为数据被放置在公共域中，供任何使用该技术的人偶然发现和使用。由于 LLM 实际上是一个不了解细节的机器人，因此它使用手头的信息根据概率生成最可能的响应。因此，许多公司阻止员工将任何公司数据放入 ChatGPT 等工具中，以确保公司范围内的数据安全。

人工智能的安全优势

虽然人工智能可能会给公司带来潜在风险，但它也可能成为解决方案的一部分。由于人工智能处理信息的方式与人类不同，它可以以不同的方式看待问题并提出突破性的解决方案。例如，人工智能产生更好的算法，可以解决人类多年来苦苦挣扎的数学问题。因此，在信息安全方面，算法为王，人工智能、机器学习 (ML) 或类似的认知计算技术，可以想出一种保护数据的方法。

这是人工智能的真正好处，因为它不仅可以识别和排序大量信息，还可以识别模式，使组织能够看到他们以前从未注意到的东西。这给信息安全带来了全新的元素。虽然人工智能将被威胁行为者用作提高入侵系统效率的工具，但它也将被道德黑客用作试图找出如何提高安全性的工具，这对企业非常有利。

员工和安全的挑战

看到人工智能在个人生活中带来的好处的员工正在使用诸如 ChatGPT 提高他们履行工作职能的能力。与此同时，这些员工也增加了数据安全的复杂性。公司需要了解员工在这些平台上放置了哪些信息以及与之相关的威胁。

由于这些解决方案将为工作场所带来好处，因此公司可以考虑将非敏感数据放入系统中，以限制内部数据集的暴露，同时提高整个组织的效率。然而，组织需要意识到，他们不能两者兼得，而且他们放入此类系统的数据将不会保持私密性。因此，公司需要审查其信息安全策略并确定如何保护敏感数据，同时确保员工能够访问关键数据。

不敏感但有用的数据

公司意识到人工智能可以带来的价值，同时增加了安全风险混合。为了从这项技术中获得价值，同时保持数据的私密性，他们正在探索使用假名来实现匿名数据的方法，例如用假名或值替换可识别信息，并且不允许直接识别个人身份。

公司保护数据的另一种方法是使用生成人工智能来生成合成数据。例如，如果一家公司拥有客户数据集并需要与第三方共享以进行分析和见解，他们会在该数据集上指定一个合成数据生成模型。该模型将了解数据集的所有信息，从信息中识别模式，然后生成一个包含虚构个体的数据集，这些虚构个体不代表真实数据中的任何人，但允许接收者分析整个数据集并提供准确的信息。这意味着公司可以共享虚假但准确的信息，而不会暴露敏感或私人数据。 T他的方法允许机器学习模型使用大量信息进行分析，并在某些情况下测试数据以进行开发。

如今，公司可以使用多种数据保护方法，可以放心地利用人工智能技术的价值，确保个人数据保持安全。这对于企业来说意义重大，因为他们体验到数据为提高效率、决策和整体客户体验带来的真正好处。

文章由 Protegrity 首席安全架构师 Clyde Williamson 和产品营销和战略副总裁 Nathan Vega 撰写。

在下面或通过X评论这篇文章： @IoTNow_