平衡行为：生成人工智能时代人类专业知识的价值 – DATAVERSITY

在安全方面，人类被认为是企业中最薄弱的环节。理所当然地，作为 超过95％ 的网络安全事件是由人为错误引起的。人类变化无常、容易犯错且不可预测，这使得他们很容易成为想要进入组织系统的网络犯罪分子的目标。  

这使得我们对机器的依赖变得更加重要。到目前为止，我们已经能够相信机器会按照真实的代码进行操作。尽管它们可能因代码中的漏洞或人类操作员的社会缺陷而受到损害，但这些问题通常可以通过明确的解决方案来解决。 

然而，随着 生成式人工智能 （GenAI）和 大型语言模型 （法学硕士），组织现在面临着社会工程攻击，这些攻击欺骗人工智能去做它不打算做的事情。随着我们将更多的任务交给人工智能，看到这些新的攻击模式发挥作用将会很有趣。

面对这种困境，人类再次需要在这个复杂且不断发展的人工智能安全领域中找到方向。这要求 CISO 清楚地传达人工智能的优点和缺点，并认识到与人工智能驱动的产品和功能相关的一长串安全考虑因素。 

生成式人工智能的仓促实施带来了新的网络安全挑战

首先，GenAI 和法学硕士的一个常见问题是对人工智能生成内容的广泛过度依赖。在没有人工输入或监督的情况下，信任人工智能生成的内容而不验证或检查误导性或错误信息可能会导致错误数据的传播，从而导致糟糕的决策并减少批判性思维。众所周知，法学硕士会产生幻觉，因此一些虚假信息甚至可能不是出于恶意。

同样，如果不主动预见，随着 GenAI 的发展而引入的不安全代码的数量也将成为 CISO 的重大挑战。众所周知，人工智能引擎会编写带有安全漏洞的错误代码。如果没有适当的人类监督，GenAI 可以让没有适当技术基础的人们发布代码。对于不正确使用这些工具的组织来说，这会导致整个软件开发生命周期的安全风险增加。

数据泄露是另一个普遍的问题。在某些情况下，攻击者可以使用提示注入来提取人工智能模型从其他用户那里了解到的敏感信息。很多时候这可能是无害的，但当然不排除恶意使用。不良行为者可能会通过精心设计的提示故意探测人工智能工具，旨在提取该工具记住的敏感信息，从而导致敏感或机密信息泄露。

人工智能可能会增加一些网络安全差距，但具有缩小其他差距的巨大潜力

最后，据了解，由于一些原因，GenAI 和 LLM 的传播将导致我们行业的攻击面减少。首先，使用 GenAI 生成代码的能力降低了软件工程师的门槛，导致代码更弱，安全标准也更弱。其次，GenAI需要大量数据，这意味着数据泄露的规模和影响将呈指数级增长。第三，与任何新兴技术一样，开发人员可能并不完全了解其实施可能被利用或滥用的方式。 

尽管如此，采取平衡的观点仍然很重要。虽然 Gen AI 促进代码生成可能会引起担忧，但它也为网络安全领域带来了积极的影响。例如，它可以有效识别跨站脚本（XSS）或SQL注入等安全漏洞。这种双重性强调了细致入微的理解的重要性。它并不认为人工智能只是有害的，而是强调人工智能与人类参与网络安全之间的互补关系。 CISO 必须掌握 GenAI 和法学硕士的相关风险，同时探索以人为本的方法来实施 GenAI 并强化其组织。

人类拾取人工智能留下的东西

CISO 的任务不仅仅是解开 GenAI 的复杂性。他们必须为组织铺平前进的道路，并向领导层展示他们的组织如何在 GenAI 主导的世界中继续蓬勃发展。 

虽然最终用户通常要对许多安全漏洞负责，但没有比训练有素且具有安全意识的人更好的防御网络犯罪的方法了。无论组织拥有什么威胁检测工具，在测试软件时都无法取代屏幕后面的人员。 

组织可以利用以下力量超越网络犯罪分子 道德黑客行为。虽然有些人因为过时的误解而犹豫是否邀请黑客进入他们的网络，但这些守法的网络安全专家是对付不良行为者的最佳人选——因为与人工智能不同，他们可以进入网络攻击者的大脑。

事实上，黑客已经在打击网络犯罪分子的斗争中补充了自动化工具， 92％ 道德黑客 声称他们可以找到扫描仪无法发现的漏洞。通过永久揭开黑客攻击的面纱，企业领导者可以接受道德黑客攻击和人力支持，在人工智能和人类专家之间在打击现代网络犯罪方面取得更有效的平衡。我们最近的 黑客驱动的安全报告 91% 的客户表示，与人工智能或扫描解决方案相比，黑客提供的漏洞报告更有影响力、更有价值，这一点凸显了这一点。随着人工智能继续塑造我们的未来，道德黑客社区将继续致力于确保其安全集成。

自动化与高技能黑客网络的结合意味着公司可以在关键应用程序缺陷被利用之前查明它们。当组织有效地将自动化安全工具与道德黑客攻击结合起来时，他们就可以缩小不断发展的数字攻击面中的差距。 

这是因为人类和人工智能可以共同努力提高安全团队的生产力： 

1. 攻击面侦察： 现代组织可以发展广泛而复杂的 IT 基础设施，其中包括各种授权和未经批准的硬件和软件。开发软件和硬件等 IT 资产的全面索引对于减少漏洞、简化补丁管理和帮助遵守行业规定非常重要。它还有助于识别和分析攻击者可能针对组织进行攻击的点。
2. 持续评估： 超越时间点安全，组织可以将人类安全专家的聪明才智与实时攻击面洞察相结合，以实现数字环境的持续测试。持续渗透测试使 IT 团队能够查看持续模拟的结果，这些结果展示了当前环境中的违规行为以及团队可以实时适应的潜在弱点。
3. 流程增强： 值得信赖的人类黑客可以向安全团队提供有关漏洞和资产的宝贵信息，以帮助流程增强。

结论

随着生成式人工智能继续以如此快的速度发展，首席信息安全官必须利用他们对人类如何协作的理解来增强人工智能的安全性，并获得董事会和领导团队的支持。因此，组织可以拥有足够的人员和资源来有效应对这些挑战。通过与道德黑客合作，在快速人工智能实施和全面安全之间取得适当的平衡，强化了投资适当的人工智能解决方案的理由。

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 柏拉图健康。 生物技术和临床试验情报。 访问这里。
• Sumber: https://www.dataversity.net/balancing-act-the-value-of-human-expertise-in-the-age-of-generative-ai/