AI在网络安全中的双面性

关键要点

电子邮件仍是最大威胁向量：攻击者利用社交工程策略针对电子邮件进行钓鱼攻击。行业案例：体育和酒店行业面临着数字和物理威胁的模糊界限，尤其是在社交工程方面。利用AI对抗AI威胁：网络安全团队需运用AI技术来增强安全防御。CISO协作推动AI安全：CISOs应建立合作机制，共享最佳实践及新兴技术的评估。

在网络安全方面，人工智能(AI)是把双刃剑：在威胁行为者手中是危险的，但在网络防御中则是强大的工具。在我们最近举行的Vision 2024大会上，我主持了一场CISO小组讨论，明确了这一主题。

在会议上，我与来自一些知名公司的安全领导者进行了交流，包括Choice Hotels、Domino’s和国家橄榄球联盟(NFL)。他们分享了人工智能如何改变威胁格局，以及它如何帮助组织应对这些威胁。以下是该对话中一些最有趣的方面的总结，以及其他CISOs在提升自身网络安全策略时可以考虑的AI应用。

人工智能威胁瞄准电子邮箱

电子邮件依然是当今组织最大的威胁向量，主要是因为其庞大的用户基础容易受到攻击。如今，人类常常是组织安全防线中最薄弱的一环，威胁行为者对此心知肚明，因此他们在网络钓鱼和商业邮件欺诈攻击中频繁运用操控性的社交工程策略。

作为安全专业人员，我们已经投入了大量资源开发意识培训项目，教育用户如何识别电子邮件中的社交工程红旗，例如拼写错误和语法不当。尽管这种方法在五年前颇为有效，但生成型AI的出现使我们必须重新考虑防御策略。

如今，许多公司利用生成型AI撰写引人注目的营销电子邮件，以提高开启率和响应率。想象一下，威胁行为者如何利用这一相同的技术和用例来达到恶意目的。使用像ChatGPT这样的公共工具，攻击者能够显著提高他们攻击的规模和质量，使用生成型AI创建大量没有错误、模仿真实音调和上下文的信息，甚至可以准确翻译成当地语言。这意味着更快、更贴近人类的社交工程攻击，最终效果更佳。

一些现实场景

NFL的CISO托马斯马尔多纳多表示，体育和娱乐行业中网络和物理空间之间的界限日益模糊。他表示：“我们的场馆中有观众，他们不仅观看和享受比赛，同时也在与我们的数字资产进行互动。”例如，NFL专门提供移动票务。如果用户期待一场大型比赛的门票，攻击者可能会利用这一点作为网络钓鱼的诱饵，逼迫用户点击链接或打开恶意附件。

马尔多纳多继续说道：“我们还有部分业务始终是攻击目标，不论是干扰我们的流媒体内容，还是试图获取关于球员的内部信息。”AI生成的威胁加剧了NFL的安全挑战，要求NFL的安全团队加强对场馆内外攻击的防御。

与此同时，在酒店行业，社交工程常常利用员工专注于客户的倾向。Choice Hotels的CISO杰森斯蒂德指出：“我们训练酒店员工要热情好客，愿意接待我们的客户。我们希望满足客户的需求，而威胁行为者正是利用这一点。”他说，“在凌晨2点为顾客服务时，很少有人会想到欺诈者”。

由于许多酒店是特许经营商，一些酒店CISO还在协助特许经营者进行网络安全的同时管理企业环境。斯蒂德表示：“这是我们共同面临的威胁，因为攻击者并不仅仅针对一家酒店，他们将特定酒店作为初始攻击向量，进而攻击更大的公司。”

clash中文

用防御性AI对抗恶意AI

抗击日益严重的AI威胁需要安全行业加大对AI的应用。作为安全专业人员，我们一致认为应利用AI，这与威胁行为者的原因是一致的它是一个力量倍增器。

虽然任何组织都无法做到完全