主要内容
网络安全正处于一场新的军备竞赛之中，而在这个新时代，强大的武器选择是人工智能。人工智能提供了一把经典的双刃剑：对防御者来说是强大的盾牌，对那些怀有恶意意图的人来说是一种强大的新工具。在这个复杂的战场上航行需要稳定的手和对技术以及滥用技术的人的深刻理解。
为了从前线获取观点，《人工智能新闻》采访了全球生物制药公司艾伯维的首席人工智能机器学习威胁情报工程师瑞秋·詹姆斯。她解释说：“除了在我们当前工具中由供应商提供的内置人工智能增强功能外，我们还在检测、观察、关联和相关规则上使用大型语言模型分析。”
詹姆斯和她的团队正在使用大型语言模型筛选大量的安全警报，寻找模式、发现重复项，并在攻击者之前找到防御中的危险漏洞。她补充道：“我们用这个来确定相似性、重复性并提供差距分析。”并指出下一步是融入更多的外部威胁数据。“我们希望在下一阶段通过整合威胁情报来增强这一点。”
这个操作的核心是一个名为 OpenCTI 的专门威胁情报平台，它帮助他们从数字噪声的海洋中构建一个统一的威胁图景。人工智能是使这种网络安全工作成为可能的引擎，将大量混乱、非结构化的文本整理成一种称为 STIX 的标准格式。
詹姆斯表示，宏伟的愿景是使用语言模型将这个核心情报与他们安全操作的所有其他领域联系起来，从漏洞管理到第三方风险。然而，利用这种力量需要保持警惕。作为一个主要行业倡议的关键贡献者，詹姆斯敏锐地意识到其中的陷阱。
她指出，商业领袖必须面对三个基本的权衡：接受与生成式人工智能的创造性但往往不可预测的性质相关的风险；人工智能得出结论的方式缺乏透明度，随着模型变得更加复杂，这个问题只会加剧；错误判断任何人工智能项目的实际投资回报的危险，在这个快速发展的领域，炒作很容易导致高估收益或低估所需的努力。
要在人工智能时代建立更好的网络安全态势，就必须了解你的攻击者。这正是詹姆斯的专业知识发挥作用的地方。她通过开源渠道和自己在暗网的自动收集积极跟踪对手的聊天和工具开发，并在她的 cybershujin GitHub 上分享她的发现。她的工作还包括亲自实践。
那么，这对行业的未来意味着什么呢？对于詹姆斯来说，前进的道路是清晰的。她指出了多年前发现的一个有趣的平行：“网络威胁情报生命周期几乎与人工智能机器学习系统的基础数据科学生命周期相同。”这种一致性是一个巨大的机会。“毫无疑问，在我们可以操作的数据集方面，防御者有独特的机会利用情报数据共享的力量。”