主要内容
几周前，我目睹一小队人工智能代理花了大约 10 分钟试图入侵我全新的 vibe-coded 网站。由初创公司 RunSybil 开发的这些 AI 代理协同工作，探测我简陋的网站以找出弱点。一个名为 Sybil 的协调代理监督着几个更专业的代理，它们都由定制语言模型和现成 API 的组合提供动力。
传统的漏洞扫描器探测特定已知问题，而 Sybil 能够在更高层次上运行，利用人工智能直觉找出弱点。例如，它可能会发现普通扫描器可能错过的访客用户具有特权访问权限，并利用此来构建攻击。
RunSybil 的首席执行官兼联合创始人 Ariel Herbert-Voss 表示，越来越强大的 AI 模型可能会彻底改变进攻性和防御性网络安全。他告诉我：“我认为在能力方面，我们肯定正处于技术爆炸的边缘，无论是坏人还是好人都可以利用这一点。”“我们的使命是构建下一代进攻性安全测试，以帮助每个人跟上步伐。”
Sybil 攻击的网站是我最近使用 Claude Code 创建的，用于帮助我整理新的 AI 研究论文。这个我称为 Arxiv Slurper 的网站包括一个后端服务器，可访问大多数 AI 研究发布的 Arxiv 以及其他一些资源，梳理论文摘要中的“新颖”“首次”“令人惊讶”等词汇以及我感兴趣的一些技术术语。这是一个正在进行的工作，但我对如此轻松地拼凑出潜在有用的东西印象深刻，尽管我不得不手动修复一些漏洞和配置问题。
然而，这种 vibe-coded 网站的一个关键问题是，很难知道可能引入了哪些安全漏洞。所以当我与 Herbert-Voss 谈论 Sybil 时，我决定询问它是否可以测试我的新网站的弱点。幸运的是，仅仅因为我的网站非常基础，Sybil 没有发现任何漏洞。Herbert-Voss 表示，大多数漏洞往往是表单、插件和加密功能等更复杂功能的结果。
我们看着这些代理尝试探测 Herbert-Voss 拥有已知漏洞的虚拟电子商务网站。Sybil 构建了应用程序及其访问方式的地图，通过操纵参数和测试边缘情况来探测弱点，然后将发现串联起来，测试假设并逐步升级，直到突破有意义的东西。在这种情况下，它确实确定了入侵该网站的方法。
Herbert-Voss 表示，与人类不同，Sybil 并行运行数千个这些过程，不会错过细节，也不会停止。卡内基梅隆大学（CMU）的计算机科学家 Lujo Bauer 专门研究 AI 和计算机安全，他表示：“AI 驱动的渗透测试是一个有前途的方向，可以为防御系统带来重大好处。”Bauer 最近与 CMU 的其他研究人员和 AI 公司 Anthropic 的一名研究人员共同撰写了一项研究，探讨了 AI 渗透测试的前景。研究人员发现，最先进的商业模型无法执行网络攻击，但他们开发了一个系统，设定了高级目标，如扫描网络或感染主机，从而使他们能够进行渗透测试。
投资公司 Conviction 的投资者兼创始人 Sarah Guo 表示，很少有人同时了解 AI 和网络安全。Guo 补充说，RunSybil 承诺使大型公司定期进行的那种安全评估更广泛可用，并实现持续进行。她说：“他们可以使用模型和工具持续进行基线渗透测试，所以你总是……”