主要内容
泰雷兹称,对于在数据安全方面苦苦挣扎的组织而言,人工智能和量子威胁已跃升至担忧清单的首位。这是这家网络安全巨头 2025 年数据威胁报告的关键要点,该报告每年深入探讨最新的数据安全威胁、新兴趋势和热门话题。
今年的调查结果令人震惊:近七成的组织现在将人工智能发展的速度——尤其是在生成式人工智能方面——视为与其采用相关的头号安全难题。这种焦虑不仅与速度有关;还源于对人工智能系统基本完整性缺失的担忧(64%的受访者指出)和对可信度的担忧(57%的担忧)。
生成式人工智能是一个数据饥渴的怪兽,在训练模型、进行推理以及当然还有生成内容等核心功能方面,严重依赖高质量、通常敏感的信息。随着我们在“代理式人工智能”方面取得快速进展——能够更自主行动的系统——确保数据质量的压力变得更加关键。毕竟,人工智能系统的明智决策和可靠行动完全取决于它们所接收的数据。
许多组织已经开始投入,三分之一的受访者表示生成式人工智能要么正在积极整合,要么已经在其运营中成为变革的力量。随着组织采用生成式人工智能,安全威胁也在增加。
生成式人工智能在抛出复杂的数据安全挑战网络的同时,也提供了加强防御的战略途径,其日益增长的整合标志着一个明显的转变。企业不再只是涉足人工智能领域,而是正在考虑更成熟的运营部署。
有趣的是,尽管大多数受访者将生成式人工智能的快速采用视为最大的安全担忧,但那些在人工智能采用曲线中走得更远的企业并没有按下暂停按钮,在继续前进之前完全锁定其系统或微调其技术堆栈。这种追求快速转型的做法——往往掩盖了确保组织准备就绪的努力——可能意味着这些公司正在无意中创造自己最严重的安全弱点。
标准普尔全球市场情报 451 研究公司的首席分析师埃里克·汉塞尔曼表示:“快速发展的生成式人工智能领域正迫使企业快速行动,有时以谨慎为代价,因为它们要在采用曲线中保持领先。”“许多企业在能够完全理解其应用架构之前就更快地部署了生成式人工智能,再加上嵌入生成式人工智能功能的 SaaS 工具的迅速扩散,增加了复杂性和风险。”
更积极的一面是,73%的受访者表示他们正在投入资金用于特定于人工智能的安全工具来应对威胁,要么通过新的预算,要么通过重新分配现有资源。将人工智能安全作为优先事项的企业也在多样化其方法:超过三分之二的企业从其云提供商那里获取工具,五分之三的企业转向已建立的安全供应商,近一半的企业正在寻找新的或新兴的初创公司寻求解决方案。特别值得一提的是,生成式人工智能的安全在支出图表上上升得有多快,在排名选择投票中获得第二名,仅落后于长期以来的云安全担忧。这一转变有力地强调了对人工智能驱动的风险的认识不断提高,以及迫切需要专门的防御措施来应对这些风险。
尽管数据泄露的报告频率在过去几年中略有下降,但数据泄露的噩梦仍然笼罩着许多企业。2021 年,接受调查的企业中有 56%表示曾经历过数据泄露;在 2025 年的报告中,这一数字已降至 45%。深入研究发现,在过去 12 个月内报告数据泄露的受访者比例有所下降,但威胁仍然很高。