主要内容
美国墨西哥边境附近的警方部门正花费数十万美元购买一种未经证实且隐秘的技术。该技术利用 AI 生成的在线虚拟人物，旨在与“大学抗议者”“激进政治活动家”以及涉嫌毒品和人口贩运者互动并收集情报。404 媒体通过公共记录请求获得的内部文件、合同和通信显示了这一情况。本文与 404 媒体合作发布。总部位于纽约的 Massive Blue 公司向警方部门销售此技术，称其产品为“守望者”，宣传为“用于公共安全的 AI 动力倍增器”，可“部署逼真的虚拟特工，渗透并参与各种渠道的犯罪网络”。404 媒体获得的一份演示文稿显示，Massive Blue 向警察提供这些虚拟人物，可在互联网上部署，专门用于通过短信和社交媒体与嫌疑人互动。“守望者”的用例包括“边境安全”“学校安全”和阻止“人口贩运”。截至去年夏天，该技术尚未导致任何已知逮捕，这展示了私营公司向警察和边境特工推销的社交媒体监控和卧底工具类型。考虑到特朗普政府已撤销数百名学生的签证，其中许多人抗议以色列在加沙的战争，对 Massive Blue 等工具的担忧变得更加紧迫。404 媒体获得一份演示文稿，展示了一些这些 AI 角色，包括“激进 AI”“抗议人物”，伪装成 36 岁离婚女子，孤独、无子女，对烘焙、激进主义和“身体积极”感兴趣；还有一个“‘蜜罐’AI 人物”，背景是 25 岁来自密歇根州迪尔伯恩，父母从也门移民，讲萨纳尼阿拉伯语方言，使用各种社交媒体应用，在 Telegram 和 Signal 上，有美国和国际短信功能等。其他人物还有 14 岁男孩“儿童贩运 AI 人物”、“AI 皮条客人物”、“大学抗议者”、“抗议外部招募者”、“应召女郎”和“青少年”。这是 Massive Blue“守望者”工具创建的一个 AI 人物示例。该公司为许多 AI 人物添加背景，显然是为了使其更逼真。报道显示，警察正在向一家公司支付费用，帮助他们在社交媒体和互联网上部署 AI 动力机器人，与他们怀疑的从暴力性犯罪者到模糊定义的“抗议者”等各种人交谈，希望生成可用于对付他们的证据。电子前沿基金会研究边境监控技术的戴夫·马阿斯告诉 404 媒体：“让 AI 假装成某人，一个寻找恋童癖者在线交谈的年轻人，或一个假恐怖分子，这一想法由来已久。所有这些问题的问题在于，这些都是定义不明确的问题。他们实际上试图解决什么问题？一个 AI 人物版本是应召女郎。我不担心应召女郎。我不担心大学抗议者。所以，它到底在有效对抗什么，侵犯抗议者的第一修正案权利？”Massive Blue 已与亚利桑那州皮纳尔县签署了一份 36 万美元的合同，该县位于图森和凤凰城之间。该县正用亚利桑那州公共安全部的一项反人口贩运拨款支付该合同。皮纳尔县采购部门的一份报告称，它已购买“对众多网络和社交媒体平台的 24/7 监控”以及“在 3 个调查中开发、部署、监控和报告多达 50 个 AI 人物的虚拟特遣队”。