数十个视频平台频道在展示人工智能生成的卡通血腥和恋物癖内容 - AI News
数十个视频平台频道在展示人工智能生成的卡通血腥和恋物癖内容

数十个视频平台频道在展示人工智能生成的卡通血腥和恋物癖内容

2025-05-02

新闻要点

近日,WIRED调查发现数十个YouTube频道展示AI生成的卡通血腥及恋物内容。此类内容类似Elsagate事件,借助AI创作且有利可图。YouTube称已处理部分违规频道,但仍有漏网之鱼。

- YouTube 现 AI 生成不良卡通内容

- 此类内容类似 Elsagate 曾现问题

- YouTube 处理部分违规频道但有遗漏

主要内容

在某个虚构的纽约,一个小黄人滑倒并滚下了下水道。当一波放射性绿色黏液将他包裹时,他的身体开始发生变化——四肢变异,一排血淋淋的尖牙冒出——他那球状的、蠕虫般的形态,在屏幕上危险地滑行。一个听起来像人工智能的旁白唱道:“警惕夜晚的小黄人,一个看不到尽头的影子灵魂。”这个可怕的生物,现在潜伏在游泳池中,悄悄跟在一个尖叫的孩子身后,然后无情地将他们咬碎。

然而,点击进入视频的所有者时,情况却不同了。该频道的描述向 24500 名订阅者和 700 多万观众宣布:“欢迎来到 Go Cat——一个为孩子们准备的有趣且令人兴奋的 YouTube 频道!”“每一集都充满了想象力、彩色动画和一个等待展开的令人惊讶的变形故事。无论是有趣的意外还是可怕的故障,每个视频都为孩子们带来了一个全新的变形故事供他们欣赏!”

Go Cat 据称是儿童友好的内容,但却很逼真、超现实——几乎接近身体恐怖。它的主题让人想起 2017 年被称为“Elsagate”的事件,当时 YouTube 上出现了数十万段视频,描绘了像《冰雪奇缘》中的艾尔莎、蜘蛛侠和小猪佩奇等儿童角色参与危险、色情和虐待性的情景。通过操纵平台的算法,这些视频能够出现在 YouTube 的儿童专用应用程序中——利用孩子们的好奇心来获取数千次点击以获取金钱。

在试图解决这个问题时,YouTube 删除了超过 200 万段视频的广告,删除了超过 15 万段视频,并终止了 270 个账户。尽管《连线》随后的调查显示,类似的频道——一些包含《我的世界》头像的色情和粪便描绘——继续出现在 YouTube 的主题页面上,但“Elsagate”的影响已经明显减弱。

然后出现了人工智能。进入(并绕过)生成式人工智能提示的能力,加上关于如何将儿童内容货币化的大量教程,意味着制作这些奇怪和可怕的视频不仅变得容易,而且有利可图。Go Cat 只是《连线》搜索像“小黄人”、“托马斯小火车”和“可爱的猫”等无害术语时出现的众多频道之一。许多涉及“Elsagate”的固定内容,如怀孕的、穿着内衣的艾尔莎和安娜版本,但小黄人也是另一个热门,动画猫和小猫也是如此。

YouTube 回应《连线》的评论请求时表示,它“因违反我们的服务条款而终止了两个被标记的频道”,并暂停了其他三个频道的货币化。YouTube 发言人说:“许多视频也因违反我们的儿童安全政策而被删除。”“一如既往,上传到 YouTube 的所有内容都受我们的社区准则和儿童质量原则的约束——无论其如何生成。”

当被问及有哪些政策可以防止被禁止的用户简单地开设新频道时,YouTube 表示这样做将违反其服务条款,并且这些政策将通过“人员和技术的结合”严格执行。《连线》可以确认,一些被标记的频道确实在上周被删除,包括两个以虐待为主题的以猫为中心的频道。但其他带有相同视频重发的链接频道仍在该平台上。Go Cat 也仍然活跃,其频道描述保持不变。《连线》无法找到与 Go Cat 相关的电子邮件,但已联系其他频道征求意见。我们没有收到回复。

人工智能动画猫视频的爆炸是“Elsagate”第二波的一个决定性特征,在范围和内容的极端性方面超过了其他任何类型。这些视频的标题如“小猫被自己的母亲虐待”——通常采取寓言的形式,小猫被饿死、被迫做不愉快的家务,并被父母用棒球棒或其他东西大声殴打。