主要内容
欧盟AI法案第50条正式生效,要求在欧盟境内运营的AI提供商和部署者履行透明度义务。生成式AI工具需明确告知用户交互对象为机器,并标记AI生成内容,以应对AI与人类互动难以区分、存在操纵欺诈风险的问题。
提供商需设计系统让用户明确知晓AI交互(合理情况下明显例外除外),执法系统若有第三方权利保护且公众可举报犯罪则除外。生成合成音频、图像、视频或文本的系统需标记输出内容,采用机器可读的人工生成标识,在技术可行前提下平衡实施成本与现有技术水平。辅助编辑若未改动部署者输入则不适用,常规照片修饰无需标记,整体AI生成替换内容需标记。
部署情感识别或生物特征分类系统的机构必须告知相关受众。此类系统收集的个人数据仍受GDPR、欧盟机构数据保护条例或执法指令约束。深度伪造内容需明确披露,艺术、讽刺或虚构作品仅需提示存在即可。公众利益文本的AI生成或篡改需披露,除非经人工审核且有编辑责任方,常规新闻编辑审核即可豁免。所有披露需在首次交互时完成,以清晰、可区分且符合无障碍规则的方式呈现,无事后告知宽限期。
第50条执行由三机构分工负责:国家市场监管机构处理多数案例,欧盟AI办公室监督特定系统,欧盟数据保护官处理欧盟机构相关事务。签署《生成式AI内容透明度实践守则》是合规路径之一,未签署组织需通过其他方式证明合规。