主要内容
2022 年 11 月 2 日，我参加了在纽约举行的谷歌人工智能活动。其中一个主题是负责任的人工智能。听高管们谈论如何将技术与人类价值观相结合时，我意识到人工智能模型的可塑性是一把双刃剑。模型可以被调整，例如最小化偏见，但也可以用来强化特定观点。政府可能要求操纵以审查不受欢迎的事实和推广宣传。我设想这可能是像中国这样的威权政权会使用的手段。
当然，在美国，宪法将阻止政府干预私人公司创建的人工智能模型的输出。本周三，特朗普政府发布了其人工智能宣言，这是一个针对美国乃至人类面临的最重要问题之一的广泛行动计划。该计划总体上侧重于在人工智能霸权竞赛中击败中国。但其中一部分似乎更符合中国的策略。
以真理之名，美国政府现在希望人工智能模型遵循唐纳德·特朗普对这个词的定义。在 28 页的计划中，你不会找到明确的意图陈述。相反，它说：“从根本上构建这些系统时，必须牢记言论和表达自由，并且美国政府政策不应干扰这一目标。我们必须确保言论自由在人工智能时代蓬勃发展，并且联邦政府采购的人工智能客观地反映真理，而不是社会工程议程。”
直到最后一句话，才提出了一个问题——根据谁的真理？以及什么是“社会工程议程”？下一段给了我们一个线索，它指示商务部审查拜登时代的人工智能规则，并“消除对错误信息、多样性、公平性和包容性以及气候变化的提及”。（在已发布的计划中是大写的奇怪格式）承认气候变化是社会工程？
至于真理，在关于该计划的情况说明书中，白宫表示：“大型语言模型应真实，并优先考虑历史准确性、科学探究和客观性。”听起来不错，但这来自一个将美国历史限制为“令人振奋”的解释、否认气候变化并将唐纳德·特朗普关于是美国最伟大总统的说法视为客观真理的政府。
与此同时，就在本周，特朗普的“真相社交”账户转发了一段奥巴马在监狱的人工智能视频。在周三华盛顿的一次演讲中，特朗普解释了该指令背后的逻辑：“美国人民不希望人工智能模型中出现觉醒的马克思主义疯狂。”然后他签署了一项名为“防止联邦政府中的觉醒人工智能”的行政命令。
虽然规定“联邦政府应谨慎监管私人市场中人工智能模型的功能”，但它宣称“在联邦采购的背景下，它有义务不采购牺牲真实性和准确性以迎合意识形态议程的模型”。由于所有大型人工智能公司都在争取政府合同，该命令似乎是一种后门努力，以确保大型语言模型总体上对白宫对历史、性身份和其他热点问题的解释保持忠诚。
如果对政府认为的违规行为有任何疑问，该命令花费了几段篇幅来谴责支持多样性、指出种族偏见或重视性别平等的人工智能。波戈警报——特朗普禁止自上而下的意识形态偏见的行政命令是一种公然的自上而下的意识形态偏见行为。这取决于公司如何处理这些要求。本周我与一位在 OpenAI 从事模型行为工作的工程师交谈，他告诉我该公司已经努力追求中立性。从技术上讲，他们说，满足反觉醒等政府标准不应该是一个巨大的障碍。但这不是一个技术问题：我