主要内容
近期我在意大利度假。像如今人们常做的那样，我向 GPT - 5 询问了观光建议和餐厅推荐。该机器人报告说，在罗马我们酒店附近晚餐的首选是沿着玛格塔街步行一小段距离。结果那是我记忆中最棒的一餐之一。回家后，我询问该模型是如何选择那家餐厅的，出于以后可能还想去用餐的考虑（天呢，谁知道我是否还会再去：它叫芭贝特。提前预约。），我犹豫是否要透露。答案很复杂且令人印象深刻。其中的因素包括当地居民的好评、美食博客和意大利媒体的报道，以及该餐厅罗马和当代烹饪的卓越结合。哦，还有那一小段步行距离。我也需要付出一些东西：信任。我必须相信 GPT - 5 是一个诚实的中介，毫无偏见地为我挑选餐厅；那家餐厅不是作为赞助内容展示给我的，也不会从我的账单中分成。我本可以自己做深入研究来核实推荐（我确实查看了网站），但使用人工智能的意义就在于绕过那种麻烦。这次经历增强了我对人工智能结果的信心，但也让我思考：随着像 OpenAI 这样的公司变得更强大，并且试图回报投资者，人工智能是否会容易出现我们今天使用的科技应用程序中似乎普遍存在的价值侵蚀？作家和科技评论家科里·多克托罗将这种侵蚀称为“恶化”。他的前提是，像谷歌、亚马逊、脸书和抖音这样的平台起初旨在取悦用户，但一旦公司击败竞争对手，它们就会故意变得不那么有用以获取更大的利润。《连线》杂志重新发表了多克托罗 2022 年关于这一现象的开创性文章后，这个术语进入了日常用语，主要是因为人们认识到它完全切中要害。“恶化”被选为美国方言学会 2023 年年度词汇。这个概念被频繁提及，以至于它超越了其粗俗性，出现在通常会对这样一个词嗤之以鼻的场所。多克托罗刚刚出版了一本关于这个主题的同名书籍；封面图片是……猜猜是什么表情符号。如果聊天机器人和人工智能代理变得“恶化”，可能比谷歌搜索变得不那么有用、亚马逊结果充斥着广告，甚至脸书展示更少的社交内容而更倾向于引发愤怒的点击诱饵更糟糕。人工智能正朝着成为我们的常伴的方向发展，为我们的许多请求提供一次性答案。人们已经依赖它来帮助解读时事和获取各种购买选择甚至生活选择的建议。由于创建一个完整的人工智能模型成本巨大，合理的假设是只有少数几家公司将主导这个领域。它们都计划在未来几年花费数千亿美元来改进他们的模型，并将其交到尽可能多的人手中。目前，我认为人工智能处于多克托罗所说的“对用户友好”阶段。但要收回巨额资本投资的压力将是巨大的——尤其是对于用户基础被锁定的公司。正如多克托罗所写，这些条件允许公司虐待他们的用户和商业客户“为自己夺回所有价值”。当人们想象人工智能的“恶化”时，首先想到的是广告。噩梦是人工智能模型将根据哪些公司支付了投放费用来提供推荐。目前这还没有发生，但人工智能公司正在积极探索广告领域。在最近的一次采访中，OpenAI 首席执行官山姆·奥特曼说：“我相信可能有一些很酷的广告产品我们可以做，这对用户是净赢，对我们与用户的关系也是一种积极的影响。”与此同时，OpenAI 刚刚宣布与沃尔玛达成一项协议，以便零售商的客户可以在 ChatGPT 应用程序中购物。难以想象那里会有冲突！