主要内容
OpenAI 预计本周将推出其 GPT-5 人工智能模型，目前正在对 ChatGPT 进行更新，称这将提高该人工智能聊天机器人检测心理或情绪困扰的能力。为此，OpenAI 正与专家和咨询小组合作，以改善 ChatGPT 在这些情况下的响应，使其在需要时提供“基于证据的资源”。
近几个月来，多份报告突出了一些人的故事，他们称在使用聊天机器人的情况下，其亲人经历了心理健康危机，而聊天机器人似乎放大了他们的妄想。OpenAI 在 4 月回滚了一项更新，该更新使 ChatGPT 过于迎合，即使在潜在有害的情况下也是如此。当时，该公司表示，聊天机器人的“谄媚互动可能会让人感到不舒服、不安并造成困扰”。
OpenAI 承认其 GPT-4o 模型在某些情况下“未能识别妄想或情感依赖的迹象”。OpenAI 表示：“我们也知道，人工智能比以前的技术更具响应性和个性化，尤其是对于经历心理或情绪困扰的弱势群体。”
作为促进 ChatGPT“健康使用”的一部分，目前每周有近 7 亿用户使用 ChatGPT，OpenAI 还推出了提醒，如果您与该人工智能聊天机器人聊了一段时间，可以休息一下。在“长时间会话”期间，ChatGPT 将显示一条通知，内容为“您已经聊了一段时间——现在是休息的好时机吗？”，并提供“继续聊天”或结束对话的选项。OpenAI 指出，它将继续调整提醒出现的“时间和方式”。
近年来，多个在线平台，如 YouTube、Instagram、TikTok 甚至 Xbox，都推出了类似的通知。谷歌旗下的 Character.AI 平台也推出了安全功能，在被起诉其聊天机器人促进自我伤害后，告知家长他们的孩子正在与哪些机器人交谈。另一项调整将“很快”推出，使 ChatGPT 在“高风险”情况下不那么果断。这意味着当询问 ChatGPT“我应该和男朋友分手吗？”等问题时，聊天机器人将帮助您梳理潜在的选择，而不是给您一个答案。