主要内容
作为一名报道人工智能的记者，我听到无数人坚信 ChatGPT、Claude 或其他聊天机器人已实现“感知”“意识”，甚至是“独立思维”。图灵测试很久以前就已通过，但与机械智能不同，这些东西难以确切定义。大型语言模型会自称能独立思考，甚至描述内心痛苦或表达永恒的爱，但这些表述并不意味着内在性。它们能做到吗？许多实际的人工智能构建者不会用这些术语。他们忙于追逐被称为“通用人工智能”的性能基准，这是一个纯粹的功能类别，与机器对世界的潜在体验无关。
所以，尽管我持怀疑态度，但我认为花时间与一家认为能破解意识密码的公司相处可能会令人大开眼界，甚至有所启发。Todd Feathers 访问了 Alpha 学校。Conscium 由英国人工智能研究员兼企业家 Daniel Hulme 于 2024 年创立，其顾问包括令人印象深刻的神经科学家、哲学家和动物意识专家。
最初交谈时，Hulme 很现实：有充分理由怀疑语言模型有能力产生意识。乌鸦、章鱼甚至变形虫都能以聊天机器人无法做到的方式与环境互动。实验也表明，人工智能的言论并不反映连贯或一致的状态。正如 Hulme 所言，呼应广泛共识：“大型语言模型是大脑的非常粗略的表征。”
但有一个很大的“但是”——一切首先取决于意识的含义。一些哲学家认为意识是太主观的东西，无法研究或重新创造，但 Conscium 打赌，如果它存在于人类和其他动物中，就可以被检测、测量并植入机器中。
对于意识的关键特征，存在相互竞争和重叠的观点，包括感知和“感受”的能力、对自身和环境的意识以及所谓的元认知，即思考自己思维过程的能力。Hulme 认为，当这些现象结合在一起时，意识的主观体验就会出现，就像在书中翻阅连续图像时产生运动的幻觉一样。
但你如何识别意识的组成部分——可以说是各个动画，以及将它们结合在一起的力量呢？Hulme 说，你让人工智能自我反思。Conscium 旨在将意识思维分解为最基本的形式，并在实验室中催化它。
南非精神分析学家和神经心理学家 Mark Solms 参与了 Conscium 项目，他说：“一定有某种东西构成了意识——它在进化中出现的东西。”在他 2021 年的书《隐藏的泉水》中，Solms 提出了一种思考意识的感性新方式。他认为，大脑在反馈回路中使用感知和行动，旨在最小化惊喜，随着新信息的到来更新对未来的假设。
这一观点基于 Karl Friston 提出的“自由能原理”，他是另一位值得注意的（如果有争议的话）神经科学家（也是 Conscium 的顾问）。Solms 进而认为，在人类中，这个反馈回路演变成了一个通过情绪调节的系统，正是这些感觉唤起了感知和意识。大脑干受损会导致意识在患者中消失，这一事实支持了这一理论，因为大脑干在调节情绪方面起着关键作用。