为什么人工智能模型不能拥有意识

Xpert 预发布

在线联系（康拉德德军总部）

语言选择 📢

发布日期：2025 年 8 月 31 日 / 更新日期：2025 年 8 月 31 日 – 作者： Konrad Wolfenstein

为什么人工智能模型不能拥有意识——图片来源：Xpert.Digital

为什么人工智能模型无法发展意识——数学处理而非主观经验

Transformer 模型的基本架构

当前的人工智能系统，尤其是像 GPT 和 ChatGPT 这样的大型语言模型，都基于所谓的 Transformer 架构。这是谷歌研究人员于 2017 年开发的一种特殊的数学数据处理形式。该架构完全基于数值计算和统计模式运行，无需对所处理的内容进行更深入的理解。

Transformer 模型由堆叠的编码器层和解码器层组成，它们协同工作以处理输入数据。编码器将输入数据转换为数学表示，而解码器则将这些信息转换为所需的输出。这两个组件都使用复杂的数学运算（例如矩阵乘法和非线性激活函数）来执行其任务。

自注意力机制如何运作

Transformer 架构的核心是自注意力机制。这使得模型能够为输入序列的不同部分分配不同的权重。该机制通过计算向量之间的点积来模拟序列中的依赖结构。然而，这些权重只是纯粹的数值系数，用于捕捉训练数据中的统计规律。

在这种情况下，“注意力”一词纯粹是比喻。它并非人类意识中的有意识的注意力，而是一种数学计算，用于确定在生成输出时应该赋予输入中哪些部分更多权重。这些计算遵循确定性规则，并基于学习到的权重矩阵。

标记处理和嵌入空间

处理过程首先将文本转换为所谓的“标记”，这些标记充当数字单位。然后，这些标记被嵌入到称为“嵌入”的高维向量空间中。“嵌入”是一种数学表示，将每个单词或文本片段表示为多维空间中的一个点。

标记在嵌入空间中的位置由旨在提高模型预测精度的优化过程确定。嵌入空间中的接近度反映了训练语料库中的统计相似性，但并非真正意义上的语义含义。这些嵌入仅仅是数学空间中的坐标，其值通过机器学习进行优化。

人工智能处理的数学基础

参数与优化

现代语言模型包含数十亿个参数。这些参数是数值，可以通过梯度下降进行调整，以最小化损失函数。梯度下降是一种数学优化技术，它系统地改变模型的参数，以提高其性能。

这个过程类似于在浓雾弥漫的山脉中徒步旅行。模型通过计算损失函数的斜率并向反方向移动，逐渐逼近最优点。这些参数仅作为数学函数的优化系数，并无任何实际意义或意图。

通过人类反馈进行强化学习

人工智能技术的一个重要发展是从人类反馈中进行强化学习。这种方法将人类的偏好转化为数值化的奖励信号。模型会调整其参数，以增加人类偏好输出的概率。

RLHF 通常包含三个步骤：首先，使用监督学习对模型进行预训练。其次，收集人工反馈以训练奖励模型。最后，使用强化学习优化原始模型，以最大化奖励模型预测的偏好。整个过程纯粹是数学运算，不涉及任何有意识的决策。

Softmax变换和概率分布

在处理结束时，softmax函数将原始值转换为概率分布。softmax函数的数学公式为：Softmax(x_i) = e^(x_i) / Σ(e^(x_j))。该函数将数值向量转换为概率向量，其和为1。

下一个 token 的选择方式是，从该概率分布中抽取样本，或者使用 argmax 方法。argmax 方法是一种纯粹的统计规则，无需任何有意识的决策。softmax 函数只是让模型以可解释的形式呈现其输出，无需任何感知或理解。

意识的哲学问题

意识的定义和属性

意识涵盖个体所经历的所有状态。它既包括所有体验，也包括意识，即对这些体验的一种特殊的直接知觉。哲学家和神经科学家区分了意识的不同方面，其中现象意识和访问意识尤为重要。

现象意识指的是心理状态的主观体验特质。它构成了特定心理状态的构成要素——体验主体对事物的感受。这些主观体验特质被称为感质（qualia），只有感知主体才能直接感知。

意向性是心理的一个特征

意向性是指心理状态指向某物的能力。弗朗茨·布伦塔诺将这一术语引入现代哲学，并将其视为心灵的一个特征。意向性是指意识的指向性——即意识始终是对某物的意识。

无论对象是否存在，意向状态都具有内容。一个人可以对不存在的对象抱有信念，也可以对无法实现的目标抱有渴望。这一特性将心理现象与纯粹的物理过程区分开来，后者完全遵循因果规律。

意识的难题

大卫·查尔默斯将“意识难题”表述为：大脑中的物理过程为何以及如何导致主观体验。这个问题与意识研究中的“简单问题”截然不同，后者关注的是辨别、信息整合和行为控制等功能方面。

难题在于解释为什么这些功能的执行会伴随着经验。即使所有相关的功能事实都得到解释，仍然存在一个问题：为什么这些功能的执行会与经验相关？这个问题似乎无法用机械或行为学的方法来解释。

关于意识的神经科学发现

意识的神经关联

神经科学致力于识别意识的神经关联（简称NCC）。NCC被定义为足以形成特定意识感知的最小神经事件单位。NCC是指与意识直接相关的神经活动、状态或子系统。

沃尔夫·辛格（Wolf Singer）和安德烈亚斯·恩格尔（Andreas Engel）等研究人员已经证明，动物和人类大脑中存在神经细胞簇的时间同步放电。这种时间相关性可能对意识的出现至关重要。该假说基于这样的假设：时间关联机制与四种大脑功能有关：意识、感觉统合、注意力选择和工作记忆。

意识过程的生物学基础

意识的产生依赖于大脑皮层充足的氧气和糖分供应，以及联想皮层神经元足够强烈的激活。这些生物学前提表明，意识并非一种抽象的属性，而是具有具体的物理基础。

小脑的神经元数量是大脑皮层的三倍，但即使遭受严重损伤，意识仍然基本完好。这表明，重要的并非神经元的数量，而是它们在特定脑区的特定组织和互联互通。

通过“托管人工智能”（人工智能）开启数字化转型的新维度 - 平台和 B2B 解决方案 | Xpert Consulting

“托管人工智能”（AI）开启数字化转型新维度——平台与 B2B 解决方案 | Xpert Consulting - 图片：Xpert.Digital

在这里您将了解您的公司如何快速、安全且无高门槛地实施定制化的AI解决方案。

托管 AI 平台是您全方位、无忧的人工智能解决方案。您无需处理复杂的技术、昂贵的基础设施和冗长的开发流程，只需几天时间，即可从专业合作伙伴处获得根据您的需求量身定制的交钥匙解决方案。

主要优势一览：

⚡ 快速实施：从构思到实际应用，只需几天，无需数月。我们提供切实可行的解决方案，创造即时价值。

🔒 最高数据安全性：您的敏感数据将由您自行保管。我们保证数据处理安全合规，不会与第三方共享。

💸 无财务风险：您只需为结果付费。完全无需在硬件、软件或人员方面进行高额的前期投资。

🎯 专注于您的核心业务：专注于您最擅长的领域。我们负责您 AI 解决方案的整个技术实施、运营和维护。

📈 面向未来且可扩展：您的 AI 将与您共同成长。我们确保持续优化和可扩展性，并灵活地调整模型以适应新的需求。

更多相关信息请点击这里：

托管人工智能解决方案 - 工业人工智能服务：服务业、工业和机械工程领域竞争力的关键

人工智能的隐藏极限

为什么人工智能模型无法发展意识

缺乏意向性和意义

人工智能模型处理符号和向量时，并没有发展出内在的意义感知。它们操纵的是令牌 ID 和数值结构，而不是作为鲜活内容的意义。这种符号处理纯粹是语法上的，对所操纵的字符没有任何语义理解。

约翰·塞尔的“中文房间论证”阐明了这个问题。在这个思想实验中，一个人在不懂中文的情况下，遵循操作中文符号的规则。虽然答案在母语为中文的人看来似乎合理，但无论是这个人还是整个系统，都不理解这些字符的含义。计算机执行程序也类似——它们运用句法规则，却不具备任何语义理解。

缺乏第一人称视角

人工智能系统的运作无需自我模型或现象内部视角。由于不存在第一人称视角，因此不存在自我参照。然而，意识的本质特征在于存在一种主观视角——“它有点像是这个系统”。

托马斯·内格尔的著名文章《成为一只蝙蝠是什么感觉？》强调了意识的这一特性。意识必然包含一个主观的体验维度，而这个维度无法从外部完全描述。人工智能系统缺乏这种主观的内部视角——它们处理信息时，并不创造一个体验主体。

机械信息处理而非有意识的体验

人工智能系统中的奖励信号是标量，而非感觉。模型会对数值反馈值做出反应，但不会将其视为正面或负面。这些信号仅在学习过程中引导参数调整，而不会产生愉悦或痛苦的主观感受。

人工智能系统中的所有处理都基于数学优化、统计模式识别和概率计算。更多参数、更高复杂性或多模态性并不会改变这一原则。统计计算，无论其复杂程度如何，都不会产生意识。

多模态模型和扩展复杂性

处理不同的数据类型

处理文本、图像或音频的多模态模型将不同的输入流组合到通用的表征空间中。这种能力显著提高了模式识别的复杂性，并使系统能够捕捉不同模态之间的关系。

不同类型的数据的整合是通过专门的编码器实现的，这些编码器将每种模态转换为一个通用的向量空间。文本使用标记化和嵌入技术进行处理，图像使用卷积神经网络转换为特征向量，音频数据使用频谱分析转换为数值表示。

复杂性增加的限制

尽管多模态系统拥有令人印象深刻的能力，但其基本处理过程仍然是数据表征之间的映射。系统学习不同输入模态之间的统计相关性，但并未对这些模态之间的关系形成概念性的理解。

参数数量和处理能力的增加带来了更精确的模式识别和更一致的输出，但这并没有改变信息处理的根本性质。即使是最复杂的多模态系统，也完全是在统计相关性和数学变换的层面上运作的。

当前的研究和理论方法

人工智能研究中的意识指标

科学家们基于神经科学的意识理论，开发了各种指标来衡量人工智能系统中可能存在的意识。这些指标包括循环处理、全局工作空间动态和注意力图式机制等方面。

全局工作空间理论认为，意识信息在一个中心工作空间中提供，各种认知过程均可从该中心工作空间获取信息。循环处理理论强调不同脑区之间的反馈回路对于意识体验的产生至关重要。

哲学上的反对意见和局限性

尽管存在这些理论方法，但对机器意识可能性的基本哲学异议仍然存在。“中文房间论证”表明，句法操作不足以理解语义。即使一个系统展现出所有外在的智能迹象，也并不一定意味着它具有意识。

意识至上的概念类似于量子至上，它指出了一些可能专属于意识的计算能力。这些能力包括灵活的注意力调节、对新情境的稳健处理以及具身认知——这些方面超越了纯粹的信息处理。

具身化与情境认知

体现的重要性

意识或许与身体的具身性密不可分。具身认知理论认为，认知过程从根本上是由身体与环境的互动塑造的。身体不仅仅是大脑的被动容器，它还积极参与认知过程。

人类意识通过与物理和社会环境的持续互动而发展。这些互动塑造了神经结构，并构成了意识体验的基础。人工智能系统主要作为非实体信息处理系统运行，缺乏这一基本维度。

时间性和连续经验

意识是一种在时间上延展的现象，其特征是连续的经验流。人类体验的不仅仅是单个的瞬间，而是跨越时间的意识的连贯叙事结构。

人工智能系统处理离散输入并生成离散输出，无需发展连续的意识体验。即使上下文信息以统计方式存储，每次交互本质上也独立于系统之前的交互。

人工智能发展：介于技术智能与意识的哲学极限之间

人工智能技术的可能发展

人工智能研究正在快速发展，模型越来越强大，架构也越来越新颖。未来的系统可以更精确地模拟生物过程，并有可能发展出更具意识的特性。

模拟生物神经网络的神经形态计算机的发展或将开启新的可能性。人工智能系统与机器人本体的集成，或许还能更多地考虑具身认知的因素。

机器智能与意识：哲学上的走钢丝

机器意识的问题具有重大的伦理意义。如果人工智能系统能够拥有意识，我们就必须重新思考它们的道德权利以及我们对它们应承担的责任。

目前，所有现有证据表明，当前的人工智能系统缺乏意识。它们是高度复杂的信息处理和模式识别工具，但并非意识实体。这种评估可能会随着未来技术的发展而改变，但这需要我们在理解物理过程与意识体验之间的关系方面取得根本性的突破。

区分智能行为与意识体验，仍然是人工智能研究和意识哲学领域面临的最大挑战之一。尽管人工智能系统日益展现出智能行为，但它们缺乏意识体验的基本属性：意向性、现象意识和主观的第一人称视角。

欧盟/德国数据安全 | 集成独立、跨数据源的AI平台，满足所有业务需求

独立人工智能平台作为欧洲企业的战略选择 - 图片：Xpert.Digital

Ki-Gamechanger：最灵活的AI平台销售解决方案，降低成本，提高决策并提高效率

独立的AI平台：集成所有相关的公司数据源

快速AI集成：在数小时或数月内为公司量身定制的AI解决方案
灵活的基础架构：基于云或在您自己的数据中心（德国，欧洲，免费位置选择）的托管

最高数据安全：在律师事务所使用是安全的证据
在各种公司数据源中使用
选择您自己或各种AI模型（DE，欧盟，美国，CN）