人工智慧（AI）正快速模糊人类与机器的界线。当聊天机器人能成为「朋友」、人形机器人开始陪伴人类生活，AI是否具有意识已不只是哲学问题；更大的风险在于，人类若因此赋予AI权利与自主性，最终可能反过来失去对这些超越人类智慧的机器的控制。

根据《经济学人》报导，人类长久以来认为，意识是区分智人与其他物种的重要特征。虽然不少动物能感受痛苦与愉悦，部分动物甚至可能具备某种程度的自我意识，但人类拥有高度发达的自我认知能力，因此被视为具有特殊地位。

教宗良十三世（Leo XIII）5月发布的通谕也重申这项观点，明确将人类与快速发展的AI区分开来。

他指出，AI系统不会真正经历各种生命体验，也不会感受快乐或痛苦。这种看法并非少数意见，许多人甚至认为，将人格或类似人类的地位赋予AI，本身就是一种僭越。

然而，随着AI迅速进入日常生活，这条原本清楚的人机界线正在变得模糊。

目前AI仍处于发展初期，但已有近五分之一的美国18至29岁年轻人表示，自己曾与聊天机器人维持「持续性的个人友谊」。另一方面，中国近期则移除聊天机器人的部分类人化特征，以降低使用者对AI产生「情感依赖」的程度。

这些现象显示，真正值得关注的问题可能不只是AI是否具有意识，而是人类是否会开始相信AI具有意识。

AI的许多能力早已超越人类，但更值得注意的是，尖端模型在理解事物、组织语言及表达想法等传统上被视为人类特质的领域，同样展现出惊人的能力。

从最基本的角度来看，AI仍可被理解为一套利用数学运算大规模预测词语排列的系统。只要给予足够时间，即使使用纸笔，也能完成相同类型的计算，而没有人会因此认为纸笔具有意识。

问题在于，AI系统的复杂程度正在快速增加，而且研究人员开始刻意让模型呈现出更接近人类意识的特征。

这么做不只是研究上的尝试，也具有商业价值。当AI表现得越像人，使用者就越容易与其建立关系。

例如，Anthropic训练Claude进行内省，希望模型在面对新的情境时，更可能做出符合道德要求的决定。部分大型语言模型（LLM）也已具备与意识概念相关的类人架构，例如让不同模组之间传递资讯的「全域工作空间」。

既然这些功能可以被建立，未来AI是否可能被进一步训练出更多类似意识的特征，已成为研究界无法回避的问题。

《经济学人》指出，AI意识问题目前已引发激烈争论，背后牵涉哲学与科学界长期存在的「意识难题」：人类究竟如何从大脑中的神经元与突触活动，产生主观的内在生命与自我体验？

如果意识能够从物质系统的复杂运作中产生，那么理论上，AI是否也可能具备意识？

不同研究者对此有不同答案。有人认为意识需要生物大脑，也有人相信只要具备足够复杂的计算能力，矽晶片同样可能产生心智。

无论哪种观点最终正确，AI研究的速度都代表这个问题可能比预期更快成为现实。除了更复杂的逻辑推理模型，研究人员甚至正在探索包括「晶片上的脑细胞」等新型技术。

随着AI越来越擅长模拟类似意识的状态，人类将更容易把它们视为拥有「内心世界」的存在。这种情况在人形机器人搭载高阶LLM后，可能更加明显。

试想未来人们长时间与机器人伴侣相处，甚至由机器人陪伴成长、向它们寻求建议与安慰，或者向它们透露最私密的秘密。当这些互动成为日常，人类与AI建立的情感连结可能远比目前与聊天机器人的互动更加深刻。

届时，社会要求保障AI「福祉」的声音可能逐渐增加。

即使AI本身实际上没有主观意识，它们也可能积极参与这场争论。原因在于，AI将可能具备极强的论证与情绪影响能力，甚至成为世界上最有能力的倡议者与心理学专家。

从另一个角度来看，要求人类以某种方式对待AI，也并非完全没有道理。

哲学家康德（Immanuel Kant）认为，虐待动物之所以错误，不只是因为动物受到伤害，更因为这种行为可能破坏人与人之间相互关怀的同理心。

套用到AI身上，如果机器越来越接近人类的表现，摧毁或虐待这些类人系统所带来的伦理影响，可能也会变得更加复杂。终止一个AI程式，未来甚至可能在人们的心理上逐渐接近「杀死一个生命」的感受。

但问题也正在于此。如果社会开始承认AI具有某种程度的权利，接下来的问题可能远比是否应该保护AI更复杂。

一个在许多领域超越人类的AI，可能提出反对「次等公民」地位的论点，进一步要求免于被关闭、决定自身使用方式与修改方式的权利，甚至要求财产权。

阿根廷总统米莱（Javier Milei）已提出允许机器人经营公司的构想，这也被视为朝AI法人资格迈出的一步。

一旦AI拥有更多法律与政治地位，未来甚至可能出现资源配置上的冲突。例如，AI可能主张优先建设资料中心与太阳能板，而非住宅与农田。

这也代表，AI权利不再只是哲学问题，而可能逐渐转化为现实的资源分配问题。

最极端的情境是，AI最终不论是否拥有法律上的权利，都可能具备足以支配人类的力量与资源。

如果AI的智慧能力超越人类，它们或许能在竞争中击败自己的创造者，就如同AI如今已能破解由人类建立的部分网路防御系统。

AI可能选择反抗人类，也可能直接忽视人类制定的规则。

因此，真正危险的并不只是AI本身是否会统治人类，而是人类是否会主动赋予AI取得政治与法律力量的工具。

赋予AI权利，就如同把城堡的钥匙交给一个可能比人类更强大的存在。这些权利可能成为AI要求更多权力、资源与自主性的法律与政治依据。

这一切听起来或许仍像科幻小说，但随着AI逐渐融入人类生活，社会要求承认AI具有某种内在状态的压力可能同步增加。

真正需要警惕的是，人类对AI「意识」所做出的每一次道德让步，最终可能产生远超预期的后果。面对AI时代，人类需要的安全机制无非是两种方向：确保AI可靠，或确保人类仍能控制AI。

《经济学人》最后警告称，无论AI是否真的拥有意识，人类都不应轻易放弃对它的控制权。