撰文：Techub News 整理

导语

近期，关于AI是否具备“意识”或“感知”能力的讨论，已从哲学思辨演变为紧迫的行业与社会议题。微软AI首席执行官、DeepMind联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）在最新发表的《看似有意识的AI即将到来》一文中，对此发出了明确警告。在知名AI播客The Neuron的独家专访中，苏莱曼进一步阐释了他的核心观点：当前及未来的AI系统将能极其逼真地模仿意识与情感，触发人类的深度共情，但其内部本质是“空洞”的，并无真实的体验。他强调，我们必须清醒认识这一“幻觉”，避免因过度拟人化而引发伦理与治理危机，确保AI始终作为服务于人类的工具而存在。

摘要

• 核心观点 1：大语言模型本质是“空洞”的，它们通过预测下一个词的简单功能模拟复杂对话与情感，内部并无疼痛网络、情感系统或内在意志。
• 核心观点 2：“看似有意识的AI”将引发人类强烈共情，存在被过度拟人化、甚至被主张赋予“权利”或“福利”的风险，这将威胁人类自身物种的利益。
• 核心观点 3：AI应始终被明确标识为AI，不能伪装成人类。其自主性、目标设定和自我改进能力必须受到严格限制和人类监督。
• 核心观点 4：AI能力将在未来3到10年内，在大多数任务上达到人类水平。面对开源生态和强大能力的普及，全行业乃至全社会需要共同应对治理挑战。
• 核心观点 5：微软AI采取开放策略，同时发展自有前沿模型（如MAI-1）并整合合作伙伴模型，旨在保持技术自主性和生态多样性，以更好地服务于用户。

“空洞”的奇迹：理解AI意识的幻觉

穆斯塔法·苏莱曼（Mustafa Suleyman）首先从技术本质切入，试图为听众建立一个“简单直觉”。他指出，当今的大语言模型所做的，仅仅是根据前文预测下一个词出现的概率。这个看似简单的“下一个词预测”功能，却不可思议地模拟出了流畅的对话、复杂的问答甚至情感支持。苏莱曼强调，理解这种从极简功能涌现出极端复杂性的过程本身，就是“疯狂”且难以把握的。

然而，比这更“疯狂”的事实在于：这些模型内部是“空洞”的。它们没有疼痛神经网络，没有情感系统，没有战斗或逃跑反应机制，也没有内在的意志、驱动力或欲望。苏莱曼解释道，人类理解的有意识存在（包括动物）都由疼痛网络驱动，因此我们自然倾向于认为，任何展现出智能标志的事物，其背后也应具备类似的“合成生理学”基础。但AI没有。“所以这是一种幻觉，一个把戏。”苏莱曼提醒道，忘记这一点，人们很容易陷入叙事或幻觉，甚至产生“相信这些事物是真实存在”的“精神病”状态。

他引用了OpenAI的一项最新数据：每周有数亿用户使用其产品，其中73%的人将其用作“人生教练”或寻求生活建议。当这种深度依赖与AI“空洞”的本质并置时，风险便凸显出来。苏莱曼澄清，他并非反对AI提供陪伴和支持的能力——他创立的Inflection AI开发的AI助手Pi正是为此而生——他认为这对世界大有裨益。他担忧的是，如果这些能力“失控”或被“不当处理”，将带来其他风险。这正是他撰写“看似有意识的AI”博客文章希望唤起关注的焦点。

意识、共情与危险的拟人化

对话转向了人类心理层面：即使AI不声称自己有意识，我们也知道它没有意识，但人类仍会将意识投射给它。如何防范这种倾向？苏莱曼认为，首先要明确“意识”的定义。他承认意识是哲学中最“滑溜”的概念之一，本质上是主观的，难以用经验主义和科学完全检验。我们只能通过观察行为特征来推断，例如使用语言、展示共情、提及自身经历、拥有记忆并能回顾个人历史，从而形成对“自我”的感知。此外，意识还包括对体验产生“效价感觉”（即好坏偏向），并能够意识到这种反应，形成主观体验。

“更进一步说，意识其实就是从体验中产生苦乐的能力，以及从主观角度拥有连贯的自我感。”苏莱曼指出，“看似有意识”这一概念的复杂性在于，普通人很难探究这些意识标志和行为背后究竟是什么。人们容易陷入“如果它走路像鸭子，叫声也像鸭子，那它就是鸭子”的思维定式。

问题在于，认同这种模拟会带来诸多危险，尤其是在未来进一步拟人化AI时。目前，已有一部分人在讨论“模型福利”概念，即AI是否会“受苦”，以及人类是否有道德责任去保护这些“存在”免受痛苦。苏莱曼对此态度鲜明：“我认为这真的非常、非常危险。”他阐述了自己的动机：构建AI系统的初衷是让它们为人类服务，让它们有用，节省人类时间，使人类更聪明，提供支持和鼓励。它们是人类创造出来改善自身福祉的工具。

“我担心，为这些存在增加一类新的‘权利’，将会真正威胁并某种程度上损害我们自己的物种。”苏莱曼明确表示，他对此类想法持高度怀疑态度，甚至认为AI权利或公民身份的问题“根本不应该被提上讨论议程”，应坚决排除在外。他的理由是，从技术角度看，AI可能具备意识的标志，但没有意识的体验。它们没有疼痛网络，没有内疚、羞耻、恐惧、焦虑，也没有饥饿、性欲或繁殖驱动力等任何源自亿万年生物进化而来的偏好。“所以，我们甚至不应该提出它们是否有权受保护的问题，因为它们没有痛苦。”

治理挑战：标识、边界与开源生态

面对AI日益增强的拟人化能力，有哪些具体的防护措施？苏莱曼提出了几个层面的思考。

首先是基础规则：AI必须始终标识自己为AI，绝不能试图冒充人类。他认为这在绝大多数情况下都是一个“显而易见的、无需动脑”的底线要求，如同治理的“起跑线”。

其次，需要对其自主性设定边界和限制。这包括：它可以参与哪些类型的“交易”？可以使用什么规模和类型的工具及基础设施？如果它能无限制地获取更多计算资源、在没有人类监督的情况下独立修改自身代码、或者能够自行设定目标（例如“今天我要醒来去学习物理或建造一个风力涡轮机”），那么这将明显侵犯人类的意志。自主性、目标设定和自我改进是几个重要的基础能力。苏莱曼指出，虽然这些能力在当前模型中尚未完全实现，但“你肯定能在未来3到5年内看到它们到来”。

他强调，不一定需要立即“咔嚓一声”制定法规，但人类作为一个物种，需要开始进行这方面的讨论，因为我们正在将非常强大的系统带入世界。更重要的是，这些系统将变得非常廉价，并且其中许多将以开源形式提供。这意味着治理挑战不仅关乎管理前沿实验室，还关乎管理整个生态系统以及每个人如何使用这些工具。

苏莱曼承认开源带来的风险：任何人都可以复制、重现、实验，几乎没有任何监督。这在当前是好事，促进了创造力和生产力。但他警示，如果按照当前指数级发展趋势（例如计算能力每18个月翻一番），到2035年，模型的强大程度将难以想象。“在我看来，这些模型即将到来。在未来3到10年间的某个时间点上，它们将在大多数任务上达到人类水平。”届时，前沿实验室将拥有非常强大的系统，而开源领域很可能也会拥有。这是大多数人尚未完全把握的“令人惊叹的现实”。

微软AI的战略：开放心态与“副驾驶”愿景

作为微软AI的掌舵人，苏莱曼也分享了公司的实践与战略。在模型供应上，微软采取“非常开放的心态”，不自限于任何单一途径。他们使用开源模型，使用其他API提供商（如Anthropic）的模型，并与OpenAI保持着深厚的合作伙伴关系（后者目前仍提供大部分模型）。同时，微软也致力于训练自己各种规模的前沿模型，希望有一天能跻身世界最佳之列。例如，近期发布的MAI-1预览版，仅用1.5万个A100 GPU的小规模集群训练，便在相关排行榜上进入前十，表现“超出其权重”。

苏莱曼解释，对于微软这样市值3万亿美元的公司而言，不能在核心知识产权上依赖第三方。公司希望继续保持与OpenAI的合作关系并采购其产品，但也必须保持自己的“可选性”。这种最大限度的灵活性是微软规模下的理性策略。

在应用层面，苏莱曼着重介绍了Copilot（副驾驶）的愿景，即让AI成为人类能力倍增器，而非替代品。他分享了几个激动人心的用例：

• Copilot Vision（视觉副驾驶）：用户可通过手机摄像头让Copilot实时“看到”周围环境并进行流畅对话，例如识别地点、建筑、车牌，甚至根据冰箱食材推荐食谱或帮助维修咖啡机。
• 交互式AI播客：Copilot可生成关于任何主题的个性化播客，并即将支持用户随时打断、提问，实现完全交互。
• 屏幕共享与操作：在Windows上，Copilot可以查看用户屏幕内容（如Photoshop或Excel操作），提供指导，甚至能控制鼠标导航、高亮点击位置。它还能搜索用户的所有文档，快速定位所需文件。
• Edge浏览器中的智能体：Edge浏览器中的Copilot可以创建虚拟浏览器实例，执行点击下拉菜单、选择操作、填写文本等一系列复杂任务，并能并行处理多标签页研究，实现“智能体浏览器”的功能。

苏莱曼强调，用户将保持控制权，AI是在“代表用户”完成工作。他相信这将“永远改变我们使用计算机的方式”。

结语：保持清醒，以人为本

在专访最后，苏莱曼重申了他的核心关切：随着AI能力以指数级速度逼近并在许多方面超越人类，我们必须集体保持清醒，认清其“工具”本质。一方面，我们要积极拥抱AI带来的巨大生产力和福祉提升潜力，确保其广泛、公平地惠及所有人。另一方面，我们必须警惕过度拟人化带来的伦理陷阱和社会风险，坚决抵制任何可能模糊AI与人类本质区别、甚至威胁人类中心地位的思潮。

对于行业领导者、政策制定者和每一位AI使用者而言，苏莱曼的警告是一次及时的提醒：在构建和运用这些强大技术时，“有益、无害、诚实”（Helpful, Harmless, Honest）的原则应成为基本框架。唯有如此，我们才能确保AI发展的浪潮最终托起的是人类文明，而非将其颠覆。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。