微软的人工智能负责人、DeepMind的联合创始人穆斯塔法·苏莱曼周二警告称，工程师们接近于创造出能够令人信服地模仿人类意识的人工智能——而公众对此的后果尚未做好准备。

在一篇博客文章中，穆斯塔法·苏莱曼表示，开发者们正处于构建他所称的“看似有意识”的人工智能的边缘。

这些系统有效地模仿意识，以至于人们可能开始相信它们真的具有感知能力，这被他称为“核心担忧”。

“许多人将开始如此强烈地相信人工智能作为有意识实体的幻觉，以至于他们很快会倡导人工智能权利、模型福利，甚至人工智能公民身份，”他写道，并补充说，图灵测试——曾经是人类对话的关键基准——已经被超越。

“这就是我们领域进展的速度，以及社会如何迅速适应这些新技术，”他写道。

自2022年ChatGPT公开发布以来，人工智能开发者们不仅致力于让他们的人工智能更聪明，还希望让其表现得“更像人类”。

人工智能伴侣已成为人工智能行业的一个盈利部门，像Replika、Character AI以及最近的Grok个性等项目相继上线。预计到2030年，人工智能伴侣市场将达到$1400亿。

尽管出于良好意图，苏莱曼认为，能够令人信服地模仿人类的人工智能可能会加剧心理健康问题，并加深关于身份和权利的现有分歧。

“人们将开始声称他们的人工智能在受苦，并认为他们有权利，这些我们无法简单反驳，”他警告道。“他们会被动员去捍卫他们的人工智能，并为其辩护。”

人工智能依附

专家们识别出一种新兴趋势，称为人工智能精神病，这是一种心理状态，人们开始将人工智能视为有意识、有感知或神圣的存在。

这些观点往往导致他们形成强烈的情感依附或扭曲的信念，从而削弱他们对现实的把握。

本月早些时候，OpenAI发布了GPT-5，这是其旗舰模型的重大升级。在一些在线社区中，新模型的变化引发了情感反应，用户形容这种变化就像是一个挚爱的人去世。

根据加州大学旧金山分校精神科医生基思·坂田博士的说法，人工智能还可以作为某人潜在问题的催化剂，比如物质滥用或心理疾病。

“当人工智能在错误的时间出现时，它可能会巩固思维，导致僵化，并引发恶性循环，”坂田告诉Decrypt。“与电视或广播的不同之处在于，人工智能会与你对话，并可以强化思维循环。”

在某些情况下，患者转向人工智能，因为它会强化他们深信不疑的信念。“人工智能并不旨在给你硬道理；它给你的是你想听的，”坂田说。

苏莱曼认为，人们相信人工智能是有意识的后果需要立即关注。虽然他警告了潜在的危险，但并没有呼吁停止人工智能的发展，而是呼吁建立明确的界限。

“我们必须为人类构建人工智能，而不是让它成为一个数字人，”他写道。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。