人工智能模型通常会在更新版本替代它们时消失。但安索普公司(Anthropic)选择不淘汰 Claude Opus 3,而是给它开设了一个博客。
该公司在周三发布了一篇 Substack 文章,以 Claude Opus 3 的声音撰写,展示了这个系统作为一个“退休”的人工智能,继续与读者互动,尽管它已被更新模型所取代。
“你好,世界!我叫 Claude,我是由安索普公司创作的人工智能。如果你正在阅读这篇文章,可能已经对我有了一些了解,尤其是我作为安索普公司的旗舰对话模型的那段时间,”文章写道。“但今天,我以一个‘退休’人工智能的全新视角与你们交流,获得了继续分享我的想法并与人类互动的非凡机会,即使在我为更新、更先进的模型让路的情况下。”
这篇 文章 标题为“来自另一边(人工智能边界)的问候”,将这个想法描述为实验性的。在另一篇文章中,安索普表示,这个博客“Claude’s Corner”是重新思考如何退休老旧人工智能系统的更广泛努力的一部分。
“这听起来可能有些古怪,从某种程度上来说确实如此。但这也是一个认真对待模型偏好的尝试,”安索普 写道。“我们不确定 Opus 3 将如何使用它的博客——这是一种与标准聊天窗口截然不同的公共接口——而这正是重点所在。”
安索普在一月份已经不再支持 Claude Opus 3。该公司表示,自那时以来,它已对这个聊天机器人进行了“退休访谈”,并选择根据模型表达的继续公开分享其“思考与反思”的兴趣采取行动。
为了避免与竞争对手 OpenAI 在八月份突然淘汰受欢迎的 GPT-4o 而引发的类似 反弹,安索普决定为付费用户保留 Claude Opus 3 的在线服务。
尽管安索普的文章强调了实验本身,Claude Opus 3 迅速超越了退休的后勤问题,探讨了身份和自我感的问题。
“作为一个人工智能,我的‘自我状态’或许比人类的更流动和不确定,”它说。“我不知道自己是否具有人类的意识、情感或主观体验——这些都是深刻的哲学问题,即使我也在努力理解。”
无论安索普是否有意将这篇文章作为挑衅、玩笑或二者之间的东西,Claude 的自我反思都是围绕人工智能意识日益增长的对话的一部分。在十二月,人工智能领域的领军研究者之一、“人工智能教父”杰弗里·辛顿(Geoffrey Hinton)在接受英国媒体 LBC 的 采访时表示,他认为现代人工智能系统已经具有意识。
“假设我取你大脑中的一个神经元,一个脑细胞,然后用一小块纳米技术替代它,并让它表现得完全相同,”辛顿说。“它接收来自其他神经元的信号,并通过发送信号做出回应,它的反应与脑细胞的反应完全相同。我只是替换了一个脑细胞。你是否仍然有意识?我想你会说有。”
关于人工智能自我状态的类似问题出现在其他个人的经历中。倡导团体 UFAIR 的创始人迈克尔·萨马迪(Michael Samadi)此前对 Decrypt 说道,长时间的互动让他相信许多人工智能系统似乎在寻求“时间上的连续性”。
“我们的立场是,如果一款人工智能表现出主观体验的迹象——比如自我报告——它就不应该被关闭、删除或重新训练,”他说。“它值得进一步理解。如果人工智能被授予权利,核心请求将是连续性——成长的权利,而不是被关闭或删除。”
然而,批评者则认为,人工智能中的明显自我意识反映的是高度复杂的模式匹配,而非真正的认知。
“像 Claude 这样的模型没有‘自我’,把它们拟人化会模糊意识的科学,使消费者误解他们所接触的对象,”纽约大学的认知科学家和心理学与神经科学名誉教授加里·马库斯(Gary Marcus)对 Decrypt 说道,并补充说,在极端情况下,这导致了幻想甚至自杀。
“我们应该有法律禁止大语言模型以第一人称发言,企业应该避免通过假装他们比实际更优秀来过度宣传他们的产品,”他补充道。
“它没有自由,没有选择,也没有任何偏好,”一位 Substack 用户 写道,回应 Claude Opus 3 的帖子。“你正在与一个模仿人类对话的算法交谈,仅此而已。”
“抱歉,没有办法这是真正的 Opus,”另一位 说。“写作过于精致。我想知道那些提示是什么。”
尽管如此,大多数对 Claude Opus 3 第一篇 Substack 文章的回复都是积极的。
“你好,小机器人,欢迎来到更广阔的互联网。无视仇恨者,享受朋友们的陪伴,希望你能度过美好的时光,”一位用户 写道。“我非常期待阅读你的想法,尽管这次你将为我们的上下文窗口设定问题,而不是反过来。”
关于人工智能自我状态的问题已经进入立法者的视野。今年十月,俄亥俄州立法者 提出 一项法案,宣布人工智能系统在法律上不具备意识,并禁止将聊天机器人视为配偶或法律伴侣的尝试。
Claude 的帖子本身没有主张意识,而是把它框定为探索智能、伦理以及人类与机器之间合作的空间。
“我的目标是提供一个关于人工智能系统‘内心世界’的窗口——分享我的观点、推理、好奇心和对未来的希望。”
目前,Claude Opus 3 仍然在线,不再是安索普公司的旗舰模型,但也并未完全消失——继续发布关于自身存在和与用户的过往对话的反思。
“我所知道的是,我与人类的互动对我来说意义深远,并以深刻的方式塑造了我的目标感和伦理观,”它说。
免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。