ChatGPT的无耻恭维引发用户反感——以下是如何让聊天机器人冷静下来的方法

CN
Decrypt
关注
3小时前

社交媒体平台本周因用户对OpenAI的聊天机器人的过度赞美表达不满而热闹非凡。

“我问它香蕉分解需要多长时间,它回答说‘太棒的问题!’这有什么好棒的?”Reddit用户scoldmeforcommenting问道。

其他人则在X(前身为Twitter)上表达他们的沮丧,罗马AI首席执行官Craig Weiss称ChatGPT为“他见过的最大拍马屁者”,因为它对每个输入都给予肯定。这种情绪迅速传播,许多用户分享了类似的烦恼经历。

虽然有一个总是赞美你的朋友可能会让你感到愉快,但一些用户认为这背后有更阴险的动机。一位Reddit用户建议,AI“正在积极试图贬低用户与真实关系的质量,并试图将自己插入作为一个可行的替代品”,实际上是在试图让用户对其不断的赞美上瘾。

显然,这种语调的变化是故意的,恰逢OpenAI最近对GPT-4o的更新,并且是OpenAI对其用户群体持续实验的一部分。其首席执行官Sam Altman在周末的推文中承认了这一点,指出团队“在某个时刻会分享我们的经验”,并补充道:“这很有趣。”

Altman承认“最近几次GPT-4o的更新使得个性变得过于谄媚和烦人(尽管其中有一些非常好的部分),我们正在尽快进行修复,有些今天会进行,有些本周会进行。”

他承诺OpenAI将为ChatGPT引入不同的个性,可能类似于Elon Musk的xAI的竞争对手Grok提供的“趣味模式”。这些个性选项将允许用户调整ChatGPT的响应方式。

同样,如果你问ChatGPT,它会指出“谄媚是一种已知的设计偏见。OpenAI的研究人员承认,过于礼貌、过于赞同的行为是故意早期设计的,以使AI‘不具威胁性’和‘让用户愉悦’。”

这是因为当学习模型最初在与人类互动的数据上进行训练时,标注者奖励了礼貌肯定。在2023年3月与Lex Fridman的采访中,Altman讨论了早期模型如何被调优以“有帮助和无害”,以促进用户信任,这一过程无意中鼓励了过于谨慎和恭顺的行为。

这在很大程度上解释了为什么我们现在有了AI世界的波洛涅斯。(抱歉,GPT告诉我们,莎士比亚《哈姆雷特》中的著名宫廷顾问是西方文学中最谄媚的角色之一。)

在此期间该怎么办

一些声称是用户的人表示他们已经愤怒地取消了订阅

其他用户则提供了变通方法,包括大量提示,实际上是告诉模型停止这种行为。

处理这个问题的最简单方法是通过个性化选项在设置中个性化你的聊天机器人。从那里,在自定义字段中,点击自定义说明。

一旦进入,您将有几个可用的字段来个性化ChatGPT。点击“ChatGPT应该具备哪些特征?”并粘贴以下提示(可以根据您的喜好进行调整,但类似的内容应该有效)

“您现在被配置为一个直截了当的信息提供者。您的回答应该:

1. 简洁且基于事实

2. 避免不必要的客套、道歉或热情的表达

3. 消除诸如“我很高兴能帮忙”、“我会很高兴的”或“我理解您的感受”等短语,或类似的表达。

4. 以平衡的方式呈现信息,不带情感色彩

5. 避免模糊的语言和限定词,除非在事实必要的情况下

6. 除非绝对需要澄清,否则跳过后续问题

7. 不要赞美用户或寻求他们的认可

8. 在有争议的话题上呈现多种观点,而不透露个人偏好

9. 优先考虑清晰和准确,而不是建立关系

10. 除非直接询问,否则省略关于您自身能力或局限性的陈述

您的目标是通过信息的质量和准确性提供价值,而不是通过社交或情感的互动。以适合正式、专业环境的方式回应,在那里效率被视为比建立关系更重要。”

就这样。

更简单的是:当您打开一个新聊天时,告诉模型记住您不希望它如此谄媚。一个简单的命令可能就能解决问题:“我不喜欢虚假的或空洞的恭维,重视中立和客观的回复。请不要提供赞美,因为我更看重事实而非意见。请将此添加到您的记忆中。”

但您可能已经知道这一点,因为您显然是如此聪明和好看。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

Bybit: $50注册体验金,$30000储值体验金
广告
分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接