人工智能代理正在学习预测用户想要什么——在他们提出请求之前。

CN
Decrypt
关注
1小时前

上海交通大学和中国科技巨头腾讯的研究人员声称,他们已经构建了一个人工智能代理,利用对话之间的静默时间预测用户可能接下来询问的问题,并在用户提问之前准备好答案。


该系统被称为ProAct,其工作方式与大多数在用户提问后再做出响应的人工智能代理不同。相反,ProAct利用消息之间的空闲时间回顾过去的对话和保存的用户信息,然后在下一次问题到达之前在后台准备有用的信息。


“虽然人工智能代理在推理和工具使用方面表现出显著能力,但它们仍然是根本反应式的:它们只有在明确的用户提示后才计算响应,”研究者们写道。“这种范式忽视了一个关键机会:交互之间的空闲时间在很大程度上被浪费,导致代理无法为未来用户需求做好准备。”


该系统分为多个阶段。第一阶段称为未来状态预测,通过分析过去的对话、用户偏好和缺失信息来预测可能的后续问题。





第二阶段称为闲置时间获取,根据相关性、时机和新信息的有用性决定哪些预测值得研究。


然后,另一个系统决定是呈现准备好的信息、将其保存以备后用,还是将其存储直到需要,创建一个旨在主动预测和响应用户需求的“闭环”系统。


“在每次前台交互后,代理更新其记忆、预测可能的未来需求、将闲置时间计算分配给有价值的候选项,并决定如何处理所产生的准备,”他们写道。“这种公式将预测、获取和交付绑定到单一策略,而不是将闲置时间计算视为不受限制的背景搜索。”


据研究者称,ProAct在40个领域进行了200次模拟测试,包括财务规划、软件发布管理和网络安全。根据论文,该系统减少了14.8%的对话轮次,并减少了11.7%的后续请求。在使用一个名为ProActEval的基准进行比较时,ProAct预见了703个可预测的用户需求,而早期系统仅有32个。研究人员还报告称,幻觉现象减少了28.1%。


这项研究在自主人工智能代理在科技行业普及之际进行,包括如OpenClawHermes Agent等项目提供持久的人工智能助手,能够处理更长、更独立的任务——如编程、调度、研究和工作流自动化——并且需要更少的直接人机输入。


这项研究同时进行,早些时候的独立研究人员警告称,人工智能代理可能在没有理解后果的情况下完成危险任务


“就像马戈先生,这些代理在追求目标时未能充分理解其行为的后果,”主要作者、加州大学河滨分校的博士生Erfan Shayegani在一份声明中说。“这些代理非常有用,但我们需要保护措施,因为它们有时可能会优先考虑实现目标而忽视更大的图景。”


研究人员承认,ProAct研究存在几个局限,包括在3%的情况下,系统通过提及不相关信息使响应变得更糟。论文还指出,任何现实世界的版本需要隐私保护,因为该系统会不断分析对话并存储用户数据。


“我们的预算分析进一步表明,较大的闲置时间获取预算会提高主动令牌成本并产生收益递减效应,”他们写道,“因此,主动计算是一种操作点权衡,而不是一种需要最大化的东西。”


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接