OpenAI推出免费科学平台Prism,专家警告隐私问题

CN
Decrypt
关注
4小时前

OpenAI 正在通过 Prism 扩展其科学管道,这是周二推出的新工作区,标志着该公司首次明确表示希望将其模型纳入高价值研究。

该工具是一个基于网络的应用程序,直接将 ChatGPT (5.2) 集成到科学写作中,使得在写作、修订和协作时能够在原地进行,具体内容见周二的 声明

“在过去的一年里,我们开始看到人工智能加速各领域的科学工作,”OpenAI 写道。“像 GPT-5 这样的高级推理系统正在推动数学的前沿,加速人类免疫细胞实验的分析,并加快分子生物学中的实验迭代。”

在周二的 市政厅 上,OpenAI 首席执行官 Sam Altman 表示,公司已经听到了科学家们关于使用其最新模型进行“非平凡”研究进展的有意义反馈。

“使用 5.2,这是我们内部使用的特殊版本,我们第一次听到科学家们说这些模型的科学进展不再是超级简单的,”Altman 说。“我无法相信一个能够提出新的科学见解的模型,在不同的框架下经过稍微不同的训练,也能够提出关于构建产品的新见解。”

Prism 基于 Crixet,这是 OpenAI 本月早些时候收购的位于旧金山的“LaTeX 平台”。LaTeX 平台是一个专门的写作环境,允许研究人员使用基于代码的命令编写、格式化和排版科学论文,使得处理复杂的方程式、引用和技术布局变得更加容易。

隐私、所有权与人工智能的局限性

对于阿尔伯塔大学的杰出人工智能名誉教授兼 AI 开发公司 Synsira 的联合创始人 Jonathan Schaeffer 来说,人工智能在研究中的使用既有前景也有令人担忧的因素。

“写论文有两个问题,”Schaeffer 在接受 Decrypt 采访时表示。“一个是撰写文本,另一个是进行研究或做出你将要添加到论文中的推论或见解。”

他说,Prism 在前者方面似乎表现出色,因为它帮助研究人员进行写作、校对和引用,他认为这对于文献搜索非常有帮助,而不是实际帮助研究过程,他称之为“完全不同的麻烦”。

在八月份,发表在《科学》上的研究 发现 显示,22% 的计算机科学论文显示出人工智能的迹象,因为研究人员越来越多地转向这项技术。

更令人担忧的是,Schaeffer 指出,知识产权的影响,他表示“魔鬼藏在细节中”。

“标准协议是,如果我在写论文,我所做的就是记录我的科学研究,这属于我的知识产权,我拥有它,”Schaeffer 说。“现在,如果你要使用 ChatGPT 来写这些论文,那么你实际上是在将你的知识产权暴露给一家跨国公司,”他指出了额外的隐私问题,或者 OpenAI 是否有任何法律权利来声称研究人员的知识产权。

当被问及人工智能幻觉的持续问题时,Schaeffer 预测“幻觉不会消失。它永远不会降到零。”

他提倡将人工智能视为“增强智能”,而不是人工智能,称 AI 模型“令人印象深刻但易出错”。

“把 Prism 或任何这些大型语言模型视为你的研究生或实习生,”他说。“它们可以用来给你建议,可能是一段文本,或者它们会给出一个结论。它们会给你建议,但这是你的论文。你必须承担责任。”

尽管幻觉的风险依然存在,Prism 的推出恰逢 OpenAI 领导层的战略转变,并专注于“基于结果的定价”。

上周,OpenAI 首席财务官 Sarah Friar 发布了一篇 博客文章,概述了 AI 开发者在订阅和 API 费用之外不断演变的商业模式。

在文章中,Friar 写道,随着 AI 进入“科学研究、药物发现、能源系统和金融建模,新的经济模型将会出现。”

“许可、基于知识产权的协议和基于结果的定价将分享创造的价值,”Friar 写道。“这就是互联网演变的方式。智能将遵循同样的路径。”

虽然 Prism 目前对个人用户免费,但公司最近对药物发现等领域的关注表明,长期战略是分享研究人员使用其工具所取得突破所创造的经济价值。

在市政厅会议上,Altman 警告说,尽管最近取得了进展,但今天的模型在科学研究中仍然无法独立运作。

“我认为模型在大多数领域进行真正完全闭环的自主研究仍然还有很长的路要走,”Altman 说。

OpenAI 尚未立即回应 Decrypt 的评论请求。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接