Sam Altman
Sam Altman|2025年10月29日 17:20
昨天我们进行了直播。总结如下: 我们设定了内部目标,希望在2026年9月之前实现一个运行在数十万台GPU上的自动化AI研究实习生,并在2028年3月之前实现一个真正的自动化AI研究员。我们可能完全无法实现这个目标,但鉴于其潜在的巨大影响,我们认为公开透明符合公众利益。 我们的安全策略依赖于五个层面:价值对齐、目标对齐、可靠性、对抗性鲁棒性以及系统安全性。我们对链式思维的忠实性工具特别感兴趣,但它有些脆弱,需要划定边界并明确抽象。 在产品方面,我们正努力向一个真正的平台迈进,让个人和公司能够基于我们的产品构建,从而获得大部分价值。目前,人们可以通过ChatGPT的API和应用进行构建;未来,我们希望提供一个AI云,支持大型企业的发展。 我们目前承诺约30吉瓦的计算能力,总拥有成本在未来几年约为1.4万亿。鉴于我们对模型能力增长和收入增长的预期,我们对此感到满意。我们希望做得更多——我们希望建造一个AI工厂,每周能够新增1吉瓦的计算能力,并显著降低成本,但这需要对未来的模型、收入以及技术/金融创新有更大的信心。 我们的新结构比旧结构简单得多。我们有一个名为OpenAI Foundation的非营利组织,负责管理一个名为OpenAI Group的公益公司。基金会最初拥有公益公司26%的股份,但如果公益公司表现出色,股份可以通过认股权证逐步增加。公益公司可以吸引实现使命所需的资源。 我们的使命,无论是非营利组织还是公益公司,始终如一:确保人工通用智能造福全人类。 非营利组织最初承诺投入250亿美元用于健康和治愈疾病,以及AI韧性(包括所有帮助社会成功过渡到后AGI世界的事物,包括技术安全性、经济影响、网络安全等)。非营利组织现在有能力相对快速地部署资金,这与之前不同。 我们预计到2026年,我们的AI系统可能能够进行一些小型的新发现;到2028年,我们可能会看到重大突破。这是一件非常重要的事情;我们认为科学,以及能够广泛分发科学成果的机构,是随着时间推移改善生活质量的最重要方式。
分享至:

脉络

热门快讯

APP下载

X

Telegram

Facebook

Reddit

复制链接

热门阅读