OpenAI科学家震惊TED大会：让AI模型多思考20秒，提升10万倍性能！

OpenAI科学家震惊TED大会：让AI模型多思考20秒，提升10万倍性能！

原创 小鹿  2024年10月25日 19:20 北京

夕小瑶科技说 原创
 作者 | 小鹿

今早看到好多媒体文章都在说，OpenAI会在12月之前发布猎户座Orion！

信息主要有：

Orion会先向OpenAI的合作伙伴开放，且微软的工程师团队已经在准备在11月在Azure平台接入Orion了。

OpenAI内部在今年9月举办了大型庆祝活动，来庆祝Orion模型的训练完成。时间节点和Sam Altman在社交平台X发布的一则隐晦消息吻合了，被认为暗示了Orion的发布。

然而这瓜还没捂热乎呢，Altman就出来辟谣了！

大众对OpenAI的新模型还是异常敏感的，而且下一个模型的发布对 OpenAI 来说，可以说灰常重要OpenAI刚刚完成了一轮创纪录的 66 亿美元融资。这是硅谷史上最大的一次融资。如果失败的话，本轮投资者将有权要求退回他们的「真金白银」。。。

但是究竟是媒体们发的是所谓剧透是假消息，还是Altman讨厌别人破坏惊喜呢

，继续蹲守！

OpenAI科学家震惊TED大会：让AI模型思考20秒，提升10万倍性能！

除了新模型的小道消息之外，最近OpenAI资深研究科学家Noam Brown（布朗博士）在TED AI的演讲震惊了大会！

他明确指出了一个大家难以置信但不断得到证实的颠覆性发现：

仅仅让AI模型多思考20秒，其性能提升的效果，相当于将模型的规模扩大10万倍，并且增加10万倍的训练时间。

还在用Transformer很没有意思！

他指出：“在过去的五年里，人工智能取得了令人瞩目的进展，如果要用一个词来总结这些突破，那就是 ‘规模’。

这种大规模扩展确实带来了显著的成果，但当前最前沿的模型仍然是基于2017年首次提出的transformer架构。如今的主要区别在于我们投入了更为庞大的数据和计算资源。”

虽然模型的扩展一直是推动人工智能进步的关键因素之一，但Brown强调，现在是时候寻求新的发展路径了。

引入系统2思维（慢思考）会极大提升表现

他认为，人工智能应超越简单的数据处理，转向他称之为“系统二思维”（System 2 Thinking）的模式——这是一种更缓慢、更加谨慎的思维方式，类似于人类在面对复杂问题时所使用的逻辑推理和深度思考。

系统二思维是心理学领域的一个重要概念，首次由心理学家Daniel Kahneman（丹尼尔·卡尼曼）提出，用于描述人类在处理复杂问题时所依赖的深度思考过程。

卡尼曼将大脑的思维模式分为两种：系统一和系统二。

系统一思维是一种快速、直觉且自动的思维方式，通常应用于处理熟悉的、日常的任务，例如识别熟悉的面孔或理解简单的句子。这种思维不需要我们主动思考，依赖于经验和直觉，因此效率较高，但也容易在复杂情境下产生偏差或错误。

系统二思维则是一种缓慢、深思熟虑的过程，它需要耗费更多的认知资源，进行逻辑推理和计算。当人类面对复杂、陌生或需要深入分析的任务时，系统二思维会被激活。尽管这一过程消耗的精力更多，但它能够帮助我们做出更为理性、深思熟虑的决策。

布朗介绍了他在攻读博士期间开发扑克AI Libratus的经历，Libratus在2017年击败了顶级的人类选手，其背后的关键策略之一便是引入系统二思维的模拟。

他发现，让AI在每手牌中花费20秒思考，能够实现与将模型规模扩大10万倍或训练时间延长10万倍相同的性能提升。

“我当时简直不敢相信这一结果，”Brown回忆道，“在博士学位的前三年，我成功地将模型规模扩大了100倍，并为此感到非常自豪。然而，Libratus的在系统二思维上的成功验证了即通过模拟人类的深度思考模式，AI可以在有限的资源下实现更高效的性能提升。与系统二思维的这种扩展相比，那些规模上扩展的工作变得微不足道。”

革命性的模型需要时间思考

OpenAI的o1系列是首次引入了"系统二思维"的概念到人工智能领域。o1于2024年9月发布，比以其他模型更加谨慎地处理信息，尤为适合复杂任务，例如科学研究、编程以及战略决策。在多个基准测试中表现出色。例如，在国际数学奥林匹克资格考试中，o1模型取得了83%的准确率，远超OpenAI的GPT-4o取得的13%。

布朗特别强调，o1模型能够推理复杂的数学公式和科学数据，这使其在依赖数据驱动决策的行业中，具有极高的价值。

“我们不再仅仅局限于扩展系统一的训练。现在，我们也可以扩展系统二思维的训练，这一方向的美妙之处在于它几乎是尚未被充分探索的领域。这场革命不是需要十年或者两年，而是正在发生。”

缓慢人工智能有助于企业获利

在面对较为缓慢的人工智能模型时，的确会有人质疑其实际应用的价值。尽管这些模型在处理复杂或艰难任务上有所改进，但在效率驱动的工业领域，是否有足够的耐心等待耗时的模型完成任务？

布朗指出，对于企业而言，OpenAI的o1模型不仅在学术领域表现优异，在实际应用上同样有广泛的价值。它通过扩展系统二的思维方式，有望优化包括医疗、能源和金融等领域的决策过程。

以癌症治疗为例，他向观众提出问题：“如果有一种全新的癌症治疗方法，你愿意为其支付1美元吗？1000美元呢？甚至是100万美元？”人们可能不会愿意等待几分钟来获取某一个答案，或是为回答支付费用。但是对于至关重要的问题，这种时间成本或金钱支出是完全合理且值得的。

OpenAI的“安全文化和流程已经让位于闪亮的产品”。

除了Good News，今天的OpenAI又曝出了离职风波。

就在昨天，OpenAI的安全团队Readiness AGI高级顾问Miles Brundage发帖宣布离开公司，团队的其他成员将被重新分配到其他团队。

Brundage在他的离职声明中表示，离开的主要原因在于机会成本变得过高，他认为他在外部的研究会更有影响力。他还提到，减少偏见是他今后的重要目标，并表示他已经完成了在OpenAI的既定任务。

Brundage进一步指出，无论是OpenAI还是其他前沿实验室，都尚未做好迎接AGI的充分准备，全球范围内的准备工作同样不足。他计划创办或加入一个专注于AI政策研究和宣传的非营利组织，以推动这一领域的发展。

结语

随着ChatGPT即将迎来周年庆，业界对OpenAI可能推出的"生日礼物"充满期待与猜测。

过去一年，OpenAI经历了诸多重大事件：推出了具有里程碑意义的o1模型，为适应新的融资需求而转型为盈利性企业，安全团队几乎全员离职并公开批评公司将产品开发置于安全之上，甚至多位核心创始成员相继离开。

在这样复杂的背景下，所有人都好奇且期待OpenAI的下一份AGI答卷到底会是什么样呢～

公众号

参考资料

https://www.theverge.com/2024/10/24/24278999/openai-plans-orion-ai-model-release-december
 https://x.com/imxiaohu/status/1849626843177255142
 https://mp.weixin.qq.com/s/YA-p-0nOdD0rjBv_kOsrKQ
 https://venturebeat.com/ai/openai-noam-brown-stuns-ted-ai-conference-20-seconds-of-thinking-worth-100000x-more-data/