OpenAI神秘項目「草莓」曝光！自我进化已超越人类智能？马斯克嘲讽：回形针灾难

夕小瑶科技说原创
作者 | 付奶茶
根据路透社的最新报道，OpenAI正在秘密开发代号为“草莓（Strawberry）”的全新项目！

根据路透社在五月份获得的OpenAI内部文件副本显示：虽然目前草莓项目的工作原理严格保密，但是OpenAI正在全力推动草莓项目的进行，项目目标在于利用草莓模型提升公司人工智能的推理能力，不仅能够生成查询的答案，还能够提前规划、自主地浏览互联网，并执行OpenAI称之为“深度研究”的复杂任务。

草莓项目的爆料

知情人士透露，草莓采用特殊的后训练技术（post-training，在模型经过大规模数据集预训练后进一步优化，使其在特定领域表现更加出色。

据爆料内容猜测，草莓与斯坦福大学 2022 年开发的一种名为 "自学推理"（Self-Taught Reasoner）或 "STaR "的方法有相似之处。其创造者之一 Noah Goodman 教授告诉路透社记者，STaR 能让 AI 模型通过反复创建自己的训练数据来 "引导"自己达到更高的智能水平，理论上可以用来让大语言模型超越人类智能水平。

STaR 相关的两篇论文：
论文题目：
STaR: Bootstrapping Reasoning With Reasoning
论文链接：https://arxiv.org/pdf/2203.14465

论文题目：
Quiet-STaR: Language Models Can Teach Themselves to Think Before Speaking
论文链接：
https://arxiv.org/abs/2403.09629

推理是实现人工智能达到甚至超越人类智能水平的关键。尽管大型语言模型已经能够比人类更快速地总结复杂文本和撰写优雅散文，但在识别逻辑谬误和处理类似井字棋等直觉问题上，这项技术常常表现不佳。面对这类挑战时，模型往往会产生虚假信息的“幻觉”。

草莓项目被爆料为能够自主浏览互联网并进行“深度研究”，采用了CUA技术（Computer-Using Agent）。其主要目标是增强AI的推理能力，结合特殊的“后训练”方法，利用“深度研究”数据集来训练和评估模型。这种方法使得AI模型能够处理复杂的长期任务（LHT），提前规划并执行一系列操作。在接受Dwarkesh Patel的播客采访时，OpenAI的联合创始人之一John Schulman透露了关于这方面的最新进展。

播客链接：
https://www.youtube.com/watch?v=Wo95ob\_s\_NI

如果草莓项目和爆料的内容一致的话，其实可以是一个大语言模型研究进程上的一个关键转折点,它标志着我们正在从单纯依赖大规模数据和计算能力的方法,转向更注重AI系统内在推理能力和自主学习的新范式～

这么大的瓜，怎么少的了我们的知名网友呢～马斯克也赶来吃瓜了：

▲过去人们常说，AI灾难可能会像回形针一样成为问题。但现在看来，更可能是草莓田了。（这里引用了哲学家尼克·博斯特罗姆的观点，他曾提到，高度智能的AI可能会被设计成类似回形针，如果我们给人工智能一个看起来简单而无害的任务，如尽可能提高回形针的生产量，这种全能型的AI可能会采取极端措施，比如将地球上所有可用资源都转化为回形针生产，最终导致整个地球变成一个巨大的回形针制造工厂。）

这不得不提到，ChatGPT之前还有一个关于草莓（Strawberry）的笑话呢：