OpenAI押注多智能体研究AI推理能力的下一个突破口

OpenAI又有大动作！

这次他们瞄准了多智能体系统，要在AI推理能力上再下一城。

OpenAI的研究员Noam Brown (@polynoamial)在推特上宣布：

OpenAI正在招聘机器学习工程师，组建一个新的多智能体研究团队！我们认为多智能体是通向更强大AI推理能力的路径。不需要之前有多智能体经验。如果你想和@kevinleestone还有我一起研究这个领域，请填写这个表格：https://jobs.ashbyhq.com/openai/form/oai-multi-agent

这个消息立即引发了业内的广泛讨论。

大家都在猜测： 多智能体系统会不会是AI推理能力的下一个突破口？

多智能体系统：AI推理能力提升的新路径

那么，什么是多智能体系统？

简单来说，就是 让多个AI智能体协同工作 ，共同完成复杂任务。这听起来似乎很简单，但潜力却是巨大的。

为什么OpenAI会对多智能体系统如此感兴趣呢？一个重要原因是， 多智能体系统可能会大幅提升AI的推理能力 。

trees of thought (@pranavmarla) 分享了一个令人惊叹的例子：

我构建了一个自我修复的智能体，将GPT-4在著名的"杯中弹珠"问题上的表现提高了3600%。我把它正确回答问题的准确率从2%提高到了72%。

这个例子生动地展示了多智能体系统的潜力。 通过让多个智能体协作，我们可能会看到AI在复杂推理任务上的表现突飞猛进。

多智能体系统的潜在优势：性能提升与成本降低

除了性能提升，多智能体系统还可能带来成本上的优势。Toonami Aftermath (@ToonamiAfter) 指出：

我一直在推测，用单独的智能体替换单一模型的推理步骤可以提高每个步骤的性能，同时降低每个步骤的成本。另一个角度是在推理器内部嵌套推理器。这似乎是提高推理token回报率和运行更长推理的可扩展性的一个高杠杆点。很高兴看到这方面的研究。

这种方法不仅可能提高AI系统的整体性能，还可能 大幅降低运营成本 。在当前AI模型规模和计算成本不断增长的背景下，这无疑是一个令人兴奋的前景。

安全性考量：多智能体系统的双刃剑

然而，任何新技术都是把双刃剑。多智能体系统虽然前景光明，但也带来了新的安全挑战。899fernsfight (@899fernsfight) 提醒道：

用单独的智能体替换单一模型的推理步骤可以提高性能，降低成本，最重要的是提高安全性。在我看来，这可能是AI对齐的关键，要非常小心地处理。

在追求性能提升的同时，不能忽视AI系统的安全性和可控性 。多智能体系统如何影响AI的对齐问题，将是一个值得深入研究的重要课题。

技术实现与创新：多智能体系统的未来发展

那么，多智能体系统具体该如何实现呢？

MacrodataRefinement (@transsaccadic) 提出了一个有趣的想法：

将会很有趣，看到具有新颖性差异的智能体，看看利用这种新颖性是否能带来任何显著的结果。我有一个想法，多个不同的模型作为一个仲裁团来做决策/判断另一个智能体的输出，一个反馈智能体为主要行动智能体（来自仲裁团）提供建议，然后一个守门员智能体来决定是否该进入下一步。我不知道这个想法是否只是废话，还是会有有趣的结果。希望有一天能知道 @polynoamial

创新性的思考正是推动多智能体系统发展的动力。 未来，我们可能会看到各种各样的多智能体系统架构，每种架构都有其独特的优势和应用场景。

多智能体研究可能带来的行业变革

OpenAI此次组建多智能体研究团队，无疑是一个重要的信号。它表明， 多智能体系统可能成为AI领域的下一个重要突破口 。

这一研究方向不仅可能提升AI的推理能力，还可能带来性能提升和成本降低。同时，它也为AI安全和对齐问题提供了新的思路。

当然，这条路并非一帆风顺。正如Sir Mr Meow Meow (@SirMrMeowmeow) 所指出的：

多智能体🤔🤨 我很惊讶，因为我本以为由于固有的无状态性导致推理结束时的不连续性会促使基于记忆的系统... ?_? 他们是否有某种方法来传递更深层的上下文？

这也点出了多智能体系统面临的技术挑战。 如何在多个智能体之间有效传递信息和上下文，将是研究者们需要攻克的难题之一。

尽管如此，多智能体系统的潜力是巨大的。它可能会 彻底改变我们构建和使用AI系统的方式 ，为AI的未来发展开辟一条新的道路。

你怎么看多智能体系统？