跳到正文
10月30日周五
5月8日周五
  1. Berkeley AI Research38

    自适应并行推理:高效推理扩展的下一个范式

    伯克利 AI 研究团队综述并行推理进展,重点分析自适应并行推理:让模型自行决定何时分解并并行化子任务、开多少并发线程以及如何协调。现有 self-consistency、Best-of-N、Tree of Thoughts、MCTS 及 ParaThinker、GroupThink、Hogwild! Inference 等方法,其并行结构与搜索策略多由模型外部预先设定。