自适应并行推理：高效推理扩展的下一种范式

一篇综述与观点文章梳理并行推理的最新进展，聚焦模型如何根据问题自主决定是否拆解任务、并行线程数量及协调方式。现有方法多由模型外部设定并行结构，可能造成重复计算，也难以适应不同问题的需求。文章指出，并行推理旨在缓解顺序推理带来的延迟增长、上下文压力和计算开销。