Interview: CoT、Tree-of-Thoughts和Self-Consistency之间的关系与区别
题目解析
此题考察对三种主流推理增强策略的系统性理解。面试官希望你不仅能描述各自机制，还能说清它们的演进关系和各自解决的核心问题。
解答思路
CoT是基础，通过在prompt中加入”let us think step by step”或few-shot示例引导模型逐步推理，将复杂问题分解为中间步骤。Self-Consistency(SC)建立在CoT之上，核心思想是对同一问题采样多条CoT路径，然后通过多数投票选择最一致的答案——它解决的是CoT单条路径不稳定的问题。Tree-of-Thoughts(ToT)更进一步，将推理过程建模为树搜索，每个节点是一个中间思考状态，允许回溯和剪枝——它解决的是CoT只能线性前进、无法纠错的问题。
关键要点
三者的关系是递进的：CoT→SC→ToT，分别对应线性推理→多路径采样→结构化搜索。SC的计算开销是CoT的k倍(k为采样数)，ToT的开销更大因为涉及评估函数和搜索策略。实际工程中SC的性价比最高，ToT通常只在需要深度规划的复杂任务中使用。
加分回答
可以补充Graph-of-Thoughts(GoT)的概念，它将ToT的树结构推广为图结构，允许思路合并。还可以提到这些方法本质上都是在inference time增加计算量来换取推理质量，与test-time compute scaling的理念一致。
常见踩坑
容易混淆SC和ToT的区别：SC是独立采样后投票，各路径之间互不影响；ToT是在搜索过程中动态评估和选择，路径之间有依赖关系。另外不要以为ToT一定优于SC，ToT的评估函数设计不好反而会引入噪声。