Paper: Large Language Models as Tool Makers (LATM)
一句话概括
LATM提出让强大的LLM作为”工具制造者”创建可复用的工具函数，然后让轻量级LLM作为”工具使用者”调用这些工具，大幅降低推理成本。
核心思想
LATM的核心观察是：解决新类型问题时需要强大模型，但一旦解题方法被总结为工具函数，后续同类问题就不再需要强模型。工作流程分为两阶段：工具制造阶段——GPT-4等强模型分析少量示例问题，生成通用的Python工具函数并验证正确性；工具使用阶段——GPT-3.5等轻量模型调用现成工具解决新问题。这种分工类似人类社会中工具发明者和使用者的分工。
关键创新
1) 将”制造工具”和”使用工具”解耦，分配给不同能力的模型；2) 工具函数可复用，一次制造多次使用；3) 大幅降低推理阶段的计算成本；4) 工具经过验证，使用时更可靠；5) 工具库可以持续积累和增长。
深远影响
LATM提出了一种优雅的”以强带弱”范式，为降低LLM应用成本提供了新思路。工具制造的概念也与人类文明发展的核心特征——工具创造——形成了深刻呼应。
启发与思考
LATM的哲学启示深远：人类文明的进步很大程度上源于工具制造和知识传承。如果AI也能制造和积累工具，就可能实现类似的”文明进步”。关键在于工具的质量控制和知识的有效积累。