Interview: LIMA论文"1000条数据足够SFT"的结论适用边界分析
题目解析
LIMA(Less Is More for Alignment)提出仅用1000条精选数据就能让LLM获得良好的对话能力，这个看似激进的结论有其深刻洞见但也有明确的适用边界。
解答思路
LIMA的核心假设是：预训练已经学会了几乎所有知识和能力，SFT只是教模型以特定格式输出(“Superficial Alignment Hypothesis”)。在这个假设下，少量高质量示例足以教会格式。但适用边界包括：1. 基座模型必须足够强(LIMA用的是65B的LLaMA)；2. 仅适用于通用对话，不适用于需要新知识的领域任务；3. 评测维度有限——LIMA主要比较的是人类偏好，未考虑安全性、多语言等；4. 对数据质量要求极高，每条数据的筛选成本不低。
关键要点
- “浅层对齐假设”在通用对话场景大体成立；2. 小模型(7B/13B)通常需要更多SFT数据来激发能力；3. 复杂任务(代码、数学推理)需要远多于1000条数据；4. 数据质量的边际收益递减——前100条最重要，后面逐渐平缓。
加分回答
后续研究如LESS和Data Selection等工作表明，数据选择策略比数据数量更关键。可以用影响函数(Influence Function)或基于梯度的方法来筛选最有价值的训练样本。质量>多样性>数量是SFT数据的优先级排序。
常见踩坑
最大的误解是将LIMA的结论泛化到所有场景——认为任何SFT都只需要很少数据。实际上对于安全对齐、工具使用、结构化输出等需求，1000条数据远远不够。