Interview: 判断任务是否需要大模型及传统ML的适用场景
题目解析
大模型并非万能解，在很多场景下传统ML方案更经济高效。本题考察候选人务实的技术判断力，能否根据任务特征、数据条件和业务约束选择最合适的技术方案，而非盲目追求大模型。能做出正确的不用LLM的判断，比能用LLM更体现技术功底。
解答思路
判断框架从四个维度评估：1）任务复杂度：结构化数据的分类、回归、排序任务，XGBoost等传统模型通常表现更好且推理成本极低；2）数据可用性：有大量高质量标注数据的特定任务，微调专用小模型往往优于LLM零样本；3）延迟要求：毫秒级响应的在线服务（如广告竞价、风控拦截）难以承受LLM的推理延迟；4）可解释性要求：金融风控等需要明确决策依据的场景，传统模型的可解释性远强于LLM。
关键要点
LLM的核心优势在于：开放式生成任务、小样本或零样本场景、需要世界知识的复杂推理、跨任务通用性。传统ML的优势在于：结构化数据处理效率高、低延迟需求、特定领域高精度、资源受限环境。建议的决策原则：先评估传统方案能否达标，不能满足时再考虑引入LLM。
加分回答
提到可以用LLM做数据标注和特征工程来增强传统模型的效果，这种混合方案能同时利用LLM的理解能力和传统模型的推理效率。讨论用LLM生成弱标注数据再训练小模型的知识蒸馏策略，实现能力迁移。
常见踩坑
盲目使用LLM解决所有问题导致推理成本失控；忽略了传统ML在结构化数据和特定任务上的显著优势；未做基线对比就选定LLM方案，无法证明其相对于简单方案的价值增量；未考虑模型维护和迭代成本对长期ROI的影响。