AI模型如何通过微调变得更好：一位企业架构师的视角

你今天使用的每一个强大的AI模型，都是以一个通才的身份开始它的生命。它变得有用的方式和人变得有用的方式一样：通过有目的的训练。第二步，也就是微调，正是原始能力转化为可靠的专业行为的地方。大多数企业误解了它。许多企业为这种误解付出了两次代价：一次是浪费的开支，一次是错失的收益。

我不是以供应商的身份写这篇文章，而是以企业架构师的身份。微调不是你购买的功能。它是你自己承担所有权的架构决策。

模型究竟是如何变好的

前沿模型是一层层构建的，每一层回答一个不同的问题。

预训练回答的是：模型知道什么？模型阅读海量文本和代码，学习语言、推理和软件的模式。这个阶段规模巨大、成本高昂，由模型提供商完成，而不是你。

监督微调回答的是：模型应该如何行事？提供商，以及后来的企业，向模型展示经过筛选的良好工作示例：与有力答案配对的问题，与正确修复配对的工单。模型从猜测文本转向完成工作。

偏好优化回答的是：人类真正想要哪种行为？基于人类反馈的强化学习及其更简单的后继者直接偏好优化等技术，通过比较来训练模型：这个回答比那个回答好。人类专家制作并评判困难的例子。模型学到的是判断力，而不仅仅是知识。

评估回答的是：这里面有任何是真的吗？严格的基准测试和人工审查衡量模型是真的变好了，还是只是看起来更好了。没有它们，任何严肃的实验室都不会发布产品。任何严肃的企业也不应该。

注意这个模式。模型不是因为变大才变好的。它们变好，是因为人类不断教它们什么是好，不断测试它们是否学会了。这就是能力的供应链，它现在是AI经济的永久特征。

大多数企业做错的决定

这是一个系统性的批评。企业首先转向微调，因为它看起来具有决定性，而架构往往说它应该最后到来。

提示工程改变你问什么。微调改变模型是什么。检索增强生成（RAG）改变模型能看到什么。三个杠杆，三个不同的问题。

提示适用于你能描述的行为。如果清晰的指令和示例能解决问题，你就完成了，成本几乎为零，并且可以立即逆转。

检索适用于变化的知识。产品清单、政策、判例法、价格。RAG在提问时引入当前事实，所以答案保持新鲜并绑定到来源。微调把知识烘焙到内部，在那里它悄悄地过时。

微调适用于你无法描述的行为。跨越一万份文档的企业文风。专家会应用但无法完整写出的领域判断力。大规模严格输出格式下，更小的提示和更小的微调模型可以降低每次调用的成本。它教授的是技能和语气，不是新鲜的事实。

诚实的顺序是：先提示，再检索，在证据要求的地方微调，而且往往是三者一起。一个说你语言的微调模型，由知道今天事实的检索喂养，由纪律严明的提示驱动。在这个顺序中，你跳过的每一个选项都是带复利的技术债务。

经济学已经改变

五年前，微调意味着以巨额成本重新训练巨型模型。参数高效方法终结了那个时代。LoRA和QLoRA等技术冻结基础模型，训练小型适配器层，通常不到参数的百分之一。曾经需要GPU集群的微调，现在在单卡或普通的云任务上就能运行。成本壁垒已经倒塌。能力壁垒没有。

因为微调的真正成本从来不是算力。是数据。从你最好的工作中策划几千个真实的优秀示例才是艰难的工作，也是你的竞争对手无法复制的资产。你的数据就是你的护城河。模型正日益成为一种大宗商品。

治理是无声的失败模式

微调后的模型是一种有生命周期的新资产。当基础模型更新时，它可能发生漂移。它可能记住了敏感的训练数据。它可能悄悄地编码了昨天的政策。对待每一次微调都要像对待生产系统一样：版本化、发布前评估、发布后监控、由指定团队拥有。进入训练集的个人数据会带走你的隐私义务。在澳大利亚，这是《隐私法》；在欧洲，是GDPR和《欧盟人工智能法》。在监管者提问之前就为审计而建，而不是之后。

CEO应该做什么

第一，停止为模型崇拜提供资金，开始为数据策划提供资金。指示你的团队从你们最好的人类工作中构建一个干净、高质量的数据集。这项资产会提升价值。模型选择会降低价值。

第二，要求设立评估关卡。任何微调模型，如果没有反映你真实任务的基准和对其失败的人工审查，就不应该进入生产环境。如果你的团队无法向你展示分数，他们发布的就是希望。

第三，在每次AI审查中问一个问题：我们先尝试过提示和检索了吗？要求在拉动昂贵的杠杆之前，证明便宜的杠杆已经耗尽。

CTO清单

将每个AI用例映射到提示、检索或微调，并记录原因。

在你的第一次微调之前而不是之后，构建一个小型评估框架。

优先采用参数高效的微调，并像代码一样对每个适配器进行版本管理。

除非法务批准，否则将个人数据和受控数据排除在训练集之外。

为模型漂移指定一名负责人，配备再训练触发器，而不是再训练习惯。

报告每个任务的成本，而不是每个token的成本。董事会可以据以行动的数字是这个。

战略要点

模型通过结构化的人类教学变得更好。企业以同样的方式获得更好的AI。赢家不会是拥有最大模型的公司。赢家将是最善于教学的公司：干净的数据、诚实的评估、纪律严明的治理。这不是一场采购练习。这是一种工程文化。

你的组织在这条曲线上处于什么位置：还在提示，已经在检索，还是准备好教书了？

数学地思考。智能地工程。战略地领导。负责地构建。全球地扩展。通过人工智能创造真正的商业价值。

#ArtificialIntelligence #FineTuning #EnterpriseArchitecture #LLM #RAG #AIStrategy #MachineLearning #AIGovernance #CTO #CEO #DigitalTransformation

最初由凯沙文·蒂亚加拉贾发表于LinkedIn。在LinkedIn上阅读原文。 [1]