AI模型哪能通过微调变得更好：一位企业架构师个看法

侬今朝用个每一个强大AI模型，侪是以一个通才个身份开始伊个生命。伊变得有用个方式搭人一样：通过有目的个训练。第二步，也就是微调，正是原始能力转化为可靠专业行为个地方。大多数企业侪搞错脱了。交关企业为搿个误解付了两次代价：一趟是浪费脱个开销，一趟是错失脱个收益。

我写搿篇文章，勿是以供应商个身份，而是以企业架构师个身份。微调勿是侬买个功能。伊是侬自家承担责任个架构决策。

模型到底哪能变好

前沿模型是一层一层搭起来个，每一层回答一个勿一样个问题。

预训练回答个是：模型晓得啥？模型阅读海量文本搭代码，学习语言、推理搭软件个模式。搿个阶段规模巨大、成本高昂，由模型供应商完成，而勿是侬。

监督微调回答个是：模型应该哪能行事？供应商，以及后来个企业，向模型展示经过筛选个良好工作示例：搭有力答案配对个问题，搭正确修复配对个工单。模型从估文本转向做生活。

偏好优化回答个是：人类真正想要啥行为？基于人类反馈个强化学习，以及伊更加简单个后继者直接偏好优化等技术，通过比较来训练模型：搿个回答好过伊个回答。人类专家制作并评判难个例子。模型学到个是判断力，而勿单单是知识。

评估回答个是：搿里向有哪样是真个伐？严格个基准测试搭人工审查，衡量模型是真个好脱了，还是不过看上去好脱了。呒没伊拉，任何认真个实验室侪勿会发布产品。任何认真个企业也勿应该。

注意搿个模式。模型勿是因为变大才好个。伊拉好，是因为人类不断教伊拉啥叫好，不断测试伊拉学哦学到。搿就是能力个供应链，伊现在是AI经济个永久特征。

大多数企业做错个决定

搿是一个系统性个批评。企业先转向微调，因为伊看上去有决定性，而架构往往讲伊应该最后来。

提示工程改变侬问啥。微调改变模型是啥。检索增强生成（RAG）改变模型可以看得见啥。三个杠杆，三个勿一样个问题。

提示适用于侬讲得清爽个行为。如果清晰个指示搭示例可以解决问题，侬就好了，成本几乎是零，还可以马上回转。

检索适用于辣辣变化个知识。产品清单、政策、判例法、价格。RAG辣提问辰光带来当前事实，所以答案保持新鲜，还绑定了来源。微调拿知识烘到里向，辣伊面伊静静叫过时。

微调适用于侬讲勿出个行为。跨越一万份文档个企业文风。专家会用但是写勿全个领域判断力。大规模严格输出格式之下，更小个提示搭更小个微调模型可以降低每次调用个成本。伊教个是技能搭语气，勿是新鲜个事实。

老实个顺序是：先提示，再检索，辣证据要求个地方微调，而且常庄三样一道。一个讲侬语言个微调模型，由晓得今朝事实个检索喂伊，由有纪律个提示驱动。辣搿个顺序里向，侬跳过个每一个选项侪是带复利个技术债务。

经济学已经变脱了

五年前，微调意味着以巨额成本重新训练巨型模型。参数高效方法终结了伊个时代。LoRA搭QLoRA等技术冻结基础模型，训练小型适配器层，通常少过参数个百分之一。老早需要GPU集群个微调，现在辣单卡或者普通云端任务上就跑得动。成本壁垒已经坍脱了。能力壁垒呒没坍。

因为微调个真正成本从来勿是算力，是数据。从侬最好个工作里向策划几千个真实个优秀示例才是难个生活，也是侬个竞争对手复制勿了个资产。侬个数据就是侬个护城河。模型正日益成为一种大宗商品。

治理是无声个失败模式

微调后个模型是一种有生命周期个新资产。当基础模型更新辰光，伊可能会漂移。伊可能记住了敏感个训练数据。伊可能静静叫编码了昨日子个政策。对待每一次微调侪要象对待生产系统一样：版本化、发布前评估、发布后监控、由指定团队拥有。进了训练集个个人数据会带脱侬个隐私义务。辣澳洲，搿是《隐私法》；辣欧洲，是GDPR搭《欧盟人工智能法》。辣监管者发问之前就为审计而建，勿是之后再建。

CEO应该做啥

第一，停止为模型崇拜提供资金，开始为数据策划提供资金。指示侬个团队从倷最好个人类工作里向，搭一个干净、高质量个数据集。搿项资产会提升价值。模型选择会降低价值。

第二，要求设立评估关卡。任何微调模型，如果呒没反映侬真实任务个基准搭对伊失败个人工审查，就勿应该进入生产环境。如果侬个团队勿能够拨侬看分数，伊拉发布个就是希望。

第三，辣每次AI审查里向问一个问题：阿拉先试过提示搭检索伐？辣拉动贵个杠杆之前，要求证明便宜个杠杆已经用光。

CTO清单

拿每个AI用例映射到提示、检索或者微调，并记录原因。

辣侬第一次微调之前而勿是之后，搭一个小型评估框架。

优先采用参数高效个微调，并象代码一样对每个适配器做版本管理。

除非法律部门批准，否则拿个人数据搭受控数据排除辣训练集之外。

为模型漂移指定一名负责人，配备再训练触发器，而勿是再训练习惯。

报告每个任务个成本，而勿是每个token个成本。董事会可以据此行动个数字是搿个。

战略要点

模型通过结构化个人类教学变得更好。企业以同样个方式获得更好个AI。赢家勿会是拥有最大模型个公司。赢家会是最会教个公司：干净个数据、诚实个评估、有纪律个治理。搿勿是一场采购练习。搿是一种工程文化。

侬个组织辣搿条曲线上处于啥位置：还辣做提示，已经辣做检索，还是准备好教书？

数学地思考。聪明地工程。战略地领导。负责地建设。全球地扩展。通过人工智能创造真正个商业价值。

#ArtificialIntelligence #FineTuning #EnterpriseArchitecture #LLM #RAG #AIStrategy #MachineLearning #AIGovernance #CTO #CEO #DigitalTransformation

最初由凯沙文·蒂亚加拉贾发表辣LinkedIn。辣LinkedIn上看原文。 [1]