AI模型點樣透過微調變得更好：一位企業架構師嘅睇法

你今日用緊嘅每一個強大AI模型，都係以一個通才嘅身份開始佢嘅生命。佢變得有用嘅方式同人就係一樣：透過有目的嘅訓練。第二步，即係微調（fine-tuning），正正係原始能力轉化為可靠專業行為嘅地方。大多數企業都誤解咗佢。好多企業為呢個誤解付出兩次代價：一次係浪費咗嘅開支，一次係錯失咗嘅收益。

我寫呢篇文章，唔係以供應商嘅身份，而係以企業架構師嘅身份。微調唔係你買嘅功能。佢係你自己承擔嘅架構決策。

模型究竟係點樣變好嘅

前沿模型係一層層咁起出嚟，每一層回答一個唔同嘅問題。

預訓練回答嘅係：模型識啲乜？模型閱讀海量文本同代碼，學習語言、推理同軟件嘅模式。呢個階段規模巨大、成本高昂，由模型供應商完成，而唔係你。

監督式微調回答嘅係：模型應該點樣行事？供應商，以及之後嘅企業，向模型展示經過篩選嘅良好工作示例：同有力答案配對嘅問題，同正確修復配對嘅工單。模型由估文字轉向做嘢。

偏好優化回答嘅係：人類真正想要邊種行為？基於人類反饋嘅強化學習，以及佢更簡單嘅後繼者直接偏好優化等技術，透過比較嚟訓練模型：呢個回答好過嗰個回答。人類專家製作並評判困難嘅例子。模型學到嘅係判斷力，而唔單止係知識。

評估回答嘅係：呢啲嘢入面有冇啲係真嘅？嚴格嘅基準測試同人工審查，衡量模型係真係好咗，定係只係睇落好咗。冇咗佢哋，任何認真嘅實驗室都唔會發布產品。任何認真嘅企業都唔應該。

留意呢個模式。模型唔係因為變大先變好。佢哋變好，係因為人類不斷教佢哋咩嘢先叫好，不斷測試佢哋學唔學到。呢個就係能力嘅供應鏈，佢而家係AI經濟嘅永久特徵。

大多數企業做錯嘅決定

呢個係一個系統性嘅批評。企業首先轉向微調，因為佢睇落好有決定性，而架構往往話佢應該最後先嚟。

提示工程改變你問乜。微調改變模型係乜。檢索增強生成（RAG）改變模型可以睇到乜。三個槓桿，三個唔同嘅問題。

提示適用於你描述得到嘅行為。如果清晰嘅指示同示例可以解決問題，你就搞掂喇，成本幾乎係零，仲可以即時逆轉。

檢索適用於不斷變化嘅知識。產品清單、政策、判例法、價格。RAG喺提問嗰刻帶嚟當前事實，所以答案保持新鮮，仲綁定咗來源。微調將知識焗入內部，喺嗰度佢靜靜哋過時。

微調適用於你描述唔到嘅行為。跨越一萬份文件嘅企業文風。專家識用但寫唔晒嘅領域判斷力。大規模嚴格輸出格式之下，更細嘅提示同更細嘅微調模型可以降低每次調用嘅成本。佢教嘅係技能同語氣，唔係新鮮嘅事實。

老實嘅次序係：先提示，再檢索，喺證據要求嘅地方微調，而且好多時三樣一齊。一個講你語言嘅微調模型，由識今日事實嘅檢索餵畀佢，由有紀律嘅提示驅動。喺呢個次序入面，你跳過嘅每一個選項都係帶複利嘅技術債務。

經濟學已經改變

五年前，微調意味住以巨額成本重新訓練巨型模型。參數高效方法終結咗嗰個時代。LoRA同QLoRA等技術凍結基礎模型，訓練小型適配器層，通常少過參數嘅百分之一。曾經需要GPU集群嘅微調，而家喺單卡或者普通雲端任務上面就跑到。成本壁壘已經冧咗。能力壁壘冇冧。

因為微調嘅真正成本從來唔係算力，係數據。由你最好嘅工作入面策劃幾千個真實嘅優秀示例先係艱難嘅工作，亦係你嘅競爭對手複製唔到嘅資產。你嘅數據就係你嘅護城河。模型正日益成為一種大宗商品。

治理係無聲嘅失敗模式

微調後嘅模型係一種有生命周期嘅新資產。當基礎模型更新嗰陣，佢可能會漂移。佢可能記住咗敏感嘅訓練數據。佢可能靜靜哋編碼咗昨日嘅政策。對待每一次微調都要好似對待生產系統咁：版本化、發布前評估、發布後監控、由指定團隊擁有。入咗訓練集嘅個人數據會帶走你嘅私隱義務。喺澳洲，呢個係《私隱法》；喺歐洲，係GDPR同《歐盟人工智能法》。喺監管者發問之前就為審計而建，唔係之後先建。

CEO應該做啲乜

第一，停止為模型崇拜泵水，開始為數據策劃泵水。指示你嘅團隊由你哋最好嘅人類工作入面，起一個乾淨、高質素嘅數據集。呢項資產會提升價值。模型選擇會降低價值。

第二，要求設立評估關卡。任何微調模型，如果冇反映你真實任務嘅基準同對其失敗嘅人工審查，就唔應該進入生產環境。如果你嘅團隊唔能夠畀你睇分數，佢哋發布嘅就係希望。

第三，喺每次AI審查入面問一條問題：我哋試咗提示同檢索先未？喺拉動貴嘅槓桿之前，要求證明平嘅槓桿已經用晒。

CTO清單

將每個AI用例映射到提示、檢索或者微調，並記錄原因。

喺你第一次微調之前而唔係之後，起一個小型評估框架。

優先採用參數高效嘅微調，並好似代碼咁對每個適配器做版本管理。

除非法律部門批准，否則將個人數據同受控數據排除喺訓練集之外。

為模型漂移指定一名負責人，配備再訓練觸發器，而唔係再訓練習慣。

報告每個任務嘅成本，而唔係每個token嘅成本。董事會可以據以行動嘅數字係呢個。

戰略要點

模型透過結構化嘅人類教學變得更好。企業以同樣嘅方式獲得更好嘅AI。贏家唔會係擁有最大模型嘅公司。贏家會係最識教嘅公司：乾淨嘅數據、誠實嘅評估、有紀律嘅治理。呢個唔係一場採購練習。呢個係一種工程文化。

你嘅組織喺呢條曲線上面處於咩位置：仲做緊提示，已經做緊檢索，定係準備好教書？

數學噉思考。聰明噉工程。戰略噉領導。負責任噉建設。全球噉擴展。透過人工智能創造真正嘅商業價值。

#ArtificialIntelligence #FineTuning #EnterpriseArchitecture #LLM #RAG #AIStrategy #MachineLearning #AIGovernance #CTO #CEO #DigitalTransformation

最初由凱沙文·蒂亞加拉賈發表於LinkedIn。喺LinkedIn上面睇原文。 [1]