由預訓練到AI智能體團隊：Jensen Huang嘅四個擴展循環，點解會改變計算問題
引言：人工智能能力提升時，究竟有乜嘢增長？
講到人工智能 [AI]，討論往往由模型規模開始。佢有幾多參數？訓練用咗幾多資訊？背後嘅計算系統有幾大？
呢啲問題只描述系統嘅一部分。Jensen Huang更廣泛嘅論點係，AI可以喺幾個階段擴展：學習基礎時、改善行為時、處理具體問題時，同埋喺智能體之間分配工作時。理解呢啲階段嘅聯繫，會改變我哋思考計算需求嘅方式。
重要分別係建立模型同使用智能系統。兩者相關，但唔係同一種工作負載 [Workload]。
1. 預訓練建立基礎，而唔係一個已經完善嘅工作者
預訓練 [Pre-training] 透過畀模型接觸大量資訊，發展廣泛能力。模型會學到可以支援之後任務嘅模式同關係。
更多數據同計算可以改善呢啲基礎。不過，更大規模嘅訓練唔能夠完整解釋有用嘅智能。模型可以有豐富常識，但仍然需要更好嘅判斷、特定任務經驗，或者取得訓練時未接觸過嘅資訊。
所以，問題唔可以停喺人類撰寫材料嘅供應，最終會唔會成為限制。之後嘅階段，可以同時改變系統學習嘅方式同埋執行嘅工作。
2. 後訓練改變基礎能力嘅用法
後訓練 [Post-training] 喺最初學習之後進一步完善模型。重點轉向行為、實際任務，同埋人們需要嘅回答類型。
合成數據 [Synthetic Data] 可以幫助呢個過程。系統可以生成例子、探索唔同變化，同埋產生對進一步學習有用嘅材料。價值在於得到嘅經驗質素，而唔只係材料由機器產生呢個事實。
呢個分別好重要。生成更多材料，唔會自動證明材料正確。有用嘅循環會揀值得保留嘅經驗，用嚟改善之後嘅行為。只有數量而冇篩選，可能會重複弱點，而唔係修正弱點。
3. 使用時計算擴展，令推理成為更難嘅問題
推理 [Inference] 有時畀人想像成一個簡單嘅最後步驟：模型已經學好，所以產生答案應該唔使幾多額外工作。
測試時擴展 [Test-time Scaling] 挑戰呢個睇法。困難任務可能需要系統將問題拆細、比較可行方法、搜尋資訊，同埋重新考慮一次失敗嘅嘗試。
咁樣，計算需求就取決於系統交出有用答案之前必須做啲乜。簡短回答之前，同樣可以有大量工作。相反，長篇回答唔係仔細推理嘅證據。
對企業嚟講，回應時間 [Latency]、答案質素同營運成本會變成互相關連嘅選擇。最平嘅即時回答，唔一定係成功完成任務成本最低嘅方法。
4. 智能體擴展喺能力之外加入協調
智能體擴展 [Agentic Scaling] 提供另一條路：系統可以喺多個智能體 [Agents] 之間分工，而唔係要求一個模型順序做晒所有嘢。
一個智能體可以查記錄，另一個比較選項。佢哋嘅發現可以共同支持一個結果。呢種增長，同將單一模型做大或者畀更多時間佢唔同。
同組織比較好有用。增加員工可以提高產能，但前提係責任、溝通同最後決策清楚。同樣，增加智能體都會帶來協調、處理分歧同核查嘅工作。數量係投入，唔係成功嘅尺度。
5. 四個階段形成學習循環
最重要嘅聯繫，係系統做完工作之後發生乜嘢。智能體嘅有用經驗可以成為之後訓練嘅材料。改善咗嘅模型，又可以支援更好嘅推理同更有效嘅智能體。
因此，預訓練、後訓練、使用時嘅工作同智能體活動，唔一定要留喺獨立格仔。佢哋可以互相滋養。
呢點亦改變基礎設施嘅問題。訓練模型、搜尋檔案同協調多個工作者，對處理器、記憶體、儲存同網絡有唔同要求。圍繞單一狹窄基準測試 [Benchmark] 設計嘅系統，可能唔適合完整工作流程 [Workflow]。
結語：衡量工作，唔好只衡量模型
Huang嘅四部分框架，令討論超越一種觀念：AI進步只代表更大嘅模型，喺更大嘅數據集 [Dataset] 上訓練一次。
實際教訓係認清額外計算喺邊度帶來更好結果。任務需要更好嘅基礎、更有用嘅改善、更長解題時間，定係有協調嘅分工？
企業應該透過完成咗嘅任務、質素、時間同總成本評估答案。呢個起點比單純數參數或者智能體更有用。未來嘅計算問題，關乎成個學習同工作嘅系統。
Powered By K7