Paano Bumubuti ang mga Modelo ng AI sa Pamamagitan ng Fine-Tuning: Pananaw ng Isang Enterprise Architect

Ang bawat makapangyarihang modelo ng AI na ginagamit mo ngayon ay nagsisimula ang buhay bilang isang heneralista. Nagiging kapaki-pakinabang ito sa parehong paraan na nagiging kapaki-pakinabang ang mga tao: sa pamamagitan ng makabuluhang pagsasanay. Ang ikalawang hakbang na iyon, ang fine-tuning, ay kung saan nagiging maaasahang propesyonal na pag-uugali ang hilaw na kakayahan. Karamihan ng mga organisasyon ay mali ang pagkaunawa dito. Marami ang nagbabayad ng maling pagkaunawang iyon nang dalawang beses: minsan sa nasayang na gastos at muli sa napalampas na benepisyo.

Hindi ako nagsusulat nito bilang isang vendor, kundi bilang isang enterprise architect. Ang fine-tuning ay hindi tampok na binibili mo. Isa itong desisyon sa arkitektura na ikaw mismo ang may-ari.

Paano talaga bumubuti ang isang modelo

Ang mga frontier na modelo ay binubuo sa mga layer, at bawat layer ay sumasagot sa ibang tanong.

Ang pretraining ay sumasagot: ano ang alam ng modelo? Binabasa ng modelo ang napakalaking dami ng teksto at code at natututo ang mga pattern ng wika, pangangatwiran, at software. Ang yugtong ito ay napakalaki, mahal, at ang mga provider ng modelo ang gumagawa nito, hindi ikaw.

Ang supervised fine-tuning ay sumasagot: paano dapat kumilos ang modelo? Ipinapakita ng mga provider, at pagkatapos ng mga organisasyon, sa modelo ang mga piling halimbawa ng magandang trabaho: tanong na katabi ng malakas na sagot, tiket na katabi ng tamang pag-aayos. Lumilipat ang modelo mula sa paghula ng teksto patungo sa paggawa ng trabaho.

Ang preference optimisation ay sumasagot: anong pag-uugali ang talagang gusto ng tao? Ang mga teknik tulad ng reinforcement learning from human feedback at ang mas simpleng kahalili nitong direct preference optimisation ay nagsasanay sa modelo sa mga paghahambing: mas maganda ang sagot na ito kaysa sa iyon. Ang mga taong eksperto ang lumilikha at humuhusga sa mga mahirap na halimbawa. Natututo ang modelo ng husga, hindi lamang kaalaman.

Ang ebalwasyon ay sumasagot: may totoo ba sa mga ito? Ang mga mahigpit na benchmark at pagsusuri ng tao ay sumusukat kung talagang bumuti ang modelo o mukha lang itong bumuti. Kung wala ang mga ito, walang seryosong lab na naglalabas. Walang seryosong organisasyon na dapat ding gumawa nito.

Pansinin ang pattern. Hindi bumubuti ang mga modelo dahil lumalaki sila. Bumubuti sila dahil patuloy silang tinuturuan ng mga tao kung ano ang hitsura ng maganda, at patuloy na sinusubukan kung natutunan nila ito. Iyon ang supply chain ng kasanayan, at ngayon ay permanenteng katangian na ito ng ekonomiya ng AI.

Ang desisyong karaniwang mali ng mga organisasyon

Isa itong sistemikong pamumuna. Ang mga organisasyon ay unang lumalapit sa fine-tuning dahil mukha itong mapagpasya, samantalang madalas sinasabi ng arkitektura na dapat itong huling dumating.

Ang prompt engineering ay nagbabago ng tinatanong mo. Ang fine-tuning ay nagbabago kung ano ang modelo. Ang retrieval-augmented generation (RAG) ay nagbabago ng nakikita ng modelo. Tatlong lever, tatlong magkakaibang problema.

Ang prompting ay para sa pag-uugaling maaari mong ilarawan. Kung nilulutas ng malinaw na tagubilin at mga halimbawa ang problema, tapos ka na, sa halos zero na gastos at agad na mababawi.

Ang retrieval ay para sa kaalamang nagbabago. Mga listahan ng produkto, mga patakaran, case law, mga presyo. Dinadala ng RAG ang kasalukuyang katotohanan sa oras ng tanong, kaya nananatiling sariwa ang sagot at nakatali sa pinagmulan. Ang fine-tuning ay naghahurno ng kaalaman sa loob, kung saan ito tahimik na naluluma.

Ang fine-tuning ay para sa pag-uugaling hindi mo mailalarawan. Ang istilo ng bahay sa sampung libong dokumento. Ang husga sa domain na ginagamit ng mga eksperto ngunit hindi nila maisusulat nang buo. Ang mga mahigpit na format ng output sa malaking sukat, kung saan ang mas maliliit na prompt at mas maliliit na naka-tune na modelo ay nagpapababa ng gastos bawat tawag. Nagtuturo ito ng mga kasanayan at tono, hindi sariwang katotohanan.

Ang tapat na pagkakasunod ay: prompting muna, retrieval pagkatapos, fine-tuning kung saan hinihingi ng ebidensya, at madalas ang tatlo nang magkasama. Isang naka-tune na modelo na nagsasalita ng wika mo, pinapakain ng retrieval na alam ang mga katotohanan ngayon, pinapatakbo ng mga disiplinadong prompt. Bawat opsyon na nilalaktawan mo sa pagkakasunod na iyon ay teknikal na utang na may compounding interest.

Nagbago na ang ekonomiya

Limang taon na ang nakalipas, ang fine-tuning ay nangangahulugang muling pagsasanay ng mga napakalaking modelo sa napakalaking gastos. Tinapos ng mga parameter-efficient na pamamaraan ang erang iyon. Ang mga teknik tulad ng LoRA at QLoRA ay nagyeyelo sa base model at nagsasanay ng maliliit na adapter layer, karaniwang mas mababa sa isang porsyento ng mga parameter. Ang fine-tune na dating nangangailangan ng GPU cluster ay tumatakbo na ngayon sa isang card o isang simpleng cloud job. Bumagsak ang harang ng gastos. Ang harang ng kakayahan ay hindi.

Sapagkat ang tunay na gastos ng fine-tuning ay hindi kailanman ang compute. Ito ang data. Ang pagpili ng ilang libong tunay at mahusay na halimbawa mula sa iyong pinakamagandang trabaho ang mahirap na gawain, at ang ari-ariang hindi makokopya ng iyong mga kakumpitensya. Ang iyong data ang iyong moat. Ang modelo ay lalong nagiging isang commodity.

Ang pamamahala ang tahimik na paraan ng pagkabigo

Ang naka-tune na modelo ay bagong ari-arian na may life cycle. Maaari itong umuga kapag na-update ang base model. Maaari nitong tandaan ang sensitibong data ng pagsasanay. Maaari nitong tahimik na i-encode ang patakaran ng kahapon. Tratuhin ang bawat fine-tune gaya ng sistema ng produksyon: may version, sinuri bago ilabas, minamanmanan pagkatapos, at pag-aari ng nakatalagang pangkat. Ang personal na data na pumasok sa training set ay nagdadala ng iyong mga obligasyon sa privacy. Sa Australia iyon ang Privacy Act; sa Europa, ang GDPR at ang EU AI Act. Magtayo para sa audit bago pa magtanong ang regulator, hindi pagkatapos.

Ano ang dapat gawin ng mga CEO

Una, itigil ang pagpopondo sa pagsamba sa modelo at simulan ang pagpopondo sa curasyon ng data. Utusan ang iyong mga pangkat na bumuo ng isang malinis at de-kalidad na dataset mula sa iyong pinakamagandang gawaing pantao. Ang ari-ariang iyon ang nagtataas ng halaga. Ang pagpili ng modelo ang nagpapababa.

Ikalawa, hingin ang gate ng ebalwasyon. Walang naka-tune na modelo ang aabot sa produksyon nang walang benchmark na sumasalamin sa iyong tunay na mga gawain at pagsusuri ng tao sa mga pagkabigo nito. Kung hindi maipakita ng pangkat mo ang mga iskor, naglalabas sila ng pag-asa.

Ikatlo, magtanong ng isang tanong sa bawat pagsusuri ng AI: sinubukan ba namin ang prompting at retrieval muna? Hingin ang patunay na naubos na ang mga murang lever bago hilahin ang mahal.

Ang checklist ng CTO

Iugnay ang bawat kaso ng paggamit ng AI sa prompting, retrieval, o fine-tuning, at idokumento kung bakit.

Bumuo ng maliit na evaluation harness bago ang iyong unang fine-tune, hindi pagkatapos.

Unahin ang parameter-efficient na tuning at i-version ang bawat adapter gaya ng code.

Panatilihing nasa labas ng mga training set ang personal at kontroladong data maliban kung aprubado ng legal.

Magtalaga ng may-ari para sa model drift na may retrainer trigger, hindi ugali ng muling pagsasanay.

Iulat ang gastos bawat gawain, hindi gastos bawat token. Iyon ang numerong kayang pagkunan ng aksyon ng board.

Ang estratehikong punto

Bumubuti ang mga modelo sa pamamagitan ng istrukturadong pagtuturo ng tao. Nakakakuha ang mga organisasyon ng mas mahusay na AI sa parehong paraan. Ang mga mananalo ay hindi ang mga kumpanya na may pinakamalaking modelo. Sila ang mga kumpanyang pinakamahusay magturo: malinis na data, tapat na ebalwasyon, disiplinadong pamamahala. Hindi ito ehersisyo ng procurement. Kultura ito ng inhinyeriya.

Nasaan ang iyong organisasyon sa kurba na iyon: nagpo-prompt pa rin, nagre-retrieve na, o handa nang magturo?

Mag-isip nang matematikal. Mag-inhinyero nang matalino. Mamuno nang estratehiko. Magtayo nang responsable. Lumago nang pandaigdig. Lumikha ng tunay na halagang pangnegosyo sa pamamagitan ng artificial intelligence.

#ArtificialIntelligence #FineTuning #EnterpriseArchitecture #LLM #RAG #AIStrategy #MachineLearning #AIGovernance #CTO #CEO #DigitalTransformation

Orihinal na nailathala sa LinkedIn ni Keshavan Thiagaraja. Basahin ang orihinal sa LinkedIn. [1]