Mula sa Paunang Pagsasanay hanggang sa mga Koponan ng AI Agent: Bakit Binabago ng Apat na Siklo ng Pagpapalawak ni Jensen Huang ang Tanong sa Computing

Jensen Huang

Panimula: Ano ang lumalaki kapag mas nagiging mahusay ang artipisyal na intelihensiya?

Madalas magsimula ang usapan tungkol sa artipisyal na intelihensiya [AI] sa laki ng isang modelo [Model]. Ilang parameter [Parameters] ang mayroon ito? Gaano karaming impormasyon ang ginamit upang sanayin ito? Gaano kalaki ang sistema ng computing [Computing System] sa likod nito?

Bahagi lamang ng sistema ang inilalarawan ng mga tanong na iyon. Ang mas malawak na argumento ni Jensen Huang ay maaaring lumago ang AI sa ilang yugto: habang natututuhan ang mga pundasyon nito, habang pinapahusay ang pag-uugali nito, habang nilulutas ang isang partikular na problema, at habang ipinapamahagi ang gawain sa mga agent [Agents]. Ang pag-unawa sa ugnayan ng mga yugtong ito ay nagbabago sa pag-iisip natin tungkol sa pangangailangan sa computing [Computing Demand].

Ang mahalagang pagkakaiba ay nasa pagbuo ng modelo at paggamit ng isang matalinong sistema. Magkaugnay na gawain ang mga ito, ngunit hindi magkapareho ang kanilang workload [Workload].

1. Pundasyon ang binubuo ng paunang pagsasanay, hindi isang handang manggagawa

Nililinang ng paunang pagsasanay [Pre-training] ang malawak na kakayahan ng modelo sa pamamagitan ng paglalantad dito sa maraming impormasyon. Natututuhan ng modelo ang mga padron at ugnayang makatutulong sa mga susunod na gawain.

Maaaring mapahusay ng mas maraming datos at computing [Computing] ang mga pundasyong iyon. Gayunman, hindi kumpletong paliwanag ng kapaki-pakinabang na intelihensiya ang mas malaking pagsasanay [Training Run]. Maaaring may malawak na pangkalahatang kaalaman ang modelo ngunit kailangan pa rin nito ng mas mahusay na pagpapasya, karanasang angkop sa gawain, o access sa impormasyong hindi nito nakita habang nagsasanay.

Kaya hindi maaaring huminto ang tanong sa kung magiging hadlang ba kalaunan ang dami ng materyal na isinulat ng tao. Maaaring baguhin ng mga susunod na yugto kapwa ang paraan ng pagkatuto ng sistema at ang gawaing ginagawa nito.

2. Binabago ng kasunod na pagsasanay kung paano ginagamit ang pundasyon

Pinapahusay ng kasunod na pagsasanay [Post-training] ang modelo matapos ang unang pagkatuto nito. Lumilipat ang diin sa pag-uugali, praktikal na gawain, at mga uri ng tugong kailangan ng mga tao.

Maaaring makatulong dito ang sintetikong datos [Synthetic Data]. Maaaring lumikha ang sistema ng mga halimbawa, sumubok ng mga pagkakaiba, at gumawa ng materyal na kapaki-pakinabang sa karagdagang pagkatuto. Nasa kalidad ng karanasang nalilikha ang halaga, hindi sa katotohanang makina ang gumawa nito.

Mahalaga ang pagkakaibang ito. Hindi awtomatikong pinatutunayan ng paggawa ng mas maraming materyal na tama iyon. Pinipili ng kapaki-pakinabang na siklo ang mga karanasang dapat panatilihin at ginagamit ang mga ito upang mapahusay ang susunod na pag-uugali. Ang dami na walang pagpili ay maaaring umulit ng mga kahinaan sa halip na itama ang mga ito.

3. Ginagawang mas mahirap ng computing sa oras ng pagsubok ang inference

Minsan ay iniisip ang paghihinuha [Inference] bilang simpleng huling hakbang: natuto na ang modelo, kaya kaunting dagdag na gawain na lang dapat ang kailangan upang gumawa ng sagot.

Hinahamon ng pagpapalawak sa oras ng pagsubok [Test-time Scaling] ang larawang iyon. Maaaring kailanganin ng mahirap na gawain na hatiin ng sistema ang problema sa maliliit na bahagi, paghambingin ang mga posibleng paraan, maghanap ng impormasyon, at muling suriin ang nabigong pagtatangka.

Nakadepende ngayon ang pangangailangan sa computing [Computing Requirement] sa dapat gawin ng sistema bago magbigay ng kapaki-pakinabang na sagot. Maaaring sumunod ang maikling tugon sa napakaraming gawain. Sa kabilang banda, hindi patunay ng maingat na pangangatwiran ang mahabang tugon.

Para sa negosyo, pinag-uugnay nito bilang mga pagpili ang pagkaantala ng tugon [Latency], kalidad ng sagot, at gastos sa operasyon. Ang pinakamurang agarang tugon ay hindi laging ang gawaing matagumpay na natapos sa pinakamababang gastos.

4. Nagdaragdag ang pagpapalawak gamit ang mga agent ng koordinasyon sa kakayahan

Nagpapakilala ang pagpapalawak gamit ang mga agent [Agentic Scaling] ng ibang landas: maaaring ipamahagi ng sistema ang gawain sa ilang agent [Agents] sa halip na ipagawa sa iisang modelo ang lahat nang sunod-sunod.

Maaaring suriin ng isang agent ang mga rekord habang naghahambing naman ng mga pagpipilian ang isa. Maaaring suportahan ng kanilang mga natuklasan ang iisang resulta. Ibang uri ito ng paglago kaysa sa pagpapalaki ng isang modelo o pagbibigay rito ng mas maraming oras.

Kapaki-pakinabang ang paghahambing sa isang organisasyon. Maaaring palakihin ng mas maraming empleyado ang kapasidad, ngunit kung malinaw lamang ang mga responsibilidad, komunikasyon, at huling pagpapasya. Gayundin, lumilikha ang mas maraming agent ng gawain sa koordinasyon, pagtutugma ng mga natuklasan, at pagsusuri. Ang kanilang bilang ay isang input, hindi sukatan ng tagumpay.

5. Bumubuo ang apat na yugto ng siklo ng pagkatuto

Ang pinakamahalagang ugnayan ay ang nangyayari matapos gumawa ang sistema. Maaaring maging materyal para sa susunod na pagsasanay ang kapaki-pakinabang na karanasan ng mga agent. Pagkatapos, maaaring suportahan ng mga pinahusay na modelo ang mas mahusay na pangangatwiran at mas epektibong mga agent.

Kaya hindi kailangang manatili sa magkakahiwalay na kahon ang paunang pagsasanay [Pre-training], kasunod na pagsasanay [Post-training], gawain sa oras ng pagsubok [Test-time Work], at aktibidad ng mga agent [Agentic Activity]. Maaari nilang palakasin ang isa't isa.

Binabago rin nito ang tanong sa imprastraktura [Infrastructure]. Ang pagsasanay ng modelo, paghahanap sa mga file, at pag-uugnay sa ilang manggagawa ay may magkakaibang hinihingi sa mga processor [Processors], memorya [Memory], imbakan [Storage], at networking [Networking]. Maaaring hindi akma sa buong daloy ng gawain [Workflow] ang sistemang idinisenyo sa iisang makitid na pagsusulit sa pagganap [Benchmark].

Konklusyon: Sukatin ang gawain, hindi lamang ang modelo

Inililipat ng apat-na-bahaging balangkas ni Huang ang usapan lampas sa ideyang ang pag-unlad ng AI ay nangangahulugan lamang ng mas malaking modelong minsang sinanay sa mas malaking kalipunan ng datos [Dataset].

Ang praktikal na aral ay tukuyin kung saan nagbibigay ng mas magandang resulta ang karagdagang computing [Computing]. Kailangan ba ng gawain ng mas mahusay na pundasyon, mas kapaki-pakinabang na pagpapahusay, mas mahabang paglutas ng problema, o koordinadong paghahati ng trabaho?

Dapat tasahin ng isang negosyo ang sagot batay sa mga natapos na gawain, kalidad, oras, at kabuuang gastos. Mas kapaki-pakinabang itong panimulang punto kaysa sa pagbibilang lamang ng mga parameter [Parameters] o agent [Agents]. Ang tanong sa computing sa hinaharap ay tungkol sa buong sistemang natututo at gumagawa.

Powered By K7