از پیش‌آموزش تا تیم‌های عامل‌های AI: چرا چهار چرخه مقیاس‌گسترانی Jensen Huang پرسش رایانش را تغییر می‌دهند
مقدمه: وقتی هوش مصنوعی توانمندتر می‌شود، چه چیزی رشد می‌کند؟
بحث درباره هوش مصنوعی [AI] اغلب با اندازه یک مدل [Model] آغاز می‌شود. چند پارامتر [Parameters] دارد؟ چه مقدار اطلاعات برای آموزش آن استفاده شده است؟ سامانه رایانشی [Computing System] پشت آن چقدر بزرگ بوده است؟
این پرسش‌ها فقط بخشی از سامانه را توصیف می‌کنند. استدلال گسترده‌تر Jensen Huang این است که AI می‌تواند در چند مرحله رشد کند: هنگام یادگیری بنیان‌های خود، هنگام بهبود رفتار، هنگام حل یک مسئله مشخص و هنگام تقسیم کار میان عامل‌ها [Agents]. درک ارتباط این مراحل، نگاه ما به تقاضای رایانش [Computing Demand] را تغییر می‌دهد.
تمایز مهم میان ساختن یک مدل و استفاده از یک سامانه هوشمند است. این دو فعالیت به هم مربوط‌اند، اما بار کاری [Workload] یکسانی نیستند.
1. پیش‌آموزش یک بنیان می‌سازد، نه یک نیروی کار آماده
پیش‌آموزش [Pre-training] با قرار دادن مدل در معرض حجم زیادی از اطلاعات، توانایی‌های عمومی آن را پرورش می‌دهد. مدل الگوها و رابطه‌هایی را می‌آموزد که می‌توانند از وظایف بعدی پشتیبانی کنند.
داده بیشتر و رایانش بیشتر [Computing] می‌توانند این بنیان‌ها را بهبود دهند. بااین‌حال، یک اجرای آموزشی بزرگ‌تر [Training Run] توضیح کاملی برای هوش مفید نیست. یک مدل ممکن است دانش عمومی گسترده‌ای داشته باشد و همچنان به قضاوت بهتر، تجربه مختص وظیفه یا دسترسی به اطلاعاتی نیاز داشته باشد که هنگام آموزش با آن روبه‌رو نشده است.
به همین دلیل، پرسش نمی‌تواند به این محدود شود که آیا عرضه مطالب نوشته‌شده به دست انسان سرانجام به یک محدودیت تبدیل خواهد شد. مراحل بعدی می‌توانند هم شیوه یادگیری سامانه و هم کاری را که انجام می‌دهد تغییر دهند.
2. پس‌آموزش شیوه استفاده از بنیان را تغییر می‌دهد
پس‌آموزش [Post-training] مدل را پس از یادگیری اولیه اصلاح می‌کند. تأکید به سوی رفتار، وظایف عملی و انواع پاسخ‌هایی می‌رود که مردم نیاز دارند.
داده مصنوعی [Synthetic Data] می‌تواند به این فرایند کمک کند. سامانه می‌تواند نمونه تولید کند، حالت‌های گوناگون را بررسی کند و مطالبی بسازد که برای یادگیری بیشتر مفید شوند. ارزش در کیفیت تجربه حاصل است، نه صرفا در اینکه یک ماشین آن را تولید کرده است.
این تمایز مهم است. تولید مطالب بیشتر خودبه‌خود درست بودن آن مطالب را ثابت نمی‌کند. چرخه مفید تجربه‌های ارزشمند برای نگهداری را انتخاب می‌کند و از آنها برای بهبود رفتار آینده استفاده می‌کند. افزایش حجم بدون انتخاب می‌تواند ضعف‌ها را به جای اصلاح، تکرار کند.
3. رایانش هنگام آزمون، استنتاج را به مسئله‌ای دشوارتر تبدیل می‌کند
استنتاج [Inference] گاهی یک مرحله نهایی ساده تصور می‌شود: مدل پیش‌تر آموخته است، پس تولید پاسخ باید به کار اضافی اندکی نیاز داشته باشد.
مقیاس‌گسترانی هنگام آزمون [Test-time Scaling] این تصویر را به چالش می‌کشد. یک وظیفه دشوار ممکن است مستلزم آن باشد که سامانه مسئله را به بخش‌های کوچک‌تر تقسیم کند، روش‌های ممکن را مقایسه کند، به جست‌وجوی اطلاعات بپردازد و در یک تلاش ناموفق بازنگری کند.
در این صورت نیاز رایانشی [Computing Requirement] به کاری بستگی دارد که سامانه پیش از ارائه پاسخ مفید باید انجام دهد. حتی یک پاسخ کوتاه نیز می‌تواند پس از کاری قابل‌توجه ارائه شود. در مقابل، پاسخ طولانی نشانه استدلال دقیق نیست.
برای یک کسب‌وکار، این وضعیت تأخیر پاسخ [Latency]، کیفیت پاسخ و هزینه عملیاتی را به انتخاب‌هایی مرتبط تبدیل می‌کند. ارزان‌ترین پاسخ فوری همیشه کم‌هزینه‌ترین وظیفه‌ای نیست که با موفقیت تکمیل شده باشد.
4. مقیاس‌گسترانی عامل‌محور هماهنگی را به توانایی می‌افزاید
مقیاس‌گسترانی عامل‌محور [Agentic Scaling] مسیر دیگری معرفی می‌کند: سامانه می‌تواند به جای سپردن همه کارها به یک مدل به صورت متوالی، کار را میان چند عامل [Agents] تقسیم کند.
ممکن است یک عامل سوابق را بررسی کند و دیگری گزینه‌ها را مقایسه کند. یافته‌های آنها می‌تواند از یک نتیجه مشترک پشتیبانی کند. این شکل از رشد با بزرگ‌تر کردن یک مدل یا دادن زمان بیشتر به آن متفاوت است.
مقایسه با یک سازمان مفید است. کارکنان بیشتر می‌توانند ظرفیت را افزایش دهند، اما فقط هنگامی که مسئولیت‌ها، ارتباطات و تصمیم نهایی روشن باشند. عامل‌های بیشتر نیز به همین ترتیب کارهایی برای هماهنگی، رفع ناسازگاری یافته‌ها و بررسی ایجاد می‌کنند. تعداد آنها یک ورودی است، نه معیار موفقیت.
5. چهار مرحله یک چرخه یادگیری می‌سازند
مهم‌ترین ارتباط، اتفاقی است که پس از کار کردن سامانه رخ می‌دهد. تجربه‌های مفید عامل‌ها می‌توانند به مواد آموزشی بعدی تبدیل شوند. سپس مدل‌های اصلاح‌شده می‌توانند از استدلال بهتر و عامل‌های مؤثرتر پشتیبانی کنند.
بنابراین لازم نیست پیش‌آموزش [Pre-training]، پس‌آموزش [Post-training]، کار هنگام آزمون [Test-time Work] و فعالیت عامل‌محور [Agentic Activity] در جعبه‌های جداگانه باقی بمانند. آنها می‌توانند یکدیگر را تغذیه کنند.
این موضوع پرسش زیرساخت [Infrastructure] را نیز تغییر می‌دهد. آموزش مدل، جست‌وجوی فایل‌ها و هماهنگ کردن چند نیروی کار، نیازهای متفاوتی بر پردازنده‌ها [Processors]، حافظه [Memory]، ذخیره‌سازی [Storage] و شبکه [Networking] تحمیل می‌کنند. سامانه‌ای که حول یک آزمون عملکرد محدود [Benchmark] طراحی شده، ممکن است با کل گردش کار [Workflow] سازگار نباشد.
نتیجه‌گیری: کار را اندازه بگیرید، نه فقط مدل را
چارچوب چهارقسمتی Huang بحث را از این تصور فراتر می‌برد که پیشرفت AI صرفا به معنای یک مدل بزرگ‌تر است که یک بار روی مجموعه‌داده‌ای بزرگ‌تر [Dataset] آموزش دیده است.
درس عملی این است که مشخص کنیم رایانش اضافی [Computing] در کجا نتیجه بهتری می‌سازد. آیا وظیفه به بنیان‌های بهتر، اصلاح مفیدتر، حل مسئله طولانی‌تر یا تقسیم کار هماهنگ نیاز دارد؟
یک بنگاه باید پاسخ را بر پایه وظایف تکمیل‌شده، کیفیت، زمان و هزینه کل ارزیابی کند. این نقطه آغاز مفیدتری از شمارش پارامترها [Parameters] یا عامل‌ها [Agents] به‌تنهایی است. پرسش رایانش آینده درباره کل سامانه یادگیری و کار است.
Powered By K7