AI मॉडल फ़ाइन ट्यूनिंग से बेहतर कैसे होते हैं: एक एंटरप्राइज़ आर्किटेक्ट की दृष्टि

आज आप जो भी प्रभावशाली AI मॉडल इस्तेमाल करते हैं, उसने अपना जीवन एक जनरलिस्ट के रूप में शुरू किया था। यह उसी तरह उपयोगी बना जिस तरह लोग बनते हैं: विशेष प्रशिक्षण के माध्यम से। वह दूसरा चरण, फ़ाइन ट्यूनिंग, वह जगह है जहां कच्ची क्षमता भरोसेमंद व्यावसायिक व्यवहार में बदलती है। अधिकांश उद्यम इसे गलत समझते हैं। कई इस गलतफहमी की कीमत दो बार चुकाते हैं: एक बार बेकार खर्च में, और फिर चूकी हुई बढ़त में।

मैं यह एक विक्रेता के रूप में नहीं, एक एंटरप्राइज़ आर्किटेक्ट के रूप में लिख रहा हूं। फ़ाइन ट्यूनिंग कोई ऐसी सुविधा नहीं है जो आप खरीद लें। यह एक आर्किटेक्चर निर्णय है जिसकी जिम्मेदारी आपकी है।

मॉडल वास्तव में कैसे बेहतर होता है

एक फ्रंटियर मॉडल परतों में बनाया जाता है, और हर परत एक अलग सवाल का जवाब देती है।

प्रीट्रेनिंग जवाब देती है: मॉडल क्या जानता है? मॉडल भारी मात्रा में टेक्स्ट और कोड पढ़ता है और भाषा, तर्क और सॉफ़्टवेयर के पैटर्न सीखता है। यह चरण बहुत बड़ा, महंगा है और यह आपके द्वारा नहीं, मॉडल प्रदाताओं द्वारा किया जाता है।

सुपरवाइज़्ड फ़ाइन ट्यूनिंग जवाब देती है: मॉडल को कैसा व्यवहार करना चाहिए? प्रदाता, और बाद में उद्यम, मॉडल को अच्छे काम के चुने हुए उदाहरण दिखाता है: एक मजबूत उत्तर के साथ जोड़ा गया प्रश्न, सही समाधान के साथ जोड़ा गया टिकट। मॉडल टेक्स्ट की भविष्यवाणी करने से कार्य करने की ओर बढ़ता है।

प्रेफरेंस ऑप्टिमाइज़ेशन जवाब देता है: मनुष्य वास्तव में कौन सा व्यवहार चाहते हैं? मानव प्रतिक्रिया से सुदृढ़ीकरण सीखने (reinforcement learning from human feedback) और इसके सरल उत्तराधिकारी डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन जैसी तकनीकें मॉडल को तुलनाओं पर प्रशिक्षित करती हैं: यह उत्तर उससे बेहतर है। मानव विशेषज्ञ कठिन उदाहरण बनाते और आंकते हैं। मॉडल सिर्फ ज्ञान नहीं, विवेक सीखता है।

मूल्यांकन जवाब देता है: क्या इनमें से कुछ सच है? कठोर बेंचमार्क और मानव समीक्षा मापती है कि मॉडल सचमुच बेहतर हुआ या केवल बेहतर लगने लगा। इसके बिना कोई गंभीर लैब शिप नहीं करती। किसी गंभीर उद्यम को भी नहीं करना चाहिए।

पैटर्न पर ध्यान दें। मॉडल इसलिए बेहतर नहीं होते कि वे बढ़ते हैं। वे इसलिए बेहतर होते हैं क्योंकि मनुष्य उन्हें लगातार सिखाते रहते हैं कि अच्छा कैसा दिखता है, और लगातार परखते रहते हैं कि उन्होंने सीखा या नहीं। यह विशेषज्ञता की एक सप्लाई चेन है, और यह अब AI अर्थव्यवस्था की स्थायी विशेषता है।

वह निर्णय जो अधिकांश उद्यम गलत करते हैं

यह रहा प्रणालीगत निहितार्थ। उद्यम पहले फ़ाइन ट्यूनिंग की ओर जाते हैं क्योंकि यह निर्णायक लगती है, जबकि आर्किटेक्चर आमतौर पर कहता है कि इसे सबसे अंत में आना चाहिए।

प्रॉम्प्ट इंजीनियरिंग बदलती है कि आप क्या पूछते हैं। फ़ाइन ट्यूनिंग बदलती है कि मॉडल क्या है। रिट्रीवल ऑगमेंटेड जनरेशन (RAG) बदलती है कि मॉडल क्या देख सकता है। तीन लीवर, तीन अलग समस्याएं।

प्रॉम्प्टिंग उस व्यवहार के लिए है जिसे आप वर्णन कर सकते हैं। अगर स्पष्ट निर्देश और उदाहरण समस्या ठीक कर देते हैं, तो आपका काम हो गया, लगभग शून्य लागत पर, तुरंत उलटने योग्यता के साथ।

रिट्रीवल उस ज्ञान के लिए है जो बदलता रहता है। उत्पाद सूचियां, नीतियां, केस लॉ, कीमतें। RAG प्रश्न के समय ताजा तथ्य लाता है, इसलिए उत्तर ताजा रहता है और किसी स्रोत से जुड़ा रहता है। फ़ाइन ट्यूनिंग ज्ञान को भीतर पका कर देती है, जहां वह चुपचाप पुराना हो जाता है।

फ़ाइन ट्यूनिंग उस व्यवहार के लिए है जिसे आप वर्णन नहीं कर सकते। दस हजार दस्तावेज़ों में घर की शैली। वह डोमेन विवेक जो विशेषज्ञ लगाते हैं पर पूरी तरह लिख नहीं सकते। उच्च मात्रा में सख्त आउटपुट प्रारूप, जहां छोटे प्रॉम्प्ट और छोटे ट्यून किए गए मॉडल प्रति कॉल लागत घटाते हैं। यह कौशल और लहजा सिखाती है, ताजा तथ्य नहीं।

ईमानदार क्रम है: पहले प्रॉम्प्टिंग, फिर रिट्रीवल, जहां साक्ष्य मांगे वहां फ़ाइन ट्यूनिंग, और अक्सर तीनों साथ। एक ट्यून किया गया मॉडल जो आपकी भाषा बोलता है, आज के तथ्य जानने वाली रिट्रीवल से खिलाया गया, अनुशासित प्रॉम्प्ट से चलाया गया। उस क्रम में आप जो भी विकल्प छोड़ते हैं, वह चक्रवृद्धि ब्याज दर वाला तकनीकी कर्ज है।

अर्थशास्त्र बदल चुका है

पांच साल पहले फ़ाइन ट्यूनिंग का मतलब था विशाल लागत पर विशाल मॉडलों को फिर से प्रशिक्षित करना। पैरामीटर-कुशल तरीकों ने उस युग को समाप्त कर दिया। LoRA और QLoRA जैसी तकनीकें मूल मॉडल को फ्रीज करके छोटी एडाप्टर परतों को प्रशिक्षित करती हैं, आमतौर पर पैरामीटर के एक प्रतिशत से भी कम। जिन फ़ाइन ट्यून के लिए कभी GPU क्लस्टर चाहिए था, वे अब एक कार्ड या एक मामूली क्लाउड जॉब पर चलते हैं। लागत की दीवार गिरी। योग्यता की दीवार नहीं गिरी।

क्योंकि फ़ाइन ट्यूनिंग की असली लागत कभी कंप्यूट नहीं थी। वह है डेटा। आपके सर्वश्रेष्ठ काम के कुछ हजार सचमुच उत्कृष्ट उदाहरण चुनना ही कठिन हिस्सा है, और यही वह संपत्ति है जिसे आपके प्रतियोगी नकल नहीं कर सकते। आपका डेटा ही आपकी खाई (moat) है। मॉडल तेजी से एक कमोडिटी बनता जा रहा है।

गवर्नेंस ही मौन विफलता का तरीका है

ट्यून किया गया मॉडल जीवनचक्र वाली एक नई संपत्ति है। बेस मॉडल अपडेट होने पर यह भटक सकता है (drift)। यह संवेदनशील प्रशिक्षण डेटा याद रख सकता है। यह चुपचाप कल की नीति को कूटबद्ध कर सकता है। हर फ़ाइन ट्यून के साथ वैसा ही व्यवहार करें जैसा आप उत्पादन प्रणाली के साथ करते हैं: संस्करणित, रिलीज से पहले मूल्यांकित, रिलीज के बाद निगरानी में, और नामित टीम के स्वामित्व में। अगर व्यक्तिगत डेटा प्रशिक्षण सेट में प्रवेश करता है, तो आपकी गोपनीयता संबंधी बाध्यताएं उसके साथ चलती हैं। ऑस्ट्रेलिया में इसका मतलब है प्राइवेसी एक्ट; यूरोप में, GDPR और EU AI एक्ट। नियामक पूछने से पहले ऑडिट के लिए डिज़ाइन करें, बाद में नहीं।

CEO को क्या करना चाहिए

पहले, मॉडल पूजा को धन देना बंद करें और डेटा क्यूरेशन को धन देना शुरू करें। अपनी टीमों को अपने सर्वोत्तम मानव कार्य से एक साफ, उच्च गुणवत्ता वाला डेटासेट बनाने का निर्देश दें। वह संपत्ति सराहना बढ़ाती है। मॉडल विकल्प मूल्यह्रास करते हैं।

दूसरे, मूल्यांकन द्वार की मांग करें। आपके वास्तविक कार्यों को दर्शाने वाला बेंचमार्क और इसकी विफलताओं की मानव समीक्षा के बिना कोई भी ट्यून किया गया मॉडल उत्पादन में न पहुंचे। अगर आपकी टीम आपको कोई स्कोर नहीं दिखा सकती, तो वे उम्मीद शिप कर रहे हैं।

तीसरे, हर AI समीक्षा में एक सवाल पूछें: क्या हमने पहले प्रॉम्प्टिंग और रिट्रीवल आजमाए? महंगा लीवर खींचने से पहले सस्ते लीवरों को अपर्याप्त साबित होने दें।

CTO की चेकलिस्ट

हर AI उपयोग मामले को प्रॉम्प्टिंग, रिट्रीवल या फ़ाइन ट्यूनिंग से मैप करें, और कारण दर्ज करें।

अपनी पहली फ़ाइन ट्यून के बाद नहीं, पहले एक छोटा मूल्यांकन हार्नेस (evaluation harness) खड़ा करें।

पैरामीटर-कुशल ट्यूनिंग को प्राथमिकता दें, और हर एडाप्टर को कोड की तरह संस्करणित करें।

जब तक कानूनी टीम हस्ताक्षर न करे, व्यक्तिगत और विनियमित डेटा को प्रशिक्षण सेट से बाहर रखें।

पुनः प्रशिक्षण की आदत नहीं, पुनः प्रशिक्षण ट्रिगर के साथ मॉडल भटकाव (drift) के लिए एक मालिक नियुक्त करें।

टोकन प्रति लागत नहीं, कार्य प्रति लागत रिपोर्ट करें। वही वह संख्या है जिस पर बोर्ड कार्रवाई कर सकता है।

रणनीतिक बिंदु

मॉडल संरचित मानव शिक्षण के माध्यम से बेहतर होते हैं। उद्यमों को भी उसी तरह बेहतर AI मिलता है। विजेता सबसे बड़े मॉडल वाली कंपनियां नहीं होंगी। वे वह कंपनियां होंगी जो सबसे अच्छा सिखाती हैं: साफ डेटा, ईमानदार मूल्यांकन, अनुशासित गवर्नेंस। यह कोई खरीद अभ्यास नहीं है। यह एक इंजीनियरिंग संस्कृति है।

उस वक्र पर आपका संगठन कहां खड़ा है: अभी भी प्रॉम्प्टिंग कर रहा है, पहले से रिट्रीव कर रहा है, या सिखाने के लिए तैयार है?

गणितीय सोचें। बुद्धिमानी से इंजीनियर करें। रणनीतिक रूप से नेतृत्व करें। जिम्मेदारी से बनाएं। विश्व स्तर पर विस्तार करें। कृत्रिम बुद्धिमत्ता के माध्यम से वास्तविक व्यावसायिक मूल्य बनाएं।

#ArtificialIntelligence #FineTuning #EnterpriseArchitecture #LLM #RAG #AIStrategy #MachineLearning #AIGovernance #CTO #CEO #DigitalTransformation

मूल रूप से LinkedIn पर केशवन थियागराजा द्वारा प्रकाशित। मूल लेख LinkedIn पर पढ़ें। [1]