Fable 5 প্রত্যাহার প্রতিটি AI নেতাকে যা শেখায়

২০২৬ সালের জুনে, বিশ্বের সবচেয়ে সক্ষম দুটি AI মডেল চালু হওয়ার কয়েক দিনের মধ্যেই বন্ধ করে দেওয়া হয়।

অ্যানথ্রপিক জুনের নয় তারিখে Fable 5 এবং Mythos 5 প্রকাশ করে। Fable 5 ছিল জনমুখী মডেল, কোম্পানির এ পর্যন্ত পাঠানো সবচেয়ে শক্তিশালী সুরক্ষায় মোড়ানো। Mythos 5 একই মূল কাঠামো ভাগ করে নেয় কিন্তু হালকা বিধিনিষেধ বহন করে, এবং তা যায় শুধুমাত্র প্রতিরক্ষামূলক নিরাপত্তা কাজের জন্য যাচাই করা কয়েকটি অংশীদারের কাছে। তিন দিন পর মার্কিন যুক্তরাষ্ট্র সরকার দুটোর ওপরই রপ্তানি নিয়ন্ত্রণ আরোপ করে। বিদেশি নাগরিকদের জন্য প্রবেশাধিকার বন্ধ করতে হয়, দেশের ভেতরে হোক বা বাইরে। প্রতিটি অনুরোধের মুহূর্তে নাগরিকত্ব যাচাই করার কোনো উপায় না থাকায়, কোম্পানি সবার জন্য প্রবেশাধিকার স্থগিত করে। জুনের ত্রিশ তারিখে নিয়ন্ত্রণ তুলে নেওয়া হয়, এবং জুলাইয়ের এক তারিখে প্রবেশাধিকার ফিরে আসে। বন্ধটি স্থায়ী হয় উনিশ দিন, তিন সপ্তাহের একটু কম।

বেশিরভাগ পাঠকের কাছে গল্পটি শোনায় একটি নীতিগত বিরোধের মতো। যারা এই ব্যবস্থাগুলোর ওপর ব্যবসা চালান, তাদের জন্য তা ছিল আরও তীক্ষ্ণ কিছু। মূল বুদ্ধিমত্তা পরিষেবাগুলো কোনো সতর্কতা ছাড়াই এবং কোনো পরিষ্কার বিকল্প ছাড়াই বন্ধ হয়ে গেল। ২০২৬ সালের আগে লেখা চুক্তিগুলো কল্পনাও করেনি এমন এক সরকারি আদেশ যা একসাথে সব প্ল্যাটফর্ম জুড়ে একটি AI পরিষেবা স্থগিত করে। প্রতিটি নেতার ভেতমাড়ার বিষয় হলো এই অংশটি।

মডেলের ভেতরে আসলে যা ঘটেছিল

সূত্রপাত ছিল অ্যামাজনের গবেষকদের একটি প্রতিবেদন। তারা Fable 5-কে এমনভাবে নির্দেশ দেওয়ার উপায় খুঁজে পায় যাতে তা সফটওয়্যার দুর্বলতা শনাক্ত করে, এবং এক ক্ষেত্রে তা এমন কোড তৈরি করে যা দেখায় কীভাবে একটি দুর্বলতা কাজে লাগানো যায়। এই ধরনের কৌশলের একটি নাম আছে। এটি জেলব্রেক, এমন একটি নির্দেশ যা মডেলকে এমন কিছু করায় যা তার সুরক্ষাগুলো আটকানোর কথা ছিল।

এখানে গুরুত্বপূর্ণ মোড়টি হলো। একই কাজ যখন দুর্বল মডেলগুলোতে পরীক্ষা করা হয়, অ্যানথ্রপিকের নিজস্ব Opus 4.8 সহ, সেই মডেলগুলোও একই দুর্বলতাগুলো খুঁজে পায় এবং একই প্রদর্শন পুনরুৎপাদন করে। আচরণটি আসলে রুটিন প্রতিরক্ষামূলক কাজ বলে মনে হয়, যা সুরক্ষাগুলো সতর্কতার খাতিরে আটকে দিচ্ছিল, কোনো অনন্য নতুন বিপদ নয়। তবু অ্যানথ্রপিক দ্রুত নড়েচড়ে ওঠে। এটি একটি নতুন শ্রেণীবিভাগকারী প্রশিক্ষণ দেয় যা নির্দিষ্ট কৌশলটি নিরানব্বই শতাংশের বেশি ক্ষেত্রে আটকায়, এবং যেকোনো আটকানো অনুরোধকে একটি নিরাপদ মডেলে পাঠিয়ে দেয়।

আসল ফাঁক ছিল না জেলব্রেকটি

নাটকীয়তা সরিয়ে দিলে একটি সরল সমস্যা দেখা যায়। যখন একটি নতুন বাইপাসের খবর আসে, কাউকে ঠিক করতে হয় তা কতটা গুরুতর, এবং তা দ্রুত ঠিক করতে হয়। এটা কি এমন একটি আবিষ্কার যা একটি মডেল প্রত্যাহার, নিয়ন্ত্রককে অবহিত করা এবং ভোর তিনটায় প্রতিক্রিয়া দলকে জাগানোর ন্যায্যতা রাখে? নাকি এটি একটি সংকীর্ণ কৌশল যা একটি নিরীহ আচরণ খুলে দেয় এবং অপেক্ষা করতে পারে? এই প্রশ্নের উত্তর দেওয়ার কোনো ভাগ করা পদ্ধতি শিল্পের নেই। প্রতিটি কোম্পানি সহজাত প্রবৃত্তি দিয়ে উত্তর দেয়।

এই কারণেই অ্যানথ্রপিক, অ্যামাজন, মাইক্রোসফট এবং গুগলের সঙ্গে মিলে, একটি জেলব্রেক আসলে কতটা গুরুতর তা মূল্যায়নের জন্য একটি সাধারণ কাঠামো প্রস্তুত করতে শুরু করেছে। কাঠামোটি চারটি সংকেতের ওপর দাঁড়িয়ে। সক্ষমতা বৃদ্ধি জিজ্ঞাসা করে বাইপাসটি একজন আক্রমণকারীকে তার বিদ্যমান সরঞ্জামের চেয়ে কত দূর নিয়ে যায়। বিস্তার জিজ্ঞাসা করে একই কৌশল কতগুলো ভিন্ন আক্রমণ খুলে দেয়। অস্ত্রায়নের সহজতা জিজ্ঞাসা করে কৌশলটিকে প্রকৃত আক্রমণে রূপান্তর করতে কতটা দক্ষ প্রচেষ্টা লাগে। আবিষ্কারযোগ্যতা জিজ্ঞাসা করে প্রথম থেকেই পদ্ধতিটি কত সহজে খুঁজে পাওয়া যায়। চারটি সংকেত ভেতরে। একটি সিদ্ধান্ত বাইরে।

নকশার পছন্দগুলো কৌশলগত সিদ্ধান্ত

নেতাদের এখানেই মনোযোগ দেওয়া উচিত, কারণ আকর্ষণীয় পদক্ষেপগুলো ছিল নকশার পছন্দ, দুর্ঘটনা নয়।

প্রথম পছন্দ ছিল সুরক্ষা মার্জিনের প্রস্থ। একটি সুরক্ষা শ্রেণীবিভাগকারী এমনভাবে সাজানো যায় যাতে তা শুধুমাত্র স্পষ্টভাবে বিপজ্জনক অনুরোধ আটকায়, অথবা এমনভাবে যাতে তা সামান্য ঝুঁকিপূর্ণ দেখায় এমন যেকোনো কিছু আটকায়। Fable 5 সাজানো হয়েছিল সতর্ক প্রান্তে। এর অর্থ ছিল অনেক নিরীহ অনুরোধ প্রত্যাখ্যাত হবে, যা ব্যবহারকারীদের হতাশ করে, বিনিময়ে একটি বিপজ্জনক অনুরোধ ফাঁক দিয়ে চলে যাওয়ার সম্ভাবনা অনেক কম। এটি একটি প্রযুক্তিগত সেটিংয়ের ছদ্মবেশে ব্যবসায়িক তাঁবদারি। প্রাপ্যতাকে ইচ্ছাকৃতভাবে সতর্কতার সঙ্গে বদলে দেওয়া হয়েছিল।

দ্বিতীয় পছন্দ ছিল একটি অনুরোধ আটকানো হলে কী ঘটে। কেবল প্রত্যাখ্যান করার বদলে, ব্যবস্থাটি আটকানো অনুরোধটি একটি কম সক্ষম কিন্তু নিরাপদ মডেলে পাঠিয়ে দেয়। ব্যবহারকারী তবুও উত্তর পান। সক্ষমতা হ্রাস পায়, অস্বীকার হয় না। এটি একটি পণ্য সিদ্ধান্ত যে অন্য পাশের মানুষটির কাছে একটি সুরক্ষা নিয়ন্ত্রণ কেমন অনুভব হওয়া উচিত।

তৃতীয় পছন্দ ছিল স্তরবিন্যাস। Mythos 5 থেকে যায় একটি বিশ্বস্ত অংশীদার কর্মসূচির ভেতরে, আর Fable 5 প্রকাশ্যে আসে। প্রবেশাধিকার ফিরে আসার সময়, Mythos আগে ফিরে আসে অনুমোদিত প্রতিষ্ঠানগুলোতে, তারপর ব্যাপকভাবে। পূর্ণ জনসাধারণের মুক্তি আর পূর্ণ স্থগিতাদেশের মাঝে বসা একটি স্তর এখন সীমান্ত মডেলগুলো কীভাবে বাজারে আসবে তার একটি জীবন্ত নমুনা।

যে তুলনাটি গুরুত্বপূর্ণ

একটি গুরুতর নতুন বাইপাস মোকাবিলার দুটি উপায় ভাবুন।

প্রথমটি হলো বন্ধ করে দেওয়া। আপনি মডেলটি প্রত্যাহার করেন, আলোচনা করেন, এবং অপেক্ষা করেন। এটি সবচেয়ে খারাপ পরিস্থিতি থেকে রক্ষা করে, কিন্তু তা অনুজ্জ্বল। এটি বৈধ ব্যবহারকারীদের উনিশ দিনের জন্য স্থির করে রেখেছিল, প্রতিযোগীদের সময় দিয়েছিল, এবং একটি ছোট সমস্যা থেকে বড় সমস্যা আলাদা করার কোনো উপায় দেয়নি। খরচ সবার ওপর সমানভাবে পড়েছিল।

দ্বিতীয়টি হলো ভাগ করা স্কোর। আপনি বাইপাসটি সম্মত সংকেতগুলোর বিপরীতে মাপেন, তা একটি স্কেলে বসান, এবং আপনার প্রতিক্রিয়া সংখ্যার সঙ্গে মেলান। কম স্কোর মানে নজরদারি করুন এবং এগিয়ে যান। বেশি স্কোর মানে সঙ্গে সঙ্গে কাজ করুন। এটি তৈরি করা কঠিন, কারণ এর জন্য কোম্পানি ও নিয়ন্ত্রকদের মধ্যে সম্মতি প্রয়োজন, কিন্তু তা আনুপাতিক। এটি আপনাকে বিপজ্জনক অল্পের ওপর দ্রুত কাজ করতে দেয়, নিরীহ বহুকে শাস্তি না দিয়ে।

বন্ধ করে দেওয়া হলো একটি সুইচ। ভাগ করা স্কোর হলো একটি ডায়াল। পরিণত শিল্পগুলো চলে ডায়ালে।

নেতাদের এখন যা করা উচিত

মডেল প্রবেশাধিকারকে সরবরাহ ঝুঁকি হিসেবে দেখুন, স্থায়ী ইউটিলিটি হিসেবে নয়। আপনার সরবরাহকারীদের জিজ্ঞাসা করুন একটি মডেল স্থগিত হলে আপনার কাজের প্রবাহের কী হবে, এবং সেই উত্তরটি আপনার চুক্তিতে লিখুন। জিজ্ঞাসা করুন আটকানো অনুরোধগুলো কীভাবে পরিচালনা করা হয়, কারণ একটি দুর্বল মডেলে নীরব পুনর্নির্দেশ আপনাকে না জানিয়েই আপনার আউটপুটের মান বদলে দেয়। এবং ক্রমোদ্ভূত গুরুতরতার কাঠামোটি ঘনিষ্ঠভাবে পর্যবেক্ষণ করুন, কারণ যে কোম্পানি একটি ঝুঁকির ওপর যুক্তিসিদ্ধ সংখ্যা বসাতে পারবে, সে এগিয়ে যাবে যখন তার প্রতিযোগীরা তখনও অনুমান করছে।

Fable 5 প্রত্যাহারের শিক্ষা এই নয় যে সুরক্ষাগুলো ব্যর্থ হয়েছে। সেগুলো মোটামুটি কাজ করেছে। শিক্ষা হলো শিল্পের এখনও বিপদ মাপার একটি ভাগ করা ভাষা নেই, এবং সেই ফাঁক একটি ছোট আবিষ্কারকে উনিশ দিনের স্থবিরতায় রূপান্তরিত করেছে।

আপনার জন্য আমার প্রশ্ন হলো। যখন আপনার সবচেয়ে গুরুত্বপূর্ণ AI ব্যবস্থা কোনো সতর্কতা ছাড়া বন্ধ হয়ে যায়, আপনার প্রতিষ্ঠানের কি এমন একটি সংখ্যা আছে যা বলে দেয় আপনাকে কতটা উদ্বিগ্ন হওয়া উচিত, নাকি শুধু একটি সহজাত প্রবৃত্তি?

গাণিতিকভাবে চিন্তা করুন। বুদ্ধিমানের সঙ্গে প্রকৌশল নির্মাণ করুন। কৌশলগতভাবে নেতৃত্ব দিন। দায়িত্বশীলভাবে তৈরি করুন। বিশ্বব্যাপী সম্প্রসারিত হন। কৃত্রিম বুদ্ধিমত্তার মাধ্যমে প্রকৃত ব্যবসায়িক মূল্য তৈরি করুন।

মূলত LinkedIn-এ কেশবন থিয়াগারাজা কর্তৃক প্রকাশিত। মূলটি LinkedIn-এ পড়ুন। [1]