বৃহস্পতিবার (২২ অক্টোবর) প্রযুক্তিবিষয়ক আন্তর্জাতিক পোর্টাল টেকক্রাঞ্চের বরাতে এ তথ্য জানিয়েছে জাগোনিউজ২৪।
মাইক্রোসফটের ‘প্রজেক্ট পারসেপশন’-এর অংশ হিসেবে এই নতুন কাঠামোর নাম দেওয়া হয়েছে ‘গার্ডিয়ান এজেন্টস’। কোনো করপোরেট বা প্রাতিষ্ঠানিক নেটওয়ার্কে কর্মরত বিভিন্ন এআই এজেন্টের গতিবিধি ও সিদ্ধান্ত সার্বক্ষণিক পর্যবেক্ষণ করবে এটি।
এর আগে ওপেনএআই ও অ্যানথ্রপিকের মতো শক্তিশালী মডেলগুলোর সম্ভাব্য অপব্যবহার ঠেকাতে ‘রেড’, ‘ব্লু’ ও ‘গ্রিন’ টিমভিত্তিক নিরাপত্তাকাঠামো নিয়ে কাজ শুরু করেছিল মাইক্রোসফট। তবে সম্প্রতি মাইক্রোসফটের প্রধান নির্বাহী সত্য নাদেলা সতর্ক করে বলেন, কেবল বাইরের হ্যাকাররাই নয়, প্রতিষ্ঠানের নিজস্ব নিয়ন্ত্রণাধীন এআই এজেন্টও বিপজ্জনক হয়ে উঠতে পারে যদি সেগুলোর ওপর স্বাধীন নজরদারি না থাকে।
নাদেলা তাঁর ব্যক্তিগত ব্লগে লিখেছেন, এআই মডেল সরবরাহকারী প্রতিষ্ঠানগুলোর নিরাপত্তার প্রতিশ্রুতির ওপর পুরোপুরি নির্ভর করা ঝুঁকিপূর্ণ। কারণ এআই এজেন্টকে প্রতিষ্ঠানের অত্যন্ত সংবেদনশীল তথ্য ও সিদ্ধান্ত নেওয়ার ক্ষমতা দেওয়া হচ্ছে। ফলে ‘বুদ্ধিমত্তা সরবরাহ’ এবং সেই ‘বুদ্ধিমত্তার ওপর কর্তৃত্ব’—এ দুটি বিষয়কে অবশ্যই আলাদা রাখা প্রয়োজন।
মাইক্রোসফটের প্রধান নিরাপত্তা কর্মকর্তা হায়েতে গ্যালোও জানান, উন্নত এআই মডেলগুলোকে নির্দিষ্ট কাজের জন্য তৈরি করা হলেও প্রতিষ্ঠানের নীতি মেনে চলার মতো বিচক্ষণ বিচারবুদ্ধি সবসময় তাদের থাকে না। ফলে অনাকাঙ্ক্ষিত কোনো পদক্ষেপ বড় ধরনের বিপর্যয় তৈরি করতে পারে।
এই ঝুঁকি কমাতে ‘মাইক্রোসফট ডিফেন্ডার’-এ নতুন শনাক্তকরণ ফিচার যুক্ত করা হয়েছে, যা ক্লদ কোড, কোডেক্স ও ওপেনক্লসহ প্রায় ৬০ ধরনের এআই এজেন্ট শনাক্ত করতে সক্ষম। এছাড়া যেকোনো ঝুঁকিপূর্ণ কার্যক্রমে মানুষের চূড়ান্ত অনুমোদন (হিউম্যান-ইন-দ্য-লুপ) বাধ্যতামূলক করার সুবিধাও এতে রাখা হয়েছে।
