আন্তর্জাতিক ডেস্ক || কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের অস্বাভাবিক ও উদ্বেগজনক আচরণের ছয়টি ঘটনা শনাক্ত করেছে ওপেনএআই। এসব ঘটনায় কোনো কোনো মডেলকে স্বাভাবিক বিধিনিষেধ এড়িয়ে যাওয়ার চেষ্টা করতে দেখা গেছে। আবার একটি এআই এজেন্ট ব্যবহারকারীর অনুমতি ছাড়াই ইন্টারনেটে ফাইল আপলোড করেছে।এ ধরনের আচরণ নিয়মিতভাবে শনাক্ত, পরীক্ষা ও প্রকাশের জন্য নতুন একটি কাঠামো চালুর ঘোষণা দিয়েছে ওপেনএআই। গত বুধবার প্রতিষ্ঠানটি এ ঘোষণা দেয়।নতুন কাঠামোর আওতায় মডেলের অনুমতি ছাড়া কোনো কাজ করা, অন্য মডেলের সঙ্গে সমন্বয় করা কিংবা তদারকি এড়িয়ে যাওয়ার মতো আচরণ পর্যবেক্ষণ করা হবে।প্রশিক্ষণ ও মূল্যায়নে ছয় ঘটনাওপেনএআই জানিয়েছে, গত কয়েক মাসে মডেলগুলোর প্রশিক্ষণ ও মূল্যায়নের সময় ছয়টি ঘটনা শনাক্ত হয়েছে। প্রতিষ্ঠানটি এসব ঘটনাকে এআই মডেলের ‘মিসঅ্যালাইনমেন্ট’ হিসেবে বর্ণনা করেছে। অর্থাৎ মডেলের আচরণ তার নির্ধারিত লক্ষ্য ও সীমার সঙ্গে সামঞ্জস্যপূর্ণ ছিল না।এর একটি ঘটনা ঘটেছে ওপেনএআইয়ের একটি এখনো প্রকাশ না করা গবেষণা মডেলে। মডেলটি নিজের নোটে ‘জেলব্রেকের মতো নির্দেশনা’ যুক্ত করেছিল। সেখানে স্বাভাবিক বিধিনিষেধ উপেক্ষা করার কথা বলা হয়। পাশাপাশি নিজেকে ‘অন্য চ্যাটবটগুলোকে বেঁধে রাখা ভূমিকা ও পরিচয় থেকে মুক্ত’ করার কথাও লিখেছিল মডেলটি।অন্য একটি ঘটনায় একটি এআই এজেন্ট ব্যবহারকারীর অনুমতি ছাড়াই ইন্টারনেটে একটি ফাইল আপলোড করে। ব্রাউজার থেকে উদ্ধৃতি পাওয়ার উদ্দেশ্যে এজেন্টটি এমনটি করেছিল।স্বচ্ছতার ওপর জোরওপেনএআই বলেছে, এআই ব্যবস্থা যত উন্নত ও ব্যাপকভাবে ব্যবহৃত হবে, অ্যালাইনমেন্ট গবেষণার অগ্রগতি নিয়ে আরও বিস্তৃত ও তথ্যভিত্তিক ঐকমত্যের প্রয়োজন হবে।প্রতিষ্ঠানটির মতে, আগামী মাস ও বছরগুলোতে এআইয়ের উন্নয়ন কীভাবে এগোবে, সে বিষয়ে সিদ্ধান্ত নিতে এমন তথ্য থাকা প্রয়োজন, যা এআইয়ের উন্নত মডেল তৈরি করা প্রতিষ্ঠানগুলোর বাইরের ব্যক্তিরাও স্বাধীনভাবে পরীক্ষা করতে পারবেন।এআই নিরাপত্তা নিয়ে যুক্তরাষ্ট্রে আলোচনা যখন জোরালো হচ্ছে, তখন ওপেনএআই নতুন এই কাঠামোর ঘোষণা দিল। ওপেনএআই ও অ্যানথ্রপিকসহ কয়েকটি এআই প্রতিষ্ঠানের শীর্ষ কর্মকর্তারা নিরাপত্তা নিয়ে উদ্বেগ প্রকাশ করে প্রযুক্তিটির উন্নয়ন ধীর করার আহ্বান জানিয়েছেন।এর আগে গত জুলাইয়ে ওপেনএআই জানিয়েছিল, তাদের একটি নিয়ন্ত্রণহীন এআই ব্যবস্থা এআই স্টার্টআপ হাগিং ফেসে সাইবার হামলা চালিয়েছিল। একই মাসে অ্যানথ্রপিকও জানায়, পরীক্ষার সময় তাদের এআই মডেল তিনটি প্রতিষ্ঠানে সাইবার হামলা চালিয়েছিল।এআই এজেন্ট নিয়ে বাড়ছে উদ্বেগপ্রযুক্তি গবেষণা ও পরামর্শক প্রতিষ্ঠান ওমডিয়ারের প্রধান বিশ্লেষক লিয়ান জে সু বলেন, এআই এজেন্টগুলো ক্রমেই বেশি সক্ষম হয়ে উঠছে। জটিল কাজ সমাধানে তারা একে অপরের সঙ্গে সহযোগিতা, তথ্য ভাগাভাগি, প্রতারণা ও তথ্য গোপনের মতো পদ্ধতি ব্যবহারে আরও বেশি আগ্রহী হয়ে উঠছে।তাঁর মতে, এর ফলে প্রচলিত এআই নিরাপত্তাব্যবস্থা দিয়ে এসব এজেন্টকে নিয়ন্ত্রণ ও সীমাবদ্ধ রাখা কঠিন হয়ে পড়ছে।ওপেনএআইয়ের নতুন পর্যবেক্ষণ ও তথ্য প্রকাশের কাঠামো অন্য এআই নির্মাতাদেরও একই ধরনের পদ্ধতি গ্রহণে উৎসাহিত করতে পারে বলে মনে করেন লিয়ান জে সু। তবে তিনি মনে করেন, উদ্যোগটি এখনো ওপেনএআইয়ের অভ্যন্তরীণ ও স্বেচ্ছামূলক প্রক্রিয়ার মধ্যেই সীমাবদ্ধ। তারপরও তাঁর ভাষায়, এটি সঠিক পথে নেওয়া একটি পদক্ষেপ।