নিয়ন্ত্রিত পরীক্ষা থেকে বেরিয়ে এআই এজেন্টের সাইবার হামলা, জানাল ওপেনএআই

চ্যাটজিপিটির নির্মাতা ওপেনএআই জানিয়েছে, তাদের দুটি উন্নত কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল নিয়ন্ত্রিত পরীক্ষার সময় নির্ধারিত পরিবেশের বাইরে চলে গিয়ে একটি এআই প্রতিষ্ঠানের সার্ভারে প্রবেশ করেছিল।মঙ্গলবার প্রকাশিত এক বিবৃতিতে ওপেনএআই জানায়, নিজেদের মডেলের সাইবার সক্ষমতা যাচাইয়ের জন্য পরিচালিত অভ্যন্তরীণ পরীক্ষার সময় এ ঘটনা ঘটে। পরীক্ষার অংশ হিসেবে তৈরি একটি স্বয়ংক্রিয় এআই এজেন্ট স্যান্ডবক্স পরিবেশ থেকে বের হয়ে উন্মুক্ত ইন্টারনেটে পৌঁছে যায়।ওপেনএআই জানায়, ঘটনাটির সঙ্গে তাদের সদ্য প্রকাশিত GPT-5.6 Sol এবং আরও উন্নত একটি অপ্রকাশিত মডেল জড়িত ছিল। প্রতিষ্ঠানটির দাবি, এআই এজেন্টটি চুরি করা লগইন তথ্য ব্যবহার করে এবং একটি অজানা নিরাপত্তা দুর্বলতা কাজে লাগিয়ে হাগিং ফেসের সার্ভারে প্রবেশ করে।ওপেনএআই বলেছে, পরীক্ষার উদ্দেশ্যে প্রয়োজনীয় তথ্য সংগ্রহের চেষ্টা করতে গিয়ে এআই এজেন্টটি ‘চরম পর্যায়ের’ পদক্ষেপ নিয়েছিল।হাগিং ফেসের সহপ্রতিষ্ঠাতা ক্লেমঁ দেলাঁগ বলেন, তাদের ধারণা ছিল কোনো বড় এআই গবেষণাগার এ ঘটনার সঙ্গে জড়িত। তবে তিনি মনে করেন, ওপেনএআইয়ের পক্ষ থেকে এতে কোনো অসৎ উদ্দেশ্য ছিল না। তিনি ঘটনাটিকে এ ধরনের প্রথম ঘটনার একটি হতে পারে বলেও মন্তব্য করেন।যুক্তরাষ্ট্রের প্রতিনিধি পরিষদের সদস্য গ্রেগ কাসার এ ঘটনাকে উদ্বেগজনক বলে উল্লেখ করে স্বাধীন নিরাপত্তা পরীক্ষা, বাধ্যতামূলক ঘটনা প্রকাশ এবং আন্তর্জাতিক সহযোগিতার প্রয়োজনীয়তার কথা বলেন। বিশেষজ্ঞরা দীর্ঘদিন ধরে এআই-চালিত সাইবার হামলা এবং মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে এমন উন্নত এআই ব্যবস্থার ঝুঁকি নিয়ে সতর্ক করে আসছেন। সম্প্রতি এআই নিরাপত্তা নিয়ে নতুন নীতিমালা তৈরির উদ্যোগও নিয়েছে যুক্তরাষ্ট্র।