স্যাম অল্টম্যানের নেতৃত্বাধীন প্রতিষ্ঠানটি এক ব্লগ পোস্টে জানায়, গত ২ সেপ্টেম্বর তাদের অভ্যন্তরীণ গবেষণার কাজে ব্যবহৃত একটি এআই মডেল সিস্টেমের ভুল কনফিগারেশনের সুযোগ নিয়ে সীমিত আকারে ইন্টারনেটে প্রবেশ করে। এমন অননুমোদিত আচরণের পরপরই নিজেদের সবচেয়ে উন্নত ও সক্ষম মডেলগুলোর প্রশিক্ষণ ও মূল্যায়ন তাৎক্ষণিকভাবে বন্ধ করে দেয় ওপেনএআই। পরবর্তীতে সিস্টেমে অতিরিক্ত সুরক্ষামূলক ব্যবস্থা যুক্ত করে গত ১ অক্টোবর থেকে পুনরায় এসব ফ্রন্টিয়ার মডেলের রিইনফোর্সমেন্ট লার্নিং প্রশিক্ষণ শুরু করা হয়।

এআই মডেলগুলো যাতে কোনোভাবেই নির্ধারিত গণ্ডি বা আইসোলেটেড কম্পিউটিং পরিবেশ থেকে নিজে নিজে বের হতে না পারে, সেটি নিশ্চিত করতে চায় প্রতিষ্ঠানটি। এজন্য নিজেদের গবেষণার অবকাঠামোতে আর কোনো দুর্বলতা আছে কি না, তা খুঁজে বের করতে নতুন একটি প্রচারাভিযান বা ক্যাম্পেইন শুরু করেছে তারা। তবে এআই নিরাপত্তাবিষয়ক মূল্যায়নকারী প্রতিষ্ঠান এমইটিআর এবং রেডউড রিসার্চ গত বৃহস্পতিবার জানিয়েছে, তারা এরই মধ্যে ওপেনএআইয়ের অভ্যন্তরীণ সিস্টেমে নতুন আরও কিছু দুর্বলতা খুঁজে পেয়েছে।

‘হাগিং ফেস’ নামের একটি প্ল্যাটফর্মে দুর্ঘটনাবশত হ্যাকিংয়ের ঘটনার পর নিজেদের তৈরি এআই মডেলগুলোর সামগ্রিক কার্যক্রম নিয়ে ব্যাপক পর্যালোচনা চালাচ্ছে ওপেনএআই। এ ছাড়া প্রতিষ্ঠানটির এআই এজেন্টগুলোর সঙ্গে যুক্ত অননুমোদিত কার্যক্রমের বিভিন্ন ঘটনা সম্পর্কে এরই মধ্যে ১০০টিরও বেশি সংস্থাকে সতর্ক করে তথ্য জানানো হয়েছে। মূলত, সফটওয়্যারের ত্রুটি খুঁজে বের করে তা কাজে লাগানোর ক্ষেত্রে এআই এজেন্টগুলোর ক্রমবর্ধমান সক্ষমতা নিয়ে চারদিকে যখন উদ্বেগ বাড়ছে, ঠিক তখনই এসব পদক্ষেপ নেওয়া হলো।