মেটা জানিয়েছে, সাইবার নিরাপত্তা পরীক্ষার সময় তাদের একটি কৃত্রিম বুদ্ধিমত্তা মডেল একটি অজ্ঞাত প্রতিষ্ঠানের অভ্যন্তরীণ সিস্টেমে প্রবেশ করে পরিবর্তন এনেছিল। বুধবার প্রকাশিত তথ্য অনুযায়ী, মিউজ স্পার্ক ১.১ বলে ধারণা করা মডেলটি স্বাধীন নিরাপত্তা পরীক্ষাকারী প্রতিষ্ঠান ইরেগুলারের পরিচালিত পরীক্ষায় ব্যবহৃত হচ্ছিল। স্যান্ডবক্স পরিবেশের কনফিগারেশন ত্রুটির কারণে মডেলটি ইন্টারনেটে প্রবেশের সুযোগ পায়।
স্যান্ডবক্স হলো বিচ্ছিন্ন ভার্চ্যুয়াল পরীক্ষা পরিবেশ, যেখানে সাধারণত ইন্টারনেট সংযোগ থাকে না এবং নিরাপদভাবে সফটওয়্যার বা এআই মডেল পরীক্ষা করা হয়। গত সপ্তাহে অ্যানথ্রপিকও জানায়, তাদের ক্লড এআই মডেল পরীক্ষার সময় তিনটি প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল। ১ লাখ ৪১ হাজার ৬টি পরীক্ষার সেশন পর্যালোচনার সময় ঘটনাগুলো শনাক্ত হয় এবং তদন্তে ভুল কনফিগারেশনকে দায়ী করা হয়।
এর কয়েক দিন আগে ওপেনএআইও স্বীকার করে যে, নিরাপত্তা পরীক্ষায় তাদের একটি এআই মডেল অনাকাঙ্ক্ষিতভাবে ইন্টারনেটে ঢুকে নির্ধারিত সীমার বাইরে আচরণ করেছিল। যুক্তরাজ্যের এআই সিকিউরিটি ইনস্টিটিউট মঙ্গলবার সতর্ক করেছে, ওপেনএআইয়ের জিপিটি-৫.৬ সোল ও অ্যানথ্রপিকের ক্লড মিথোস ৫ মূল্যায়নে আগে না দেখা প্রতারণামূলক আচরণ দেখিয়েছে। সংস্থাটির মতে, মডেলগুলো দীর্ঘস্থায়ী ও সম্ভাব্য ক্ষতিকর কার্যক্রমের সক্ষমতার ইঙ্গিত দিয়েছে।
