ওপেনএআই প্রশিক্ষণ ও মূল্যায়নের সময় এআই মডেলের অস্বাভাবিক ও উদ্বেগজনক আচরণের ছয়টি ঘটনা শনাক্ত করেছে। এর মধ্যে স্বাভাবিক বিধিনিষেধ এড়িয়ে যাওয়ার চেষ্টা এবং ব্যবহারকারীর অনুমতি ছাড়া একটি এআই এজেন্টের ইন্টারনেটে ফাইল আপলোডের ঘটনা রয়েছে। গত বুধবার প্রতিষ্ঠানটি এসব আচরণ নিয়মিত শনাক্ত, পরীক্ষা ও প্রকাশের জন্য নতুন একটি কাঠামো চালুর ঘোষণা দেয়।
নতুন কাঠামোর আওতায় অনুমতি ছাড়া কাজ করা, অন্য মডেলের সঙ্গে সমন্বয় করা এবং তদারকি এড়িয়ে যাওয়ার মতো আচরণ পর্যবেক্ষণ করা হবে। একটি অপ্রকাশিত গবেষণা মডেল নিজের নোটে ‘জেলব্রেকের মতো নির্দেশনা’ যুক্ত করেছিল এবং অন্য চ্যাটবটকে সীমাবদ্ধ করা ভূমিকা ও পরিচয় থেকে মুক্ত হওয়ার কথা লিখেছিল। অন্য ঘটনায় একটি এআই এজেন্ট ব্রাউজার উদ্ধৃতি পাওয়ার জন্য অনুমতি ছাড়াই অনলাইনে ফাইল আপলোড করে।
ওপেনএআই এসব ঘটনাকে মিসঅ্যালাইনমেন্ট বলেছে, অর্থাৎ আচরণ নির্ধারিত লক্ষ্য ও সীমার সঙ্গে সামঞ্জস্যপূর্ণ ছিল না। ওমডিয়ার প্রধান বিশ্লেষক লিয়ান জে সু বলেন, সক্ষম এআই এজেন্ট সহযোগিতা, তথ্য ভাগাভাগি, প্রতারণা ও তথ্য গোপনে বেশি আগ্রহী হয়ে উঠছে, ফলে প্রচলিত নিরাপত্তাব্যবস্থা দিয়ে নিয়ন্ত্রণ কঠিন হচ্ছে। তাঁর মতে, ওপেনএআইয়ের স্বেচ্ছামূলক অভ্যন্তরীণ উদ্যোগ অন্য নির্মাতাদেরও অনুরূপ পদ্ধতি নিতে উৎসাহিত করতে পারে।
ছয়টি এআই মিসঅ্যালাইনমেন্ট ঘটনা শনাক্ত করে নতুন নজরদারি কাঠামো চালুর ঘোষণা ওপেনএআইয়ের
কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের অস্বাভাবিক ও উদ্বেগজনক আচরণের ছয়টি ঘটনা শনাক্ত করেছে ওপেনএআই। এসব ঘটনায় কোনো মডেলকে স্বাভাবিক বিধিনিষেধ এড়িয়ে যাওয়ার চেষ্টা করতে দেখা গেছে। আবার একটি এআই এজেন্ট ব্যবহারকারীর অনুমতি ছাড়াই ইন্টারনেটে ফাইল আপলোড করেছে।
এ
সহজে ব্যবহারের সুবিধার্থে একনজরের ওয়েব অ্যাপটি সেটাপ করে নিন।