মেটা তাদের এআই চ্যাটবটের জন্য নতুন নিরাপত্তা কাঠামো চালু করেছে, যার মাধ্যমে কোনো কিশোর ব্যবহারকারীর কথোপকথনে আত্মহত্যা বা আত্মক্ষতির ইঙ্গিত পাওয়া গেলে অভিভাবকদের সতর্কবার্তা পাঠানো হবে। মেটা জানিয়েছে, কৃত্রিম বুদ্ধিমত্তা ব্যবস্থা এমন কোনো লক্ষণ শনাক্ত করলে প্রথমে তা তাদের নিজস্ব টিম পর্যালোচনা করবে। ঝুঁকির মাত্রা বিবেচনা করে অভিভাবকদের দ্রুত অ্যালার্ট পাঠানো হবে এবং পরিস্থিতি গুরুতর মনে হলে জরুরি সেবার সঙ্গেও যোগাযোগ করা হতে পারে।

প্রতিষ্ঠানটি জানিয়েছে, সতর্কবার্তার শতভাগ নির্ভুলতার চেয়ে কিশোরদের সুরক্ষাকেই অগ্রাধিকার দেওয়া হবে। ফলে বার্তার অর্থ পুরোপুরি নিশ্চিত না হলেও সম্ভাব্য ঝুঁকি এড়াতে সতর্কবার্তা পাঠানো হতে পারে। এতে কিছু অপ্রয়োজনীয় নোটিফিকেশন গেলেও নিরাপত্তায় ছাড় দেবে না মেটা।

প্রাথমিকভাবে যুক্তরাষ্ট্র, যুক্তরাজ্য, অস্ট্রেলিয়া ও কানাডায় ইনস্টাগ্রামের ‘প্যারেন্টাল সুপারভিশন’ ব্যবহারকারী পরিবারগুলোর জন্য এই ফিচার চালু হয়েছে। চলতি বছরের শেষের দিকে এটি অন্যান্য দেশেও সম্প্রসারণের পরিকল্পনা রয়েছে। কিশোরদের জন্য মেটা এআইয়ের কনটেন্ট নিয়ন্ত্রণও আরও কঠোর করা হয়েছে।