এআই চ্যাটবটের কাছে অপরাধের স্বীকারোক্তি প্রযুক্তি প্রতিষ্ঠানগুলো আইনশৃঙ্খলা রক্ষাকারী বাহিনীকে জানাবে কি না, তা নিয়ে বিতর্ক তীব্র হচ্ছে। এ ধরনের তথ্য দেওয়ার জন্য প্রতিষ্ঠানগুলোর ওপর বাধ্যতামূলক কোনো আইন বা নীতিমালা নেই। তবে তদন্তে চ্যাটবটের সঙ্গে ব্যবহারকারীর কথোপকথন ব্যবহারের ঘটনা বাড়ছে। গত আগস্টে যুক্তরাষ্ট্রের মিসৌরি বিশ্ববিদ্যালয়ের ১৯ বছর বয়সী এক শিক্ষার্থী চ্যাটজিপিটিকে ক্যাম্পাসে পার্ক করা ১৭টি গাড়ি ভাঙচুরের কথা জানায়।

পুলিশের নথি অনুযায়ী, ধরা পড়লে সম্ভাব্য পরিণতি সম্পর্কে চ্যাটজিপিটি তাকে কিছু তথ্য দেয়। তার বার্তা ক্রমে আক্রমণাত্মক হওয়ায় পরে চ্যাটবটটি তাকে জরুরি নম্বর ৯১১-এ ফোন করার পরামর্শ দেয়। শিক্ষার্থী তদন্তকারীদের নিজের ফোন পরীক্ষা করতে অনুমতি দিলে তারা চ্যাটজিপিটির সঙ্গে কথোপকথনের ইতিহাস উদ্ধার করেন। আদালতে তা প্রমাণ হিসেবে ব্যবহৃত হয় এবং গুরুতর সম্পত্তি বিনষ্টের অভিযোগ গঠনে গুরুত্বপূর্ণ ভূমিকা রাখে।

ব্রিটিশ কলাম্বিয়া একটি স্কুলে বন্দুক হামলা নিয়ে ওপেনএআইয়ের বিরুদ্ধে মামলা করেছে এবং অভিযোগ করেছে, প্রতিষ্ঠানটি হামলাকারীর কথোপকথন সম্পর্কে পুলিশকে সতর্ক করেনি। গবেষকেরা বলছেন, এআই অ্যালগরিদম ব্যবহারকারীর উদ্দেশ্য ভুল বুঝতে পারে। গত জুলাইয়ে অ্যানথ্রপিকের ক্লড ৫ একটি অমীমাংসিত হত্যাকাণ্ড নিয়ে ভুল তথ্য দিয়ে পুলিশের হটলাইনে অভিযোগ জানিয়েছিল।