বছরের পর বছর ধরে, হ্যাশিং প্রযুক্তি প্ল্যাটফর্মের জন্য এটি সম্ভব করে তুলেছে যে বাচ্চাদের অনলাইনে পুনরুত্থিত হওয়া থেকে বিরত রাখতে স্বয়ংক্রিয়ভাবে পরিচিত শিশু যৌন নির্যাতন সামগ্রী (CSAM) সনাক্ত করা সম্ভব। যাইহোক, দ্রুত নতুন বা অজানা CSAM সনাক্ত করা প্ল্যাটফর্মগুলির জন্য একটি বড় চ্যালেঞ্জ হিসাবে রয়ে গেছে কারণ নতুন শিকারের শিকার হওয়া অব্যাহত রয়েছে। এখন, AI এটি পরিবর্তন করতে প্রস্তুত হতে পারে।
আজ, একটি বিশিষ্ট শিশু সুরক্ষা সংস্থা, Thorn, একটি নেতৃস্থানীয় ক্লাউড-ভিত্তিক AI সমাধান প্রদানকারী, Hive-এর সাথে অংশীদারিত্বে, আপলোডের সময় অজানা CSAM ফ্ল্যাগ করার জন্য ডিজাইন করা একটি AI মডেল প্রকাশের ঘোষণা করেছে৷ এটি প্রথম দিকের AI প্রযুক্তি যা স্কেল এ অরিপোর্ট করা CSAM প্রকাশ করার জন্য প্রয়াসী।
থর্নের CSAM সনাক্তকরণ টুলের একটি সম্প্রসারণ, নিরাপদনতুন “ভবিষ্যদ্বাণী” বৈশিষ্ট্যটি “নতুন বা পূর্বে রিপোর্ট না করা CSAM এবং শিশু যৌন শোষণ আচরণ (CSE) সনাক্ত করার জন্য উন্নত মেশিন লার্নিং (ML) ক্লাসিফিকেশন মডেল” ব্যবহার করে, মানুষের সিদ্ধান্তগুলিকে সহজ এবং দ্রুততর করার জন্য একটি ঝুঁকি স্কোর তৈরি করে।”
মডেলটিকে আংশিকভাবে ন্যাশনাল সেন্টার ফর মিসিং অ্যান্ড এক্সপ্লয়েটেড চিলড্রেন (এনসিএমইসি) সাইবারটিপলাইনের ডেটা ব্যবহার করে প্রশিক্ষিত করা হয়েছিল, ক্ষতিকারক ছবি এবং ভিডিওগুলির ধরণগুলি সনাক্ত করতে আসল CSAM ডেটার উপর নির্ভর করে৷ একবার সন্দেহভাজন CSAM ফ্ল্যাগ করা হলে, একজন মানব পর্যালোচক নজরদারি নিশ্চিত করতে লুপে থাকেন। এটি সম্ভাব্যভাবে অনলাইনে ছড়িয়ে পড়া সন্দেহভাজন CSAM রিংগুলির তদন্ত করতে ব্যবহার করা যেতে পারে।
এটি অবশ্যই ভুল করতে পারে, তবে হাইভের সিইও কেভিন গুও আরসকে বলেছিলেন যে মিথ্যা ইতিবাচক বা নেতিবাচকগুলিকে উল্লেখযোগ্যভাবে হ্রাস করার জন্য ব্যাপক পরীক্ষা করা হয়েছিল। যদিও তিনি পরিসংখ্যান ভাগ করবেন না, তিনি বলেছিলেন যে প্ল্যাটফর্মগুলি এমন একটি সরঞ্জামে আগ্রহী হবে না যেখানে “একশত জিনিসের মধ্যে 99টি জিনিসটি সঠিক নয়।”
রেবেকা পোর্টনফ, থর্নের ডেটা সায়েন্সের ভাইস প্রেসিডেন্ট, আরসকে বলেছিলেন যে হাইভ অন সেফারের সাথে অংশীদারি করা “নো-ব্রেইনার” ছিল। Hive শত শত জনপ্রিয় অনলাইন সম্প্রদায়ের দ্বারা ব্যবহৃত বিষয়বস্তু সংযম মডেল সরবরাহ করে এবং গুও Ars কে বলেছে যে প্ল্যাটফর্মগুলি ধারাবাহিকভাবে অজানা CSAM সনাক্ত করার জন্য সরঞ্জামগুলির জন্য বলেছে, যার বেশিরভাগই বর্তমানে অনলাইনে ব্লাইন্ড স্পটগুলিতে ফেস্ট করে কারণ হ্যাশিং ডেটাবেস কখনই এটি প্রকাশ করবে না।
