Google ने बाल यौन दुर्व्यवहार सामग्री को ऑनलाइन हटाने में सहायता के लिए एक आर्टिफिसियल इंटलिजेंस (AI) विकसित किया है। यह उपकरण मानव मॉडरेटर को स्पॉट और बाल यौन दुर्व्यवहार सामग्री (सीएसएएम) को और अधिक तेज़ी से हटाने में मदद करने के लिए तसवीरों कि पहचान करता है।
इससे मॉडरेटर के उस सामग्री के संपर्क में कमी आएगी जो दर्दनाक हो सकती है, आशा है कि बाल यौन शोषण सामग्री की अधिक से अधिक मात्रा को पकड़ लिया जाये। यह कदम तब आता है जब ब्रिटेन के अधिकारियों ने ऑनलाइन बाल यौन दुर्व्यवहार के खिलाफ अधिक कार्रवाई करने के लिए Google और अन्य सिलिकॉन घाटी दिग्गजों से मुलाकात की है।
कुछ मौजूदा सिस्टम बाल यौन शोषण छवियों और वीडियो को उस सामग्री के डेटाबेस के माध्यम से चलाकर पहचान सकते हैं जिसे पहले से ही पहचाना गया है। यह सामग्री पर स्पॉट करने के लिए एक सहायक उपकरण है जिसे इंटरनेट पर दोबारा पोस्ट किया गया है, लेकिन यह नई छवियों या वीडियो को खोजने की प्रक्रिया को कम नहीं करता है। इसके बजाए, मानव मॉडरेटर को स्वयं सामग्री की समीक्षा करनी है।
फर्म ने कहा कि Google की तकनीक का उद्देश्य सेवा प्रदाताओं, गैर-सरकारी संगठनों और अन्य तकनीकी फर्मों की इस सामग्री को स्केल करने की अनुमति देकर उस मुद्दे को हल करना है। यह सामग्री लोगों के माध्यम से क्रमबद्ध करने के लिए गहरे तंत्रिका नेटवर्क का उपयोग करता है और समीक्षा के लिए कुछ पोस्टों को प्राथमिकता देता है।
Google ने एक ब्लॉग पोस्ट में बताया, ‘नई छवियों की त्वरित पहचान का मतलब है कि जिन बच्चों को यौन शोषण किया जा रहा है, उन्हें पहचानने और आगे के दुर्व्यवहार से संरक्षित होने की संभावना अधिक है।’ ‘हम इसे अपनी सामग्री सुरक्षा एपीआई के माध्यम से एनजीओ और उद्योग भागीदारों के लिए मुफ्त में उपलब्ध करा रहे हैं, एक टूलकिट जिस तरह से सामग्री की समीक्षा करने की क्षमता बढ़ाने के लिए कम लोगों को इसके संपर्क में आने की आवश्यकता है।’
Google ने कहा कि उसने सिस्टम की सफलता को पहले से ही देखा है: इससे एक समीक्षक ने ‘एक ही समय अवधि में 700 प्रतिशत अधिक सीएसएएम सामग्री पर कार्रवाई करने में मदद की।’ फर्म ब्रिटेन स्थित चैरिटी इंटरनेट वॉच फाउंडेशन (आईडब्ल्यूएफ) के साथ साझेदारी कर रही है, जो सीएसएएम ऑनलाइन को मुद्रित करने के लिए समर्पित है।
आईडब्ल्यूएफ कुछ मामलों में कानून प्रवर्तन के साथ काम करते हुए, बाल यौन शोषण सामग्री ऑनलाइन पहचानने के लिए मानव मॉडरेटर को नियोजित करता है और सीएसएएम साझा की जाने वाली साइटों की भी जांच करता है।
आईडब्ल्यूएफ के चीफ एक्जीक्यूटिव सुसी हरग्रेव्स ने एक बयान में कहा ‘हम, और विशेष रूप से हमारे विशेषज्ञ विश्लेषकों, एक कृत्रिम बुद्धिमान उपकरण के विकास के बारे में उत्साहित हैं जो हमारे मानव विशेषज्ञों की सामग्री को एक बड़े स्तर पर समीक्षा करने में मदद कर सकते हैं और उन छवियों को लक्षित करके अपराधियों के साथ बने रह सकते हैं जिन्हें पहले चिह्नित नहीं किया गया था ।
‘इस नई तकनीक को साझा करके, छवियों की पहचान तेज हो सकती है, जो बदले में इंटरनेट को बचे हुए लोगों और उपयोगकर्ताओं दोनों के लिए एक सुरक्षित स्थान बना सकती है।’ आईडब्ल्यूएफ अब यह देखने के लिए Google के एआई उपकरण का परीक्षण करेगा। यूके के गृह सचिव साजिद जाविद ने सीएसएएम पर फटकारने के लिए टेक फर्मों के लिए कॉल पर दोगुना होने के कुछ ही घंटों बाद Google से घोषणा की।
जाविद ने कहा कि उन्होंने हाल ही में इस मुद्दे के पैमाने को समझ लिया था, दावा करते हुए कि लोग सिर्फ 12 पाउंड के लिए ऑनलाइन बाल यौन शोषण कर सकते हैं। उन्होंने कहा कि तकनीकी कंपनियों को केवल आक्रामक सामग्री को झुकाव करने की तुलना में अधिक करने की आवश्यकता है और यदि उन्होंने अधिक कार्रवाई नहीं की है तो उन्होने कानून को धमकी दी है।