न्यूजीलैंड में आतंकवादी हमले पर नवीनतम अपडेट में, फेसबुक ने वायरल वीडियो के प्रसार को रोकने की कसम खाई है, जैसे शूटर द्वारा फिल्माए गए फुटेज, और प्रतिबंधित सामग्री को तेजी से पहचानने के लिए आर्टिफिशियल इंटेलिजेंस को संलग्न कर सकती है। जब क्राइस्टचर्च की एक मस्जिद में घुसे और हमलावर ब्रेंटन टैरेंट द्वारा फिल्माए गए 17 मिनट के लाइव वीडियो को फेसबुक पर दिखाया गया, तो उपयोगकर्ता द्वारा रिपोर्ट करने के लिए इसकी शुरुआत के 29 मिनट बाद यह दिखाई दिया।
कृत्रिम होशियारी
ऑनलाइन प्रसार से चरमपंथी सामग्री को रोकने के बारे में सोशल मीडिया की दिग्गज कंपनी की योजना के बारे में व्यापक चिंता को संबोधित करते हुए, गाई रोसेन, फेसबुक के वाइस प्रेसिडेंट ऑफ इंटीग्रिटी ने कहा कि फेसबुक एआई अल्ग्रोथम्स को बढ़ाने पर काम करेगा जो लगातार दुर्भावनापूर्ण सामग्री का पता लगाते हैं, लेकिन चेतावनी दी है कि एआई “परफेक्ट नहीं है”.
सामग्री का पता लगाने के लिए प्रशिक्षित होने के बावजूद, जैसे आतंकवादी प्रचार और ग्राफिक हिंसा, फेसबुक के एआई सिस्टम रोसेन द्वारा उल्लिखित कई कारणों के कारण क्राइस्टचर्च मस्जिद शूटिंग फुटेज का पता लगाने में विफल रहे।
वीपी ने कहा कि “यह प्राप्त करने के लिए कि हमें इस विशिष्ट प्रकार की सामग्री के डेटा के बड़े संस्करणों के साथ अपने सिस्टम को प्रदान करने की आवश्यकता होगी, कुछ ऐसा जो मुश्किल है क्योंकि ये घटनाएँ दुर्लभ हैं। एक अन्य चुनौती नेत्रहीन समान, सहज सामग्री से इस सामग्री को स्वचालित रूप से समझने की है। उदाहरण के लिए, अगर लाइव-स्ट्रीम किए गए वीडियो गेम के हजारों वीडियो हमारे सिस्टम द्वारा चिह्नित किए गए हैं, तो हमारे समीक्षक महत्वपूर्ण वास्तविक दुनिया के वीडियो को याद कर सकते हैं, जहां हम पहले उत्तरदाताओं को जमीन पर मदद करने के लिए सचेत कर सकते हैं, ”
लॉजिक रिपोर्टिंग
भयावह हमले के बाद पहले 24 घंटों में, जिसमें 50 लोगों की हत्या देखी गई थी, फेसबुक ने नरसंहार के 1.2 मिलियन से अधिक वीडियो और 300,000 अतिरिक्त प्रतियां पोस्ट किए जाने के बाद उन्हें हटाए जाने की सूचना दी थी। रोसेन ने कहा कि “कुल मिलाकर, हमने वीडियो के 800 से अधिक नेत्रहीन-भिन्न रूपों को पाया और अवरुद्ध किया जो प्रसारित हो रहे थे। यह ISIS जैसे संगठनों के आधिकारिक आतंकवादी प्रचार से अलग है – जो कि अनुयायियों के हार्ड कोर सेट में वितरित किए जाते हैं, जो कि नहीं है। मुख्यधारा के मीडिया संगठनों द्वारा विद्रोह और व्यापक रूप से व्यक्तियों द्वारा फिर से साझा नहीं किया गया है।
दिलचस्प बात यह है कि लाइव प्रसारण के दौरान किसी भी उपयोगकर्ता ने वीडियो की सूचना नहीं दी और वीडियो समाप्त होने के 12 मिनट बाद ही फेसबुक को शिकायत मिली। उपयोगकर्ताओं के व्यवहार और अलार्म ट्रिगर्स को समझाने के प्रयास में, रोसेन ने तर्क दिया कि फेसबुक के पास अधिक सटीक और विशिष्ट कारणों के लिए जिम्मेदार नहीं हो सकता है जो उपयोगकर्ता अपनी रिपोर्ट में सूचीबद्ध कर सकते हैं।
“इस रिपोर्ट में, और बाद की कई रिपोर्टों में, वीडियो को आत्महत्या के अलावा अन्य कारणों के लिए रिपोर्ट किया गया था और इस तरह इसे अलग-अलग प्रक्रियाओं के लिए संभाला गया था। इस से एक सीख के रूप में, हम दोनों के लिए अपने रिपोर्टिंग तर्क और अनुभवों की फिर से जांच कर रहे हैं। उन श्रेणियों का विस्तार करने के लिए लाइव और हाल ही में लाइव वीडियो, जिन्हें त्वरित समीक्षा मिलेगी।
कुछ ने अपने शब्दों का अर्थ यह निकाला कि मौजूदा श्रेणियों के अलावा – जैसे “नग्नता,” “घृणास्पद भाषण,” “स्पैम,” “उत्पीड़न,” “हिंसा,” “अनधिकृत बिक्री,” “आत्महत्या या आत्म-चोट,” ” सकल सामग्री “और” अन्य “- फेसबुक” हत्या “या” आतंकवाद “जैसे नए टैग पेश करेगा।”
क्राइस्टचर्च आतंकी हमले पर ताजा बयान में, फेसबुक का कहना है कि लाइव वीडियो पर सीधे कार्रवाई नहीं की गई क्योंकि इसे एक नई श्रेणी “आत्महत्या” के तहत चिह्नित नहीं किया गया था।
ऐसा लगता है कि वे एक नई श्रेणी का उपयोग कर रहे हैं। जैसे “हत्या” या “आतंकवाद”?
https://t.co/dMq1QgoCyu pic.twitter.com/KtPfd5cfiL
— Mark Di Stefano ?? (@MarkDiStef) March 21, 2019
रोसेन ने कहा कुल मिलाकर, वीडियो के उपयोगकर्ताओं द्वारा कई कारणों से साझा किया गया। उन्होंने कहा कि “कुछ का उद्देश्य हत्यारे के कार्यों को बढ़ावा देना था, अन्य लोग उत्सुक थे, और अन्य वास्तव में हिंसा को उजागर करने और निंदा करने के उद्देश्य से थे। वितरण को आगे एक वीडियो के अस्तित्व की व्यापक रिपोर्टिंग से प्रेरित किया गया था, जिसने लोगों को इसे खोजने और उसके बाद करने के लिए प्रेरित किया होगा। ”
मिलान प्रौद्योगिकी
15 मार्च को हमले के बाद, न्यूजीलैंड पुलिस ने हमले के प्रसारित फुटेज से प्रभावित लोगों से उचित मदद लेने का आग्रह किया। पुलिस को पता है कि व्यापक रूप से ऑनलाइन घूमने वाली इस घटना से संबंधित चिंताजनक सामग्रियां हैं। हम किसी से भी आग्रह करेंगे जो इन सामग्रियों को देखकर उचित समर्थन प्राप्त करने के लिए प्रभावित हुआ हो।
– न्यूजीलैंड पुलिस (@nzpolice) 15 मार्च, 2019
न्यूजीलैंड के प्रधानमंत्री जैसिंडा अर्डर्न फेसबुक के साथ संपर्क में रहे हैं, सोशल मीडिया की दिग्गज कंपनी ने मांग की है कि हमले के “भयावह” फुटेज को लोग देखने में असमर्थ हो। पीएम ने कहा, “आपके पास इतना ग्राफिक नहीं हो सकता है और इसका कोई प्रभाव नहीं है … और इसलिए यह इतना महत्वपूर्ण है कि इसे हटा दिया जाए।”
चरमपंथी सामग्री से निपटने की दिशा में अपने आगे के कदमों में, फेसबुक ने अपनी “मिलान तकनीक” में सुधार करने का वादा किया ताकि हम इस प्रकृति के वायरल वीडियो के प्रसार को रोक सकें, भले ही वे मूल रूप से जैसे भी उत्पन्न हुआ हो।