फेसबुक से जहरीले और हिंसक कंटेंट को साइट से हटाने में अब भी कई समस्याएं



गैजेट डेस्क, केड मेट्ज, माइक इसाक. सोशल नेटवर्किंग साइट फेसबुक को अपनी साइट से जहरीले, झूठे और भ्रामक कंटेंट को हटाने में काफी मुश्किलों का सामना करना पड़ रहा है। आर्टिफिशियल इंटेलिजेंस (एआई) टेक्नोलॉजी भी ऐसी पोस्ट के सामने असहाय नजर आती है। कंपनी के मुख्य टेक्नोलॉजी अधिकारी माइक स्क्रोफेर ने अभी हाल तीन इंटरव्यू में स्वीकार किया है कि यह काम कठिन है। एआई हर समस्या का हल नहीं है।

आपत्तिजनक कंटेंट से हुई तीखी आलोचना

न्यूयॉर्क टाइम्स की टीम को फेसबुक मुख्यालय के कॉन्फ्रेंस रूम में आधा घंटा बिताने का मौका मिला। वहां विशेषज्ञों की टीम साइट से जहरीला कंटेंट हटाने में आ रही तकनीकी मुश्किलों पर चर्चा कर रही थी। फिर हमने क्राइस्टचर्च, न्यूजीलैंड जनसंहार के वीडियो को हटाने में सामने आई चुनौतियों का मामला उठाया। कंपनी को वीडियो अलग करने में एक घंटा लग गया था। स्क्रोफेर कुछ देर खामोश रहे। उनकी आंखें नम होने लगीं। फिर उन्होंने कहा, हम इस पर काम कर रहे हैं। इसे कल ही ठीक नहीं किया जा सकता है। पिछले तीन वर्ष से फेसबुक को यूजरों द्वारा पोस्ट किए जा रहे आपत्तिजनक कंटेंट के कारण तीखी आलोचना का शिकार होना पड़ा है। कंपनी के प्रमुख मार्क जकरबर्ग ने कहा है कि एआई की मदद से खराब पोस्ट हटाए जा सकेंगे। अगले पांच से दस वर्षों में नफरत फैलाने वाले पोस्ट हटाने में सक्षम एआई टूल हमारे पास होंगे। अमेरिकी संसद, मीडिया, विभिन्न कॉन्फ्रेंस और फेसबुक के कार्यक्रमों में जकरबर्ग ऐसा दावा कई बार कर चुके हैं। लेकिन,उसे अब तक पूरी तरह कामयाबी नहीं मिली है।

एआई से अकेले सुधार नहीं किया जा सकता

फेसबुक में स्क्रोफेर लाखों ऐसी पोस्ट ऑटोमैटिक औजारों से हटाने के प्रयासों की अगुआई कर रहे हैं। स्क्रोफेर और उनके 150 से अधिक इंजीनियरिंग विशेषज्ञों की टीम भड़काने वाले कंटेंट को रोकने और हटाने के लिए जब भी एआई के कुछ तरीके बनाती है, उसी समय ऐसे नए और खराब पोस्ट आने लगते हैं जिन्हें एआई सिस्टम ने पहले कभी नहीं देखा था। वह इन्हें नहीं पकड़ पाता है। स्क्रोफेर ने एक इंटरव्यू में कहा, एआई अकेले फेसबुक की बीमारियों का इलाज नहीं कर सकती है। मैं नहीं सोचता कि बात यहां खत्म हो जाती है। हम नहीं कह सकते कि सब कुछ ठीक हो गया है।

लाइव स्ट्रीमिंग की पॉलिसी बदली

इधर, फेसबुक पर दबाव बढ़ता जा रहा है। क्राइस्टचर्च, न्यूजीलैंड में गोलीबारी की घटना का वीडियो आने पर साइट को दुनियाभर में निशाना बनाया गया। कंपनी ने लाइव स्ट्रीमिंग सर्विस के इस्तेमाल पर अपनी नीतियां बदली हैं। बुधवार को पेरिस में एक कांफ्रेंस में फ्रांस के राष्ट्रपति इमैनुअल मैक्रों, न्यूजीलैंड की प्रधानमंत्री जेसिंडा आर्डर्न की मौजूदगी में कंपनी ने हिंसक कंटेंट को पहचानने के लिए अपने साधनों और टेक्नोलॉजी का फिर से परीक्षण करने का वचन दिया है।

विशेषज्ञों को टीम में किया शामिल

44 वर्षीय स्क्रोफेर कई वर्ष से फेसबुक में उच्चस्तर की एआई लैब के निर्माण में लगे हैं। उन्होंने, तस्वीरों से लोगों के चेहरे पहचानने वाली मशीनों पर काम किया है। वे और जकरबर्ग गूगल के मुकाबले का एआई सिस्टम तैयार करना चाहते थे। गूगल के पास एआई शोधकर्ताओं की सबसे बड़ी टीम है। स्क्रोफर ने न्यूयॉर्क यूनिवर्सिटी, लंदन यूनिवर्सिटी और पियर-मैरी क्यूरी यूनिवर्सिटी पेरिस से पीएचडी करने वाले विशेषज्ञों को अपनी टीम में शामिल किया है। अब उनकी भूमिका धमकी देने और जहरीले कंटेंट हटाने वाले की हो गई है। वे और उनकी टीम का अधिकतर समय एआई की मदद से मौत की धमकियों, आत्महत्या के वीडियो, भ्रामक और झूठी जानकारी को हटाने में लगता है।

लोगों ने कई बार मुख्य अधिकारी को रोते देखा है

मुख्य टेक्नोलॉजी अधिकारी स्क्रोफेर को जानने वाले लोग कहते हैं, वे कई बार अपनी भावनाएं व्यक्त करते हैं। वेंचर कैपिटलिस्ट और फेसबुक में स्क्रोफेर के साथ काम कर चुके जोसलिन गोल्डफीन बताते हैं, मैंने स्क्रोफेर को रोते देखा है। फेसबुक ने न्यूयॉर्क टाइम्स को स्क्रोफेर से चर्चा करने की अनुमति दे दी क्योंकि कंपनी बताना चाहती थी कि एआई किस तरह खराब कंटेंट को पकड़ रहा है।

Download Dainik Bhaskar App to read Latest Hindi News Today


facebook challenge to remove Offensive content

from Dainik Bhaskar
http://bit.ly/2JSRlhh

Add a Comment

Your email address will not be published. Required fields are marked *

Skip to toolbar