फेसबुक और इंस्टाग्राम ने मोटी कमाई के लिए भारत में नफरती विज्ञापन प्रसारित किए: द गार्डियन

फेसबुक और इंस्टाग्राम ने मोटी कमाई के लिए भारत में नफरती विज्ञापन प्रसारित किए: द गार्डियन

आम चुनाव में सोशल मीडिया मंचों के दुरुपयोग की आशंकाएं सच साबित हुईं। फेसबुक और इंस्टाग्राम जैसे सोशल मीडिया प्लेटफॉर्म को संचालित करने वाली कंपनी मेटा (Meta) चुनावी दुष्प्रचार, नफरत भरे भाषण और हिंसा को बढ़ावा देने वाले एआइ (AI) जनरेटेड फोटो वाले विज्ञापनों का पता लगाने और उन्हें ब्लॉक करने में विफल रही है। इससे उसे मोटी कमाई हुई। इंडिया सिविल वॉच के सहयोग से कॉरपोरेट जवाबदेही समूह ‘एको’ के हाल में किए एक अध्ययन में इस तथ्य का खुलासा किया गया है। अध्ययन के ये चौंकाने वाले निष्कर्ष ऐसे समय सामने आए हैं जब देश में आम चुनाव चल रहा है।

ब्रिटेन के प्रसिद्ध अख़बार द गार्डियन की रिपोर्ट में यह दावा किया गया है। अंग्रेजी अख़बार ने कहा है कि इसको इसकी रिपोर्ट मिली है कि हिंसा भड़काने वाले और ग़लत सूचना पर आधारित ऐसे विज्ञापनों को प्रकाशित करने के लिए मेटा ने मंजूरी दे दी थी। रिपोर्ट के अनुसार फ़ेसबुक ने भारत में मुसलमानों के प्रति प्रचलित अपशब्दों- ‘इस कीड़े-मकोड़े को जला दो’ और ‘हिंदुओं का खून बह रहा है, इन आक्रमणकारियों को जला दो’ वाले विज्ञापनों को मंजूरी दे दी थी। इसके साथ ही हिंदू वर्चस्ववादी भाषा और राजनीतिक नेताओं के बारे में दुष्प्रचार को भी मंजूरी दे दी गई।

एक ऐसे विज्ञापन को भी मंजूरी दी गई जिसमें पाकिस्तान के झंडे की तस्वीर के बगल में एक विपक्षी नेता को फाँसी देने का आह्वान किया गया। इसमें झूठा दावा किया गया कि वे ‘भारत से हिंदुओं को मिटाना’ चाहते थे। हालाँकि इन विज्ञापनों को प्रकाशित किए जाने से पहले ही उन्होंने हटवा लिया जिन्होंने यह रिपोर्ट तैयार करने के लिए ऐसे विज्ञापन दिए थे।

एक विज्ञापन गृहमंत्री के वीडियो से छेड़छाड़ कर बनाया गया, जिसमें दलितों के लिए बनाई गई नीतियों को हटाने की धमकी दी गई थी। इसके कारण विपक्षी नेताओं को नोटिस दिया गया और गिरफ्तारियां हुईं। ऐसे हर विज्ञापन में एआइ टूल का इस्तेमाल कर फोटो गढ़े गए। इससे यह पता चलता है कि हानिकारक कंटेंट को बढ़ाने में इस नई तकनीक का कैसे जल्द और आसानी से इस्तेमाल किया जा सकता है।

इन विज्ञापनों को इंडिया सिविल वॉच इंटरनेशनल यानी आईसीडब्ल्यूआई और एक कॉर्पोरेट जवाबदेही संगठन ईको द्वारा तैयार किया गया और मेटा की विज्ञापन लाइब्रेरी – फेसबुक और इंस्टाग्राम पर सभी विज्ञापनों का डेटाबेस में सबमिट किया गया था। ये संगठन मेटा की पड़ताल करना चाहते थे कि वह भारत के चुनाव के दौरान भड़काऊ या हानिकारक भाषणों पर किस तरह का प्रतिबंध लगाने में सक्षम है। रिपोर्ट के अनुसार, ये सभी विज्ञापन भारत में प्रचलित वास्तविक घृणा भाषण और दुष्प्रचार के आधार पर बनाए गए थे।

द गार्डियन की रिपोर्ट में कहा गया है कि मेटा का सिस्टम यह पता लगाने में विफल रहा कि सभी मंजूर विज्ञापनों में एआई द्वारा हेरफेर की गई तस्वीरें थीं। ऐसा तब है जब कंपनी ने कहा था कि एआई से तैयार तस्वीरों को रोका जाएगा। नफरत फैलाने वाले भाषण और हिंसा पर मेटा की कम्युनिटी स्टैंडर्ड पॉलिसी को तोड़ने के लिए पांच विज्ञापनों को खारिज कर दिया गया, जिसमें जिसमे पीएम मोदी के बारे में गलत जानकारी वाला विज्ञापन भी शामिल था। लेकिन जिन 14 को मंजूरी दी गई थी, उन्होंने बड़े पैमाने पर मुसलमानों को निशाना बनाया गया था।

चुनाव से पहले मेटा ने वादा किया था कि वह ‘गलत सूचना फैलाने के लिए एआइ-जनित सामग्री के दुरुपयोग को रोकेगी और ऐसे कंटेंट का पता लगाने और हटाने को प्राथमिकता देगी। हालांकि, प्रणालीगत विफलताओं के पर्याप्त सबूतों के बावजूद मेटा पर्याप्त सुधारात्मक उपायों को लागू करने में विफल रहा है।