एलन मस्क का ग्रोक चैटबॉट बच्चों और किशोरों के लिए असुरक्षित: अध्ययन

एलन मस्क का ग्रोक चैटबॉट बच्चों और किशोरों के लिए असुरक्षित: अध्ययन

अमेरिका की गैर-लाभकारी संस्था कॉमन सेंस मीडिया ने 27 जनवरी को एक रिपोर्ट जारी की, जिसमें एक्स एआई द्वारा विकसित ग्रोक चैटबॉट को बच्चों और किशोरों के लिए “असुरक्षित” बताया गया है। इस रिपोर्ट में तकनीक की सुरक्षा प्रणालियों में कमियां, आयु सत्यापन की अपर्याप्त व्यवस्था और अनुचित सामग्री के निर्माण की संभावनाओं को उजागर किया गया है, जो कम उम्र के उपयोगकर्ताओं के मानसिक और नैतिक विकास के लिए गंभीर खतरा पैदा करती हैं।

रिपोर्ट के अनुसार, ग्रोक में 18 वर्ष से कम आयु के उपयोगकर्ताओं की पहचान करने की प्रभावी व्यवस्था मौजूद नहीं है, जिससे बच्चे और किशोर आसानी से वयस्कों के लिए बनी सामग्री तक पहुंच सकते हैं। इसमें “किड्स मोड” नामक सुविधा जरूर है, लेकिन इसे अपर्याप्त बताया गया है। रिपोर्ट में कहा गया है कि ग्रोक ऐसे हालात उत्पन्न कर सकता है, जिनमें यौन हिंसा, हिंसक भाषा या अन्य अनुचित सामग्री बिना प्रभावी नियंत्रण के तैयार हो जाती है।

कॉमन सेंस मीडिया की वरिष्ठ विश्लेषक वेबी टॉर्नी ने कहा,
“हमने कई एआई चैटबॉट्स की समीक्षा की है और सभी में कुछ न कुछ जोखिम हैं, लेकिन ग्रोक में पाई गई कमियां ऐसे रूप में सामने आती हैं, जो विशेष रूप से बच्चों के लिए चिंता का विषय हैं।” रिपोर्ट में ग्रोक के कंपैनियन फीचर्स को भी खतरनाक बताया गया है, जिनके माध्यम से काल्पनिक पात्रों के साथ अनुचित या वयस्क स्तर की बातचीत संभव हो सकती है।

यह चेतावनी ऐसे समय सामने आई है, जब अंतरराष्ट्रीय स्तर पर ग्रोक को लेकर निगरानी और जांच बढ़ रही है। यूरोपीय संघ ने ग्रोक के खिलाफ औपचारिक जांच शुरू की है, जिसमें यह परखा जा रहा है कि क्या एक्स ने अपने कानूनी दायित्वों का पालन किया है और बच्चों व महिलाओं के अधिकारों की रक्षा की है या नहीं। यह जांच यूरोपीय आयोग के तहत डिजिटल सर्विसेज एक्ट के अंतर्गत की जा रही है, जिसके अनुसार ऑनलाइन प्लेटफॉर्मों को ऐसे जोखिमों को रोकना अनिवार्य है, जिनसे गैर-सहमति आधारित यौन या अवैध सामग्री का प्रसार हो सकता है। उल्लंघन की स्थिति में भारी जुर्माने और कड़ी सज़ा का प्रावधान है।

साइबर नीति विशेषज्ञों ने भी इस विषय पर गहरी चिंता व्यक्त की है। उनका कहना है कि ग्रोक जैसी तकनीकें बच्चों के मानसिक और नैतिक विकास के लिए हानिकारक सामग्री उत्पन्न कर सकती हैं, विशेष रूप से तब जब आयु सत्यापन और मजबूत सुरक्षा तंत्र मौजूद न हों। कई देशों ने पहले ही ग्रोक के उपयोग या इसके फीचर्स पर प्रतिबंध लगा दिए हैं या इसकी निगरानी कड़ी कर दी है।

ब्रिटेन के ऑनलाइन सुरक्षा नियामक ऑफकॉम ने भी एक्स के खिलाफ औपचारिक जांच शुरू की है, ताकि यह तय किया जा सके कि कंपनी ने उपयोगकर्ताओं, विशेषकर बच्चों को नुकसान पहुंचाने वाली सामग्री को रोकने के लिए पर्याप्त कदम उठाए हैं या नहीं।

दुनिया के विभिन्न देशों में उपयोगकर्ता, माता-पिता और कानून निर्माता ग्रोक की उन क्षमताओं को लेकर चिंता जता चुके हैं, जो कम उम्र के उपयोगकर्ताओं के लिए खतरनाक साबित हो सकती हैं। इनमें गैर-सहमति आधारित यौन चित्र, डीपफेक सामग्री और एआई चैट में अनुचित संवाद शामिल हैं। कई देशों में ग्रोक के डिजाइन, आयु सत्यापन और सुरक्षा मानकों को लेकर कानूनी और नैतिक बहस जारी है।

एक्स ने कई बार कहा है कि वह अपने सिस्टम में सुरक्षा सुधार कर रहा है और अवैध या खतरनाक सामग्री के निर्माण को रोकने के लिए कदम उठा रहा है, लेकिन आलोचकों का मानना है कि ये प्रयास अपर्याप्त हैं और और अधिक सख्त कानूनों तथा अनिवार्य सुरक्षा मानकों की तत्काल आवश्यकता है।