भारत सरकार ने सोशल मीडिया मंच X Corp (पूर्व में ट्विटर) को कड़ा नोटिस जारी करते हुए उसके आर्टिफिशियल इंटेलिजेंस टूल ‘Grok’ के कथित दुरुपयोग पर गंभीर आपत्ति जताई है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने कहा है कि महिलाओं को निशाना बनाकर आपत्तिजनक और अश्लील कंटेंट तैयार किए जाने की घटनाएं कानून के खिलाफ हैं और प्लेटफॉर्म की जिम्मेदारी पर सवाल खड़े करती हैं।
कानूनी दायित्वों के उल्लंघन का आरोप
Ministry of Electronics and Information Technology (MeitY) की ओर से जारी नोटिस में कहा गया है कि X ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 के तहत निर्धारित ‘ड्यू डिलिजेंस’ यानी सावधानी बरतने के कानूनी दायित्वों का ठीक से पालन नहीं किया। मंत्रालय के अनुसार, Grok के जरिए ऐसे सिंथेटिक फोटो और वीडियो बनाए जा रहे हैं जो महिलाओं की गरिमा और निजता को ठेस पहुंचाते हैं।
मंत्रालय ने कहा कि इस तरह की गतिविधियां डिजिटल स्पेस में यौन उत्पीड़न को सामान्य बनाती हैं, जो कानून की भावना के खिलाफ है।
72 घंटे में ‘एक्शन टेकन रिपोर्ट’ मांगी
सरकार ने X को 72 घंटे के भीतर एक्शन टेकन रिपोर्ट (ATR) सौंपने का निर्देश दिया है। इस रिपोर्ट में कंपनी को बताना होगा कि:
• Grok के दुरुपयोग को रोकने के लिए अब तक क्या तकनीकी और प्रशासनिक कदम उठाए गए
• भारत में नियुक्त मुख्य अनुपालन अधिकारी की भूमिका क्या रही
• आपत्तिजनक कंटेंट, अकाउंट्स और यूज़र्स के खिलाफ क्या कार्रवाई की गई
• भारतीय नगरिक सुरक्षा संहिता (BNSS), 2023 के तहत रिपोर्टिंग दायित्वों का पालन कैसे किया जा रहा है
नोटिस में यह भी स्पष्ट किया गया है कि आपत्तिजनक सामग्री को तुरंत हटाया जाए, लेकिन सबूतों से किसी तरह की छेड़छाड़ न हो।
Grok के सेफ्टी सिस्टम की समीक्षा का आदेश
MeitY ने X को निर्देश दिया है कि वह Grok के तकनीकी और गवर्नेंस ढांचे की व्यापक समीक्षा करे। इसमें यह सुनिश्चित किया जाए कि AI सिस्टम किसी भी तरह से नग्नता, यौनिकरण या अवैध कंटेंट को न तो बनाए और न ही बढ़ावा दे।
मंत्रालय ने यह भी कहा कि नियमों का उल्लंघन करने वाले यूज़र्स पर सख्त कार्रवाई होनी चाहिए, जिसमें अकाउंट सस्पेंशन और टर्मिनेशन जैसे कदम शामिल हों।
कानूनी संरक्षण खत्म होने की चेतावनी
सरकार ने साफ शब्दों में चेतावनी दी है कि यदि X ने निर्देशों का पालन नहीं किया तो उसे ITअधिनियम की धारा 79 के तहत मिलने वाला ‘सेफ हार्बर’ संरक्षण खोना पड़ सकता है। इसका मतलब होगा कि प्लेटफॉर्म को थर्ड पार्टी कंटेंट के लिए भी कानूनी जिम्मेदारी उठानी पड़ सकती है।
इसके अलावा, कंपनी के खिलाफ भारतीय न्याय संहिता, महिलाओं के अशोभनीय प्रतिनिधित्व अधिनियम और पॉक्सो अधिनियम जैसे कानूनों के तहत भी कार्रवाई की जा सकती है।
महिलाओं की सुरक्षा को लेकर राजनीतिक चिंता
यह मामला तब और गंभीर हुआ जब शिवसेना (यूबीटी) की सांसद Priyanka Chaturvedi ने केंद्रीय आईटी मंत्री Ashwini Vaishnaw को पत्र लिखकर इस मुद्दे को उठाया। उन्होंने बताया कि सोशल मीडिया पर फर्जी अकाउंट्स के जरिए महिलाओं की तस्वीरों को Grok की मदद से आपत्तिजनक रूप में बदला जा रहा है।
उन्होंने इसे “AI का घोर दुरुपयोग” बताते हुए कहा कि ऐसी तकनीक में सख्त सुरक्षा उपाय अनिवार्य हैं।
अन्य एजेंसियों को भी भेजी गई सूचना
सरकार ने इस नोटिस की प्रतियां अन्य संबंधित मंत्रालयों, आयोगों और राज्य प्राधिकरणों को भी भेजी हैं। इससे संकेत मिलता है कि AI के जरिए फैलाए जा रहे अश्लील कंटेंट पर अब समन्वित कार्रवाई की तैयारी है।
फिलहाल, X को निर्धारित समय सीमा के भीतर सरकार को जवाब देना है और यह दिखाना है कि वह भारतीय कानूनों के अनुरूप अपने AI सिस्टम को नियंत्रित करने के लिए क्या ठोस कदम उठा रहा है।
