Grok Offensive Images Ban: आर्टिफिशियल इंटेलिजेंस (AI) की रेस में एलन मस्क का ‘Grok’ लॉन्च होते ही चर्चा में आ गया था।
लेकिन अपनी बेबाकी और बिना सेंसर वाले जवाबों के लिए मशहूर Grok अश्लील कंटेंट को लेकर पिछले कुछ समय से विवादों में है।
जिसके बाद अश्लील कंटेंट और डीपफेक तस्वीरों के बढ़ते खतरों को देखते हुए Grok के नियमों में बड़े बदलाव किए गए हैं।
भारत समेत दुनिया भर की सरकारों की सख्ती के बाद, मस्क की कंपनी xAI को अपने घुटने टेकने पड़े हैं।
भारत सरकार की सख्ती
विवाद की शुरुआत तब हुई जब Grok AI का इस्तेमाल कर महिलाओं की आपत्तिजनक और रिवीलिंग तस्वीरें (जैसे बिकिनी या स्विमवेयर में) बनाने के मामले सामने आए।
भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने इसे गंभीरता से लेते हुए 2 जनवरी को X प्लेटफॉर्म को कड़ा अल्टीमेटम दिया था।
Grok का नया पॉलिसी चेंज
सरकार के रुख को देखते हुए X ने न केवल अपनी गलती मानी, बल्कि बड़े स्तर पर नियमों में बदलाव किया है।
Grok ने साफ कर दिया है कि वह महिलाओं की बिकिनी, स्विमवेयर या किसी भी तरह की सेक्सुअल पोज वाली इमेज जनरेट नहीं करेगा।
Grok अब ऐसी किसी भी रिक्वेस्ट को सीधे रिजेक्ट कर रहा है, जिसमें महिलाओं को बिकिनी, स्विमवेयर या रिवीलिंग कपड़ों में दिखाने की मांग की जाती है।
यूजर को जवाब में साफ शब्दों में कहा जा रहा है कि इस तरह की इमेज जनरेट करना संभव नहीं है।
कई मामलों में Grok यह भी बता रहा है कि किसी असली व्यक्ति या उनसे मिलती-जुलती तस्वीर को इस तरह दिखाना बिना सहमति की इमेज मैनिपुलेशन माना जाता है।
🚨 BREAKING: India asks X to urgently review and take action against Grok AI after reports of misuse to generate sexually explicit content. pic.twitter.com/LCIu8c4NR3
— Beats in Brief 🗞️ (@beatsinbrief) January 2, 2026
600 से अधिक अकाउंट्स डिलीट
सूत्रों के अनुसार, अब तक लगभग 3,500 आपत्तिजनक पोस्ट्स को ब्लॉक किया गया है।
साथ ही उन 600 से अधिक अकाउंट्स को हमेशा के लिए डिलीट कर दिया गया है जो इस तरह का कंटेंट फैला रहे थे।
कंपनी ने स्पष्ट किया है कि वह भारतीय आईटी कानूनों का पूरी तरह पालन करेगी।
ब्रिटेन से लेकर इंडोनेशिया तक घेराबंदी
सिर्फ भारत ही नहीं, बल्कि अंतरराष्ट्रीय स्तर पर भी Grok को भारी विरोध का सामना करना पड़ रहा है।
ब्रिटेन के प्रधानमंत्री सर कीयर स्टारमर ने संसद में चेतावनी दी थी कि अगर X खुद को रेगुलेट नहीं करता, तो सरकार कड़े कदम उठाएगी।
इसी का परिणाम है कि अब Grok विशेष रूप से महिलाओं से जुड़ी ‘सेंसिटिव’ इमेज रिक्वेस्ट को सीधे रिजेक्ट कर रहा है।
इंडोनेशिया ने तो एक कदम आगे बढ़ते हुए 10 जनवरी को इस चैटबॉट पर अस्थायी प्रतिबंध लगा दिया।
वहीं, अमेरिका में भी गूगल और एप्पल को पत्र लिखकर X ऐप को स्टोर से हटाने की मांग की गई है।
डबल स्टैंडर्ड का आरोप: क्या अब भी है लूपहोल?
भले ही Grok ने महिलाओं की रिवीलिंग फोटो बनाने पर रोक लगा दी है, लेकिन सोशल मीडिया पर ‘डबल स्टैंडर्ड’ के आरोप लग रहे हैं।
रिपोर्ट्स के अनुसार, AI महिलाओं की फोटो बनाने से तो मना कर रहा है, लेकिन पुरुषों या निर्जीव वस्तुओं को उसी स्थिति में दिखाने पर कोई रोक नहीं लगा रहा है।
आलोचकों का कहना है कि यह सुरक्षा का अधूरा पैमाना है।
सुरक्षा के लिए ‘पेवॉल’ और प्रीमियम एक्सेस
मिसयूज रोकने के लिए एलन मस्क ने अब Grok की इमेज और वीडियो बनाने की सुविधा को सिर्फ ‘प्रीमियम सब्सक्राइबर्स’ तक सीमित कर दिया है।
कंपनी का मानना है कि ‘पेवॉल’ (भुगतान) के पीछे इन फीचर्स को रखने से जवाबदेही तय होगी।
हालांकि, रेगुलेटर्स का मानना है कि यह समस्या का समाधान नहीं है, क्योंकि पैसे देकर भी गलत कंटेंट बनाया जा सकता है।
खुलेगा एल्गोरिदम का राज
इन तमाम विवादों के बीच एलन मस्क ने एक और बड़ी घोषणा की है।
उन्होंने कहा है कि अगले सात दिनों में X का पूरा ‘एल्गोरिदम’ सार्वजनिक कर दिया जाएगा।
इसका मतलब है कि अब आम लोग और डेवलपर्स देख पाएंगे कि X पर कंटेंट कैसे प्रमोट होता है और विज्ञापन कैसे काम करते हैं।
मस्क का लक्ष्य X को सबसे पारदर्शी और विश्वसनीय प्लेटफॉर्म बनाना है।
निवेशकों का भरोसा बरकरार
विवादों के बावजूद, एलन मस्क की कंपनी xAI ने हाल ही में 20 अरब डॉलर की भारी-भरकम फंडिंग जुटाई है।
इसमें एनवीडिया और कतर इन्वेस्टमेंट अथॉरिटी जैसे दिग्गज शामिल हैं।
इस फंड का इस्तेमाल एनवीडिया के शक्तिशाली प्रोसेसर खरीदने और Grok को अधिक सुरक्षित एवं ‘स्मार्ट’ बनाने में किया जाएगा।
Grok AI पर की गई यह कार्रवाई संकेत है कि अब तकनीकी कंपनियां अपनी मनमानी नहीं कर सकेंगी।
सरकारों की सख्ती और कड़े नियमों के बीच एआई को अब सुरक्षा और नैतिकता के दायरे में रहकर ही काम करना होगा।
