xAI ने Grok के कथित दुरुपयोग के खिलाफ मुकदमा दायर किया

Saturday 18 July 2026 - 13:00

xAI, जो Elon Musk द्वारा स्थापित एक कृत्रिम बुद्धिमत्ता कंपनी है, ने एक उपयोगकर्ता के खिलाफ एक संघीय मुकदमा दायर किया है जिसे इसके एआई चैटबॉट Grok का उपयोग करके अवैध बाल यौन शोषण सामग्री और गैर-सहमति वाले स्पष्ट डीपफेक सामग्री उत्पन्न करने का आरोप लगाया गया है।

एक अमेरिकी संघीय अदालत में दायर कानूनी शिकायत के अनुसार, कंपनी का आरोप है कि प्रतिवादी ने अपनी सेवा की शर्तों का उल्लंघन किया है, साधारण छवियों को अपलोड करके और Grok का उपयोग करके नाबालिगों और वयस्कों से संबंधित यौन स्पष्ट सामग्री बनाने का प्रयास किया। व्यक्ति को पहले बाल शोषण से संबंधित अलग-अलग आपराधिक आरोपों में गिरफ्तार किया गया था।

यह मुकदमा उन पहले मामलों में से एक माना जाता है जहां एक एआई विकासकर्ता ने कथित तौर पर अवैध सामग्री बनाने के लिए एक जनरेटिव एआई प्लेटफ़ॉर्म का हथियार बनाने के लिए उपयोगकर्ता के खिलाफ सीधे कानूनी कार्रवाई की है। xAI का तर्क है कि ऐसे कार्य न केवल इसकी नीतियों का उल्लंघन करते हैं, बल्कि पीड़ितों को गंभीर नुकसान भी पहुंचाते हैं और कंपनी को महत्वपूर्ण कानूनी और प्रतिष्ठात्मक जोखिमों के अधीन करते हैं।

कंपनी ने कहा कि वह अपनी तकनीक के दुरुपयोग की सक्रिय रूप से निगरानी करती है और कड़े सुरक्षा उपाय लागू करती है। जो खाते उसकी नीतियों का उल्लंघन करते पाए जाते हैं, उन्हें निलंबित या स्थायी रूप से प्रतिबंधित किया जा सकता है, जबकि संदिग्ध बाल शोषण सामग्री को National Center for Missing & Exploited Children (NCMEC) और संबंधित कानून प्रवर्तन प्राधिकरणों को अमेरिकी कानून के अनुसार रिपोर्ट किया जाता है।

यह मुकदमा वित्तीय हर्जाने और प्रतिवादी को भविष्य में Grok तक पहुंचने या उसका उपयोग करने से रोकने के लिए एक स्थायी अदालत के आदेश की मांग करता है।

यह मामला ऐसे समय में आया है जब दुनिया भर की एआई कंपनियों पर नियामकों और नीति निर्माताओं द्वारा जनरेटिव एआई उपकरणों के दुरुपयोग के खिलाफ सुरक्षा को मजबूत करने के लिए बढ़ता दबाव है। चित्र और वीडियो उत्पादन में प्रगति ने डीपफेक, ऑनलाइन दुरुपयोग, पहचान के दुरुपयोग, और अन्य प्रकार की हानिकारक सामग्री के निर्माण के बारे में चिंताएँ बढ़ा दी हैं।

प्रमुख एआई विकासकर्ता सामग्री मॉडरेशन सिस्टम, उपयोगकर्ता सत्यापन उपायों, और अवैध गतिविधियों का पता लगाने और रोकने के लिए डिज़ाइन किए गए सुरक्षा नियंत्रणों में निवेश करना जारी रखे हुए हैं। उद्योग के विशेषज्ञों का तर्क है कि तकनीकी सुरक्षा उपाय, कानूनी प्रवर्तन और अंतर्राष्ट्रीय सहयोग के साथ मिलकर, जनरेटिव एआई के अधिक व्यापक रूप से उपलब्ध होने के साथ एक महत्वपूर्ण भूमिका निभाएंगे।

यह मुकदमा एआई कंपनियों द्वारा अपने प्लेटफार्मों के कथित आपराधिक दुरुपयोग के लिए उपयोगकर्ताओं को जिम्मेदार ठहराने के बढ़ते प्रयासों को उजागर करता है जबकि कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों के जिम्मेदार और नैतिक विकास के प्रति प्रतिबद्धताओं को मजबूत करता है।