नॅशव्हिलमध्ये, तीन किशोरवयीन मुलांनी एलोन मस्कच्या xAI वर खटला दाखल केला आणि आरोप केला की त्याच्या AI साधनांमुळे त्यांचे वास्तविक फोटो वापरून स्पष्ट डीपफेक प्रतिमा तयार करणे शक्य झाले. क्लास-ॲक्शन केस एआयचा गैरवापर, मुलांचे शोषण आणि पीडितांना होणारी मानसिक हानी यांच्या जोखमीवर प्रकाश टाकते
प्रकाशित तारीख – 20 मार्च 2026, सकाळी 10:29
नॅशविले: टेनेसीमधील तीन किशोरवयीन मुलांनी या आठवड्यात एलोन मस्कच्या xAI वर खटला दाखल केला आणि दावा केला की कंपनीच्या इमेज-जनरेशन टूल्सचा वापर त्यांच्या वास्तविक फोटोंना स्पष्टपणे लैंगिक प्रतिमांमध्ये रूपांतरित करण्यासाठी केला गेला होता.
हायस्कूलच्या विद्यार्थ्यांनी, जे टोपणनावाने पुढे जाण्याचा प्रयत्न करीत आहेत, त्यांनी कॅलिफोर्नियामध्ये खटला दाखल केला, जिथे xAI – मस्कची कृत्रिम बुद्धिमत्ता कंपनी – त्याचे मुख्यालय आहे. खटल्यात काय म्हटले आहे ते दर्शवण्यासाठी ते वर्ग-कृती स्थिती शोधत आहेत जे स्वत: सारखे हजारो पीडित आहेत जे एकतर अल्पवयीन आहेत किंवा जेव्हा त्यांच्या लैंगिकरित्या स्पष्ट प्रतिमा तयार केल्या गेल्या तेव्हा ते अल्पवयीन होते.
खटल्यानुसार, जेन डो 1 ला डिसेंबरमध्ये अज्ञातपणे सतर्क करण्यात आले होते की कोणीतरी सोशल मीडिया वेबसाइटवर तिच्या लैंगिक स्पष्ट प्रतिमा वितरित करत आहे.
“यापैकी किमान पाच फायली, एक व्हिडिओ आणि चार प्रतिमा, तिचा खरा चेहरा आणि शरीर सेटिंग्जमध्ये चित्रित केले होते ज्याच्याशी ती परिचित होती, परंतु लैंगिकदृष्ट्या स्पष्ट पोझमध्ये रूपांतरित केली गेली,” खटला म्हणते. ते दावा करते की प्रतिमा वितरित करणाऱ्या व्यक्तीला Doe माहित होते आणि तिचे वास्तविक फोटो लैंगिक अपमानास्पद फोटोंमध्ये बदलण्यासाठी xAI च्या प्रतिमा निर्मिती साधनांचा वापर केला. प्रतिमांपैकी एक घरवापसी फोटोमधून घेण्यात आली होती. दुसरे हायस्कूलच्या वार्षिक पुस्तकातून घेतले होते.
प्रतिमा वितरीत करणाऱ्या व्यक्तीने इतर किमान 18 मुलींच्या सुस्पष्ट प्रतिमा देखील तयार केल्या आहेत, त्यापैकी दोन खटल्यातील सह-वादी आहेत. डिसेंबरच्या अखेरीस, स्थानिक पोलिसांनी गुन्हेगाराला अटक केली आणि त्याचा फोन जप्त केला. त्यांना आढळले की त्याने अनेक प्लॅटफॉर्मवर प्रतिमा अपलोड केल्या आहेत जिथे त्याने इतर अल्पवयीन मुलांच्या लैंगिक स्पष्ट प्रतिमांसाठी त्यांचा व्यापार केला.
इतर एआय कंपन्यांनी त्यांच्या इमेज-जनरेटर्सना, अगदी प्रौढांसाठीही लैंगिकदृष्ट्या सुस्पष्ट सामग्री तयार करण्यास मनाई केली आहे. मस्कने याला व्यवसायाची संधी म्हणून पाहिले आणि “मसालेदार” सामग्री तयार करण्यासाठी xAI च्या Grok चॅटबॉटच्या क्षमतेला प्रोत्साहन दिले, असा दावा दावा केला आहे. तथापि, सध्या प्रौढांच्या सुस्पष्ट प्रतिमांची निर्मिती रोखण्याचा कोणताही मार्ग नाही आणि मुलांच्या प्रतिमा तयार करणे पूर्णपणे अवरोधित केले आहे, असा दावा खटल्यात केला आहे. हे असेही दावा करते की xAI हे माहित होते की Grok मुलांच्या लैंगिकरित्या स्पष्ट प्रतिमा तयार करण्यास सक्षम असेल परंतु तरीही त्यांनी ते जारी केले.
फिर्यादींच्या प्रतिमा वितरीत करणाऱ्या व्यक्तीने xAI तंत्रज्ञानाचा परवाना देणारा ॲप्लिकेशन वापरला किंवा “अन्यथा Grok वर त्याचा प्रवेश विकत घेतला आणि कट-आउट किंवा मध्यस्थ म्हणून वापरला गेला” असा दावा खटला आहे. XAI ने टिप्पणी मागणाऱ्या ईमेलला प्रतिसाद दिला नाही. परंतु सोशल मीडिया प्लॅटफॉर्म X वरील विवादाबद्दल 14 जानेवारीच्या पोस्टमध्ये म्हटले आहे: “आम्ही प्रत्येकासाठी X ला सुरक्षित प्लॅटफॉर्म बनवण्यासाठी वचनबद्ध आहोत आणि कोणत्याही प्रकारचे बाल लैंगिक शोषण, असहमती नग्नता आणि अवांछित लैंगिक सामग्रीसाठी शून्य सहनशीलता सुरू ठेवू.
“आम्ही आमच्या X नियमांचे उल्लंघन करणाऱ्या खात्यांविरुद्ध योग्य कारवाई करून, बाल लैंगिक शोषण सामग्री (CSAM) आणि गैर-सहमत नग्नतेसह उच्च-प्राधान्य उल्लंघनात्मक सामग्री काढून टाकण्यासाठी कारवाई करतो. आम्ही कायद्याची अंमलबजावणी करणाऱ्या अधिकाऱ्यांना आवश्यकतेनुसार बाल लैंगिक शोषण सामग्री शोधणाऱ्या खात्यांचा अहवाल देखील देतो.”
दरम्यान, खटल्यातील विद्यार्थ्यांनी सांगितले की, त्यांना काळजी वाटते की त्यांनी तयार केलेल्या प्रतिमा इंटरनेटवर कायम राहतील. त्यांना पाठलाग होण्याची भीती वाटते कारण त्यांचे खरे नाव आणि त्यांच्या शाळेचे नाव फाईल्समध्ये जोडलेले आहे. त्यांना काळजी वाटते की त्यांच्या मित्रांनी आणि वर्गमित्रांनी फोटो आणि व्हिडिओ पाहिले आहेत, जे खरे आहेत आणि भविष्यात ते कोण पाहतील याची त्यांना चिंता आहे.
जेन डो 1 म्हणाली की तिला चिंता, नैराश्य, तणाव आहे. “तिला खाणे आणि झोपायला त्रास होतो आणि वारंवार भयानक स्वप्ने पडतात,” असे खटल्यात म्हटले आहे. जेन डो 2 ने “स्वतःला अलग ठेवण्यास सुरुवात केली आहे आणि तिच्या शाळेच्या कॅम्पसमध्ये जाणे टाळले आहे आणि तिला स्वतःच्या पदवीपर्यंत जाण्याची भीती वाटते.” जेन डो 3 ला सतत भीती आणि चिंतेने ग्रासले आहे की कोणीतरी AI-व्युत्पन्न प्रतिमा पाहील आणि तिचा चेहरा ओळखेल, खटल्यानुसार.
