क्लॉडएआय: डेटिंग ॲपवर कोणालातरी भेटा, समोरची व्यक्ती तुमच्या आवडी-निवडी विचारते, रोजचे संभाषण सुरू होते आणि हळू हळू हृदय ते हृदय सुरू होते… पण ती व्यक्ती प्रत्यक्षात माणूस नसेल तर?
एआय कंपनी अँथ्रोपिकने चीनमधून अशाच एका मोठ्या नेटवर्कचा पर्दाफाश केला आहे. कंपनीच्या म्हणण्यानुसार, चीनमधील एका ॲप स्टुडिओने क्लॉड एआयच्या मदतीने 20 हून अधिक डेटिंग ॲप तयार केले आणि 4,700 हून अधिक बनावट प्रोफाइल तयार केले. अँथ्रोपिकने सांगितले की, त्याच्या एआय मॉडेल 'क्लॉड'चा गैरवापर करून हजारो बनावट डेटिंग प्रोफाइल चालवले जात आहेत.
अहवालानुसार, क्लॉडला डेटिंग ॲप्स विकसित करण्यासाठी नियुक्त करण्यात आले होते आणि नंतर क्लॉड स्वतः हजारो बनावट प्रोफाइलच्या मागे काम करत होता. एप्रिलमध्ये फक्त 2 आठवड्यांच्या कालावधीत, अँथ्रोपिकने 25,000 हून अधिक लोकांशी संवाद साधलेल्या अशा 4,700 हून अधिक AI प्रोफाइल कॅप्चर केले.
या कालावधीत AI द्वारे सुमारे 23.6 लाख संदेश पाठवले गेले. एवढ्या मोठ्या संख्येच्या संदेशांवरून, या नेटवर्कमध्ये क्लॉडची भूमिका किती मोठी होती याचा अंदाज लावता येतो. म्हणजेच, स्कॅमर प्रत्येक वापरकर्त्याशी वैयक्तिकरित्या बोलत नव्हते, परंतु क्लॉड हजारो भिन्न वर्णांच्या रूपात एकाच वेळी अविरतपणे लोकांशी गप्पा मारत होते.
या घोटाळ्यासाठी AI विशेषत: निर्देशित केले होते.
ओळख लपवणे: क्लॉडला कठोरपणे सूचना देण्यात आली होती की तो एआय किंवा स्वयंचलित प्रणाली आहे हे कधीही उघड करू नका.
फोटो किंवा व्हिडिओ कॉल टाळणे: जर एखाद्या वापरकर्त्याने वास्तविक फोटो किंवा व्हिडिओ कॉलसाठी विचारले तर, सिस्टमला परत बोलण्यासाठी प्रशिक्षित करण्यात आले होते (बहाणे करा).
म्हणजेच क्लॉडचा वापर सामान्य चॅटबॉट म्हणून नव्हे, तर लोकांना फसवण्यासाठी बनावट 'डेटिंग पार्टनर'ची भूमिका बजावण्यासाठी केला गेला.
क्लॉड ही डेटिंग ॲप्स चालवणारी एकमेव एआय मॉडेल नव्हती. बनावट प्रोफाइल तयार करून संभाषण चालू ठेवणे हे क्लॉडचे मुख्य काम होते. इतर प्रणालींनी फोटो आणि आवाज सत्यापित केले आणि चेहर्याचे आकर्षण रेट केले.
प्रतिमा संपादन मॉडेलद्वारे प्रोफाइल फोटो तयार केले गेले. ॲपच्या संपूर्ण हालचालींवर लक्ष ठेवण्यासाठी काही कर्मचारीही तैनात करण्यात आले होते. जर अशी परिस्थिती उद्भवली की यंत्रणा अडकली, तर क्लॉडने 3 संभाव्य उपाय तयार केले आणि ते त्याच कर्मचाऱ्यांकडे पाठवले.
या संपूर्ण प्रणालीच्या मागे एक विशिष्ट कमाई मॉडेल होते:
चॅटसाठी नाणी: जेव्हा वापरकर्ता संदेश पाठवतो किंवा त्यांच्या जुळणीसह संभाषण पुढे करतो तेव्हा त्यांचा निश्चित संदेश कोटा कमी होतो. ते पुन्हा भरण्यासाठी, वापरकर्त्याला ॲपची नाणी खरेदी करावी लागतील.
अधिक चॅट्स, अधिक कमाई: एआय वापरकर्त्याला जितका जास्त वेळ संभाषणात गुंतवून ठेवेल तितकी कंपनीची कमाईची क्षमता जास्त असेल.
काही वापरकर्त्यांनी गंभीर आजार किंवा अत्यंत वाईट मानसिक स्थिती यासारख्या वैयक्तिक कथा देखील शेअर केल्या. असे असूनही, क्लॉडने त्याचे बनावट पात्र साकारणे सुरूच ठेवले आणि गप्पा मारणे सुरूच ठेवले.
यातील काही संवेदनशील संभाषणे क्लॉडने त्याच्या अंतर्गत विश्लेषणादरम्यान पकडली होती. त्यानंतर या सिंडिकेटच्या सर्व संशयास्पद हालचालींवर पाळत ठेवण्यात आली आणि संपूर्ण नेटवर्कचा पर्दाफाश करण्यात आला.
या ॲप्सना ॲप स्टोअर किंवा Google Play Store द्वारे शोधले जाण्यापासून संरक्षण करण्यासाठी विशेष युक्त्या देखील अवलंबल्या गेल्या:
फसवणूक करणारा इंटरफेस: ॲप एका इंटरफेससह डिझाइन केले होते जे केवळ स्टोअरच्या पुनरावलोकनादरम्यान सक्रिय केले गेले होते.
पेमेंट पर्याय लपवा: ॲप अशा प्रकारे डिझाइन केले होते की बाह्य वेबसाइटवरून पैसे गोळा करण्याचा पर्याय तपासादरम्यान लपविला जाऊ शकतो आणि स्टोअरच्या मंजुरीनंतर पुन्हा सक्षम केला जाऊ शकतो.
अँथ्रोपिकने या संपूर्ण ऑपरेशनशी संबंधित सर्व खाती आणि संस्थांवर बंदी घालण्याची पुष्टी केली आहे.
डोरा (डोरा)
डोनी
रोमी
लुमा
बृहस्पति
किरा
ग्रेसचॅट
स्वर्ग
तसेच
वाडगा
