जब से OpenAI का ChatGPT आया है तब से ये एआई टूल काफी चर्चा में है और पिछले कुछ महीनों से तो Ghibli ट्रेंड की वजह से चैटजीपीटी ने खूब सुर्खियों बटोरी. दुनियाभर में लोग इस एआई टूल को इस्तेमाल कर रहे हैं लेकिन क्या चैटजीपीटी हमेशा आपको सही जानकारी देता है, क्या आपने कभी इस सवाल का जवाब सोचा है? हाल ही में कंपनी के सीईओ Sam Altman ने चैटजीपीटी का इस्तेमाल करने वाले यूजर्स को एक जरूरी सलाह दी है.
सैम ऑल्टमैन की यूजर्स को दी सलाह ने हर तरफ हलचल मच गई है. ओपनएआई के आधिकारिक पॉडकास्ट के पहले एपिसोड में बोलते हुए, ऑल्टमैन ने चैटजीपीटी में यूजर्स के विश्वास के आश्चर्यजनक स्तर को स्वीकार किया. उन्होंने कहा कि लोगों को चैटजीपीटी पर बहुत अधिक भरोसा है, जो दिलचस्प है, क्योंकि एआई भ्रम पैदा करता है. ये ऐसी तकनीक है जिस पर आपको इतना भरोसा नहीं करना चाहिए.
बहुत से लोग चैटजीपीटी का इस्तेमाल लिखने, रिसर्च करने और कई तरह की सलाह के लिए करते हैं, लेकिन सैम ऑल्टमैन की इस बात ने कई तरह के सवाल खड़े कर दिए हैं. सैम ऑल्टमैन का यूजर्स को दिया मैसेज क्लियर है कि चैटजीपीटी सभी बड़े लैंग्वेज मॉडल्स की तरह विश्वसनीय लेकिन झूठे या भ्रामक दावे कर सकता है, इसलिए इसका इस्तेमाल सावधानी से किया जाना चाहिए.
AI पैदा कर रहा भ्रम?चैटजीपीटी डेटा में पैटर्न के आधार पर वाक्य में अगले शब्द की भविष्यवाणी करके काम करता है जिस पर इसे ट्रेन किया गया है. ये दुनिया को मानवीय अर्थों में नहीं समझता है और कभी-कभी गलत या पूरी तरह से मनगढ़ंत जानकारी दे सकता है, एआई की दुनिया में, इसे “भ्रम” कहा जाता है.
भरोसा करें, लेकिन पहले करें ये कामसैम ऑल्टमैन और एआई के गॉडफादर कहे जाने वाले Geoffrey Hinton को भी लगता है कि एआई बेशक उपयोगी हो सकता है कि लेकिन इस पर आंख बंद करके भरोसा नहीं किया जाना चाहिए. जैसे-जैसे एआई हमारे डेली लाइफ में शामिल होता जा रहा है, ऐसे में ये सावधानी इस बात पर जोर देती है कि ‘भरोसा करें मगर पहले वेरिफाई करें’.
