OpenAI ने ChatGPT के कंज्यूमर प्लान्स में एक नया age prediction मॉडल रोलआउट करना शुरू कर दिया है. इसका मकसद 18 साल से कम उम्र के यूजर्स की पहचान कर उन्हें ज्यादा सुरक्षित अनुभव देना है. कंपनी का कहना है कि यह सिस्टम अकाउंट और यूजर बिहेवियर से जुड़े कई संकेतों के आधार पर काम करता है. उम्र कम पाए जाने पर ChatGPT अपने आप कुछ कंटेंट पर लिमिट लगा देगा. OpenAI इसे बच्चों और किशोरों की सुरक्षा के लिए बड़ा कदम बता रहा है.
OpenAI के मुताबिक यह मॉडल किसी एक जानकारी पर निर्भर नहीं करता. यह अकाउंट कितने समय से एक्टिव है, यूजर दिन में किस समय ज्यादा एक्टिव रहता है, इस्तेमाल का पैटर्न कैसा है और यूजर ने खुद जो उम्र बताई है, इन सब संकेतों को मिलाकर अनुमान लगाता है. और उस आधार पर कंटेंट को लिमिटेड करता है. कंपनी का कहना है कि यह तरीका ज्यादा सटीक और बैलेंस्ड है. इसका मकसद किसी की सही उम्र जानना नहीं, बल्कि यह तय करना है कि अकाउंट 18 साल से कम उम्र के यूजर का तो नहीं है.
अगर सिस्टम को लगता है कि कोई यूजर 18 साल से कम उम्र का है, तो ChatGPT अपने आप कुछ सुरक्षा फीचर्स लागू कर देगा. इसमें आत्म-नुकसान से जुड़ा कंटेंट, हिंसक या ग्राफिक कंटेंट, जोखिम भरे ऑनलाइन ट्रेंड और संवेदनशील रोल-प्ले जैसे जवाब लिमिटेड कर दिए जाएंगे. इसके अलावा शरीर को लेकर गलत मानक या अनहेल्दी डाइट को बढ़ावा देने वाला कंटेंट भी कम दिखेगा. OpenAI का कहना है कि यह बदलाव बच्चों और टीनएजर्स को नुकसानदेह कंटेंट से बचाने के लिए जरूरी है.
OpenAI ने माना है कि कभी-कभी सिस्टम गलत अनुमान भी लगा सकता है. ऐसे में अगर कोई एडल्ट यूजर गलती से अंडर 18 मान लिया जाता है, तो वह पहचान सत्यापन के जरिए पूरा एक्सेस वापस पा सकता है. इसके लिए Persona नाम की पहचान वेरिफिकेशन सर्विस का इस्तेमाल किया जाएगा. यही सर्विस Roblox जैसी दूसरी टेक कंपनियां भी इस्तेमाल कर रही हैं. इससे यूजर्स को यह भरोसा मिलेगा कि उनके साथ गलत तरीके से पाबंदी नहीं लगेगी.
हाल के महीनों में OpenAI पर बच्चों की सुरक्षा को लेकर दबाव बढ़ा है. FTC समेत कई संस्थाएं AI चैटबॉट्स के बच्चों पर असर की जांच कर रही हैं. इसी वजह से कंपनी ने पैरेंटल कंट्रोल, एक्सपर्ट काउंसिल और अब age prediction जैसे कदम उठाए हैं. OpenAI ने साफ कहा है कि यह मॉडल समय के साथ और बेहतर बनाया जाएगा. यूरोपियन यूनियन में इसे स्थानीय नियमों के हिसाब से आने वाले हफ्तों में लागू किया जाएगा.
ये भी पढ़ें: सिम कार्ड का एक कोना कटा क्यों होता है? डिजाइन नहीं, फोन की सुरक्षा से जुड़ी है वजह
