MeitY अंतर्गत एका विभागाने केंद्रीय मंत्रालयांना सायबरसुरक्षा आणि संबंधित कार्यांसाठी OpenAI आणि Anthropic मॉडेल्स तैनात करणे थांबवण्यास सांगितले आहे.

प्रगत AI मॉडेल्सच्या दुहेरी-वापराच्या जोखमींबद्दल आणि संवेदनशील सरकारी कार्यांसाठी परकीय-नियंत्रित तंत्रज्ञानावर भारताचे अवलंबित्व यावर या निर्णयाने चिंता व्यक्त केली आहे.

ज्या मंत्रालयांशी संपर्क साधला आहे त्यांच्यापैकी, वित्त मंत्रालयाने एजंटिक एआय आणि ओपनएआयच्या मॉडेल्सच्या वापराबाबत स्पष्टता मागितली.

<!(CDATA())>

आयटी मंत्रालयाच्या (MeitY) अंतर्गत असलेल्या एका विभागाने केंद्रीय मंत्रालयांना सायबरसुरक्षा आणि संबंधित कार्यांसाठी OpenAI आणि Anthropic द्वारे विकसित केलेल्या AI मॉडेल्सची तैनाती थांबवण्यास सांगितले आहे.

दोन यूएस-आधारित एआय कंपन्यांच्या प्रतिनिधींनी त्यांचे मॉडेल तैनात करण्याच्या प्रस्तावांसह अनेक मंत्रालयांशी संपर्क साधल्यानंतर ही दिशा आली, असे द प्रिंटने कार्यालयातील निवेदनाचा हवाला देत वृत्त दिले.

किती मंत्रालयांशी संपर्क साधला गेला किंवा कोणत्या स्तरावर बैठका झाल्या हे अद्याप अस्पष्ट आहे.

अहवालानुसार, मेमोरँडम मॉडेल्सच्या वापरावर कायमस्वरूपी प्रतिबंध करत नाही. त्याऐवजी, विभागाने त्यांच्या तैनातीच्या वेळेवर प्रश्नचिन्ह उपस्थित केले आहे आणि अशा यंत्रणा वेळेपूर्वी वापरण्यास न देण्याचा इशारा दिला आहे.

संपर्क केलेल्या मंत्रालयांपैकी, वित्त मंत्रालयाने एजंटिक एआय आणि ओपनएआयच्या मॉडेल्सच्या वापराबद्दल स्पष्टता मागितली. सहा पानांच्या पत्रात, विशेषत: सायबरसुरक्षा कार्यासाठी GPT-5.5 च्या तैनातीचे परीक्षण करण्याचा प्रस्ताव दिला.

'एलएलएम वापरल्या जात असल्याच्या प्रकाशात: एआय-आधारित असुरक्षा शोध, एआय-सहाय्यित सायबरसुरक्षा क्षमता आणि अंमलबजावणी' असे शीर्षक असलेल्या पत्रात एआयच्या संभाव्य वापरांची रूपरेषा दिली गेली आणि ते विचारार्थ विभागाकडे पाठवले गेले.

विभागाने मात्र गेल्या आठवड्यात दिलेल्या निवेदनात हा प्रस्ताव फेटाळला.

हे दरम्यान येते सायबर सुरक्षेची वाढती छाननी वाढत्या सक्षम AI प्रणालींमुळे निर्माण होणारे धोके. नुकतेच केंद्रीय आयटी मंत्री अश्विनी वैष्णव नवीन एआय कायद्याची मागणी केलीआयटी कायदा तंत्रज्ञानाच्या झपाट्याने वाढ होण्याच्या अगोदर आहे असा युक्तिवाद करत आहे.

एप्रिलमध्ये, वित्त मंत्री निर्मला सीतारामन यांनी वित्तीय क्षेत्रातील संस्थांना “अपवादात्मकपणे सतर्क” राहण्याचे आवाहन केले, चेतावणी दिली की AI असुरक्षा शोध स्वयंचलित करू शकते, स्त्रोत कोडमध्ये दुर्भावनापूर्ण हस्तक्षेप सक्षम करू शकते आणि सायबर हल्ल्यांचा शोध घेणे अधिक जलद आणि कठीण बनवू शकते.

“हल्ल्याची साधने वेगाने विकसित होत आहेत आणि संरक्षणाची साधने आणखी वेगाने विकसित झाली पाहिजेत,” सीतारामन म्हणाल्या.

सायबरसुरक्षा AI ची दुधारी तलवार

प्रगत AI मॉडेल कोड स्कॅन करू शकतात, सॉफ्टवेअरमधील त्रुटी ओळखू शकतात आणि सायबर घटनांना प्रतिसाद देण्यासाठी मदत करू शकतात. नवीन एजंटिक प्रणाली मर्यादित मानवी देखरेखीसह जटिल कार्यांची मालिका देखील पार पाडू शकतात.

परंतु या क्षमता दुहेरी वापराच्या आहेत. बचावकर्त्यांसाठी AI द्वारे ओळखल्या गेलेल्या समान असुरक्षा हल्लेखोरांद्वारे देखील शोषण केले जाऊ शकतात. OpenAI आणि Anthropic ने जोखीम मान्य केली आहे आणि प्रगत सायबर क्षमता असलेल्या मॉडेल्ससाठी सुरक्षा उपाय सादर केले आहेत.

क्लॉड मिथॉस प्रीव्ह्यूचे अँथ्रोपिकचे हाताळणी हे आव्हान स्पष्ट करते. सायबरसुरक्षा-केंद्रित मॉडेल फक्त 'प्रोजेक्ट ग्लासविंग' द्वारे निवडक संस्थांसाठी उपलब्ध आहे, तर क्लॉड फेबल 5, जे समान अंतर्निहित आर्किटेक्चर सामायिक करते, त्यात सायबरसुरक्षा, जीवशास्त्र आणि AI संशोधन कव्हर करणारे अतिरिक्त सुरक्षा उपाय आहेत.

जूनमध्ये अँथ्रोपिकने 'प्रोजेक्ट ग्लासविंग'चा विस्तार केला. भारतासह 15 पेक्षा जास्त देशांमधील सुमारे 150 संस्थांना. गंभीर शून्य-दिवस असुरक्षा ओळखण्यासाठी आणि हल्लेखोरांनी त्यांचे शोषण करण्यापूर्वी त्यांचे निराकरण करण्यासाठी सहभागी Mythos पूर्वावलोकन वापरू शकतात.

ॲन्थ्रोपिकच्या चाचणीने मॉडेल वेगाने हजारो भेद्यता उघड करू शकते ज्यामुळे संभाव्य गैरवापराची भीती निर्माण होते हे दाखवल्यानंतर सुरुवातीला प्रवेश प्रतिबंधित करण्यात आला.

कार्यक्रमात सुरुवातीला Amazon, Google, Microsoft, Apple आणि NVIDIA, CrowdStrike, Palo Alto Networks आणि UK ची AI सुरक्षा संस्था यासह सुमारे 50 संस्थांचा समावेश होता.

भारताच्या AI सार्वभौमत्वाचा प्रश्न

या घडामोडींमुळे यावर नियंत्रण कोणाचे या वादाला पुन्हा उधाण आले आहे तंत्रज्ञान अधोरेखित गंभीर AI प्रणाली.

जूनमध्ये, अँथ्रोपिकने यूएस निर्यात नियंत्रणांचे पालन करण्यासाठी परदेशी नागरिकांसाठी क्लॉड मिथॉस 5 आणि क्लॉड फेबल 5 मधील प्रवेश निलंबित केला. त्याच महिन्यात नंतर निर्बंध उठवण्यात आले आणि दुसऱ्या दिवशी प्रवेश पुनर्संचयित करण्यात आला, परंतु एपिसोडने भारताबाहेर घेतलेल्या निर्णयांद्वारे प्रगत AI मॉडेल्सचा प्रवेश कसा आकारला जाऊ शकतो हे दाखवले.

भारतासाठी, हे एक आव्हान आहे कारण ते अधिक तांत्रिक सार्वभौमत्वासाठी प्रयत्न करत असताना धोरणात्मक क्षेत्रात AI चा वापर करू इच्छित आहे.

केंद्राने IndiaAI मिशनसाठी ₹10,372 Cr वचनबद्ध केले आहे, ज्यामध्ये अनुदानित संगणकीय पायाभूत सुविधा, स्टार्टअप वित्तपुरवठा आणि स्वदेशी पायाभूत मॉडेल्ससाठी समर्थन समाविष्ट आहे. सरकारने सर्वम एआय आणि भारतजेन कन्सोर्टियमसह देशांतर्गत एआय विकासकांना देखील पाठिंबा दिला आहे.

तरीही सरकारमध्ये फ्रंटियर एआय मॉडेल्स तैनात करण्यासाठी फ्रेमवर्क अस्पष्ट आहे. डेटा लोकॅलायझेशन, क्लाउड इन्फ्रास्ट्रक्चर आणि सरकारी डेटाचे विद्यमान नियम प्रगत AI सिस्टमसाठी डिझाइन केलेले नाहीत. यामुळे डेटावर प्रक्रिया कुठे केली जाते, कोणती माहिती प्रदाते ठेवतात आणि अंतर्निहित मॉडेल्स कोठे होस्ट केले जातात यावरील न सुटलेले प्रश्न सोडतात.