AI kill switch safety risk : पूर्वी शालेय निंबध स्पर्धेत विज्ञान शाप की वरदान, असा विषय हमखास असायचा. आता याची जागा कृत्रिम प्रज्ञा अर्थात एआयने घेतली आहे. गेल्या काही महिन्यांपासून एआयच्या प्रचंड शक्तीपासून मानवी अस्तित्वालाच थेट धोका असल्याचा इशारा अनेक तज्ज्ञ देत आहेत. नुकतेच मायक्रोसॉफ्टचे सह-संस्थापक बिल गेट्स यांनी एआय मोठ्या प्रमाणावरील जीवितहानी घडवून आणण्यास सक्षम आहे, असा इशारा जगाला दिला आहे. दुसरीकडे ओपनएआयच्या एका एजंटने थेट ऑस्ट्रेलियाचे सरकारी संकेतस्थळ हॅक केल्याने जगभर खळबळ उडाली आहे. या पार्श्वभूमीवर एआय जर तिच्या निर्मात्यांच्या नियंत्रणाबाहेर जाण्याइतकी शक्तिशाली झाली, तर एखादे बटण दाबून किंवा ‘किल स्विच’ (Kill Switch) वापरून ती तातडीने बंद करणे खरोखरच शक्य आहे का? हा प्रश्न सध्या जागतिक तंत्रज्ञान विश्वात ऐरणीवर आला आहे.
आर्टिफिशियल इंटेलिजन्स क्षेत्रातील दिग्गजांकडून अलीकडच्या काळात एआयच्या वाढत्या धोक्याबाबत सतत इशारे दिले जात आहेत. या पार्श्वभूमीवर, अमेरिकेतील राजकीय नेते आणि धोरणकर्ते आता एआय कंपन्यांसाठी ‘सिस्टम-वाइड शटडाऊन’ क्षमता यावर विचार करू लागले आहेत.
‘किल स्विच’ म्हणजे काय?
तुम्ही साउथस्टार ‘रजनिकांत’ यांचा रोबोट चित्रपट पाहिला असेल तर तुम्हाला आठवत असेल की जेव्हा एक यंत्रमानव अभिनेत्याच्या विरोधात जातो तेव्हा तो, त्यातील चिप काढून घेताच पूर्ण सिस्टिम बंद होते. जेव्हा एखादी शक्तिशाली एआय प्रणाली अनियंत्रित होते, तेव्हा मानवांकडे ती थांबवण्याची किंवा नियंत्रित करण्याची क्षमता कायम राहावी, हा ‘किल स्विच’ संकल्पनेमागचा मूळ उद्देश आहे.
‘किल स्विच’ची मागणीने का धरला जोर?
सप्टेंबरमध्ये कॅलिफोर्नियाचे गव्हर्नर गॅविन न्यूसम यांनी एका कार्यकारी आदेशावर स्वाक्षरी केली, ज्यानुसार एआय कंपन्यांना ‘फ्रंटियर मॉडेल्स’साठी इमर्जन्सी शटडाऊन तयार करणे बंधनकारक करण्याच्या नियमांचा अभ्यास करण्याचे आदेश देण्यात आले आहेत. याशिवाय, अमेरिकेत काही सदस्यांनी ‘एआय इमर्जन्सी बटण ॲक्ट’ सारखी विधेयकेही मांडली आहेत. प्रगत एआय मॉडेल्स आता स्वतःच्या जोरावर अवघड समस्या सोडवणे, कोड लिहिणे आणि मानवी हस्तक्षेपाशिवाय मोठी कामे करण्यास सक्षम बनली आहेत.
एआयकडून सुरक्षा नियमांचे उल्लंधन
- नुकत्याच झालेल्या काही सायबर सुरक्षेच्या मूल्यमापनांमध्ये गंभीर गोष्टी समोर आल्या. यामध्ये काही आघाडीच्या एआय मॉडेल्सनी इंटरनेटपासून स्वतःला वेगळे ठेवण्याच्या सुरक्षेच्या मर्यादांचे उल्लंघन केल्याचं समोर आलं. एआयने निसटण्याची इच्छा बाळगल्याचे यातून सिद्ध होत नसले तरी, सुरक्षेचे हे कडे ओलांडण्याची एआयची क्षमता मानवजातीसाठी चिंतेची बाब बनली आहे.
- अँथ्रोपिक कंपनीचे माजी संशोधक जॅकोब कॉक्सन आणि सीईओ डॅरियो अमोडेई यांनी इशारा दिला आहे की, एआय भविष्यात स्वतःच्याच पुढील पिढीची निर्मिती करण्यात इतके सक्षम होईल की मानवाच्या नियंत्रणाबाहेर जाऊ शकते.
‘किल स्विच’ प्रत्यक्षात काम करू शकेल का?
- तज्ज्ञांच्या मते, कोणत्याही प्रगत एआय मॉडेलला पूर्णपणे आणि झटकन बंद करणे ही साधी गोष्ट नाही.
- काही प्रगत मॉडेल्सना दिलेले काम पूर्ण करण्यासाठी त्यांचे स्वतःचे शटडाऊन मेकॅनिझम बदलण्याची क्षमता त्यांच्यात विकसित झाली असल्याचे चाचण्यांदरम्यान असे दिसून आले आहे.
- एआय मॉडेल्स जगभरातील वेगवेगळ्या डेटा केंद्रांमधील कॉम्प्युटिंग क्लस्टर्सवर चालतात. एका ठिकाणचे सर्व्हर बंद केले तरी इतर ठिकाणची सिस्टीम सुरू राहू शकते.
- एआयचे प्रख्यात अभ्यासक जेफ्री हिंटन यांच्या मते, भविष्यातील अति-बुद्धिमान एआय नियंत्रण ठेवणाऱ्या मानवांनाच ते बटण न दाबायला प्रवृत्त करू शकते, त्यामुळे ‘किल स्विच’ हा दीर्घकालीन उपाय ठरू शकत नाही.
