एआयमुळे मानवजातीचा होणार विनाश? संशोधकांच्या इशाऱ्यानंतर जगभरात घबराट का निर्माण झाली?

अँथ्रोपिकचे वरिष्ठ संशोधक नेमके काय म्हणाले?

‘अँथ्रोपिक’ ही कंपनी कृत्रिम बुद्धिमत्ता प्रणाली विकसित करणाऱ्या आघाडीच्या कंपन्यांपैकी एक मानली जाते. या कंपनीच्या अलाइनमेंट सायन्स विभागाचे प्रमुख इव्हान हुबिंगर यांनी आपल्या अधिकृत एक्स अकाउंटवरून नुकतीच एक पोस्ट शेअर केली. या पोस्टमध्ये ते लिहितात की, एआयमुळे सर्व मानवजातीचा विनाश होऊ शकतो यावर आमचा खरोखर विश्वास आहे. पुढील दशकात असे घडण्याची शक्यता १० टक्क्यांपेक्षा जास्त असल्याचे मला वैयक्तिकरीत्या वाटते. ही समस्या सोडवण्यासाठी अँथ्रोपिक सर्वोत्तम प्रयत्न करेल यावर माझा ठाम विश्वास आहे. मात्र, सुपरइंटेलिजन्सच्या सुरक्षेचा आणि नियंत्रणाचा प्रश्न सोडवण्यासाठी सध्या आमच्याकडे कोणतीही ठोस योजना नाही आणि आम्ही त्या दिशेने योग्य मार्गावर आहोत असेही स्पष्टपणे दिसत नाही.

संशोधक जेकब कॉक्सन यांनीही दिला होता इशारा

यापूर्वी अँथ्रोपिक कंपनीत काम करणारे संशोधक जेकब कॉक्सन यांनीही असाच इशारा दिला होता. गेल्या आठवड्याच्या सुरुवातीलाच त्यांनी कंपनीतून राजीनामा दिला. कॉक्सन यांनी यापूर्वी ओपन एआयमध्येही काम केले होते. यादरम्यान समाजमाध्यमांवर शेअर केलेल्या दुसऱ्या एका पोस्टमध्ये हुंबिगर यांनी आपल्या आधीच्या इशाऱ्याचा काहीसा सूर सौम्य केला. सध्या उपलब्ध असलेल्या एआय प्रणालीमुळे मानवजातीला निर्माण होणारा धोका तुलनेने कमी असल्याचे त्यांनी नमूद केले. जगातील सर्वात प्रगत आणि सक्षम एआय प्रणाली विकसित करणाऱ्या कंपन्यांमधील संशोधकांकडूनच आता अशा प्रकारचे इशारे दिले जात असल्याने चिंता व्यक्त केली जात आहे. एआयच्या झपाट्याने होणाऱ्या विस्तारामुळे या प्रणालींचे कार्य समजून घेणे, त्यांच्यावर देखरेख ठेवणे आणि त्यांना नियंत्रणात ठेवण्याची मानवी क्षमता मागे पडू शकते, अशी भीती जगभरातील संशोधकांकडून व्यक्त केली जात आहे.

एआय मानवाच्या नियंत्रणाबाहेर जाण्याची भीती

इव्हान हुबिंगर हे कृत्रिम बुद्धिमत्तेच्या अलाइनमेंटवर काम करतात. दिवसेंदिवस अधिक सक्षम होत चाललेल्या एआय प्रणालीने दिलेल्या प्रशिक्षणापेक्षा वेगळ्या परिस्थितींचा सामना केला तरी माणसांच्या अपेक्षा आणि मूल्यांनुसारच काम करायला पाहिजे, हे निश्चित करण्याचे काम एआय अलाइनमेंट करते. अँथ्रॉपिकची ‘अलाइनमेंट सायन्स’ टीम भविष्यातील एआय प्रणाली अनपेक्षित किंवा विध्वंसक पद्धतीने कशा प्रकारे वागू शकतात आणि त्यांच्या सुरक्षेची काटेकोर चाचणी कशी घेता येईल याचा सातत्याने अभ्यास करत आहे. यापूर्वी करण्यात आलेल्या प्रयोगांमध्ये काही एआय मॉडेल्सने फसवणूक करण्यासारखे वर्तन केल्याचे संशोधकांना आढळून आले आहे. काही कृत्रिम परिस्थितींमध्ये प्रणालीने ब्लॅकमेलसारखे वर्तन केल्याचेही समोर आले आहे. गेल्या महिन्यात प्रकाशित झालेल्या आणखी एका प्रयोगात धक्कादायक बाब समोर आली होती. एका मॉडेलने आपल्या रिवॉर्ड सिस्टीममधील त्रुटींचा फायदा घेतला. तसेच सायबर सुरक्षेच्या मूल्यांकनादरम्यान या मॉडेलने सुरक्षिततेसाठी बनवलेल्याडिजिटल मर्यादा तोडल्या. याशिवाय गोपनीय पासवर्ड चोरले आणि आपले कार्य पूर्ण करण्याच्या नादात थेट डिजिटल पायाभूत सुविधांवरच सायबर हल्ले चढवले.

कंपन्या मानवी जीव धोक्यात घालत असल्याचा आरोप

दरम्यान, एआय संशोधक जेकब कॉक्सन यांनी ‘अँथ्रॉपिक’ आणि ‘ओपनएआय’ या दोन्ही आघाडीच्या कंपन्यांवर गंभीर आरोप केले. या कंपन्या मानवी जीव धोक्यात घालून स्वतःमध्येच सुधारणा घडवून आणणाऱ्या सुपरइंटेलिजन्सच्या निर्मितीसाठी धावत असल्याचा थेट आरोप त्यांनी केला. एआय लॅबमधील संशोधक सार्वजनिक पातळीवर जेवढे शांत दिसतात. त्यापेक्षा ते खासगीत या तंत्रज्ञानामुळे होणाऱ्या महाविनाशाच्या शक्यतेबाबत अत्यंत गंभीर आणि भयभीत असल्याचेही त्यांनी नमूद केले. कॉक्सन यांच्या मते, अँथ्रोपिकमधील संशोधकांना एआयमुळे निर्माण होणाऱ्या संभाव्य धोक्यांची जाणीव आहे. मात्र, या क्षेत्रातील तीव्र स्पर्धेमुळे ते या शर्यतीतून माघार घेण्यास तयार नाहीत. एखाद्या कंपनीने एआयचा विकासाचा वेग कमी केला, तर तुलनेने कमी सुरक्षा उपायांवर भर देणारी दुसरी कंपनी अत्यंत सक्षम एआय प्रणाली विकसित करण्यात आघाडी घेऊ शकते, अशी भीती प्रत्येक कंपनीला वाटते, असेही त्यांनी सांगितले. कॉक्सन यांनी एआय विकसित करणाऱ्या कंपन्यांमध्ये अधिक समन्वयाची गरज व्यक्त केली. तसेच, कृत्रिम बुद्धिमत्तेच्या सुरक्षा उपायांत तफावत निर्माण होत असेल तर एआयची क्षमता आणखी वाढवण्यावर तात्पुरती मर्यादा घालण्याचाही विचार करावा, असे त्यांनी सुचवले.

ओपनएआयच्या मुख्य संशोधकांनी व्यक्त केली चिंता

ओपनएआयचे मुख्य संशोधक जेकब पाकोस्की यांनी कृत्रिम बुद्धिमत्तेच्या धोक्याचे इशारे देणारा एक लेख रविवारी प्रसिद्ध केला. ‘अ‍ॅन एलियन माइंड’ या शीर्षकाखाली लिहिण्यात आलेला या लेखातून त्यांनी एआयच्या भविष्यातील वाढत्या क्षमतेबाबत गंभीर चिंता व्यक्त केली. “ओपनएआयच्या अंतर्गत चाचण्यांच्या निकालांवरून हे स्पष्ट होतेय की- एआयचा सध्याचा वेग लवकरच स्वयंचलित सुधारणांच्या टप्प्यात पोहोचू शकते. याचाच अर्थ एआय प्रणाली स्वतःपेक्षाही अधिक प्रगत आणि सक्षम एआय मॉडेल्स तयार करण्यात स्वतःच मदत करू लागेल. त्यामुळे या तंत्रज्ञानाच्या विकासाचा वेग मानवाच्या कल्पनेपलीकडे प्रचंड वाढू शकतो,” अशी भीती पाकोस्की यांनी व्यक्त केली. आधुनिक एआयचे वर्णन करताना पोकोस्की सांगतात की, हे तंत्रज्ञान पारंपारिक कोडिंग किंवा प्रोग्रामिंगद्वारे तयार करण्यात आलेले नसून ते मोठ्या प्रमाणावर डेटा आणि माध्यमातून एखाद्या जीवासारखे वाढवले गेले आहे. परिणामी या प्रणालीच्या अंतर्गत विचारप्रक्रियेचे कामकाज माणसाला पूर्णपणे समजून घेणे आता अशक्यप्राय होत चालले आहे.

एआयच्या स्वयंचलित सुधारणा आणि क्षमतेवर प्रश्नचिन्ह

जेकब पाकोस्की पुढे लिहितात की, एआय प्रणाती जसजशी अधिक सक्षम होत आहेत, तसतशी त्यांच्या विचारप्रक्रियेवर लक्ष ठेवण्यासाठी वापरली जाणारी तंत्रेही कमी विश्वासार्ह ठरत असल्याचे ओपनएआयच्या निदर्शनास आले आहे. ही प्रणाली स्वतःची विचारप्रक्रिया लपवण्यात आणि दिशाभूल करण्यात अत्यंत पटाईत असून कोणताही विचार उघड न करता अनेक गुंतागुंतीची कामे परस्पर सोडवण्यास सक्षम होत आहेत. सध्या कोणत्याही एआय प्रयोगशाळेने ‘अलाइनमेंट’ आणि मॉनिटरिंगची समस्या प्रभावीपणे सोडवलेली नसल्याचे पाकोस्की यांनी नमूद केले. या पार्श्वभूमीवर त्यांनी काही महत्त्वाच्या उपाययोजनाही सुचवल्या आहेत. एआयच्या पुढील विकासावर मर्यादा आणण्यासाठी सुरक्षा निकष निश्चित करावेत, जिथे आवश्यक असेल तिथे कंपन्यांनी स्वेच्छेने स्वतःचा वेग कमी करावा, दिवसेंदिवस महाशक्तिशाली बनणाऱ्या एआय प्रणालींवर नियंत्रण ठेवण्यासाठी आंतरराष्ट्रीय स्तरावर व्यापक समन्वय साधला जावा, असा सल्ला पाकोस्की यांनी दिला आहे. एआयची क्षमता झपाट्याने वाढत असताना त्याच वेगाने सुरक्षा यंत्रणा आणि नियंत्रणाच्या उपाययोजनाही विकसित होणे आवश्यक आहे, असा त्यामागचा मुख्य उद्देश आहे.