David Robinson: “एआय कंपन्या अणुऊर्जा प्रकल्पांसारख्या चालवा!” OpenAI च्या कर्मच्याऱ्याचा राजीनामा; मानवजातीवरील धोक्याबाबत इशारा

डेव्हिड रॉबिन्सन नावाच्या या कर्मचाऱ्याने ओपनएआयच्या सुरक्षा टीममध्ये नेतृत्व केले आहे. त्यांनी ‘द अटलांटिक’साठी लिहिलेल्या एका निबंधात म्हटले आहे की, चॅटजीपीटी बनवणारी कंपनी “ट्रायल अँड एररच्या माध्यमातून यशस्वी झाली आहे.” पण, त्यांनी म्हटले की, तंत्रज्ञानाच्या क्षमतांसोबतच या दृष्टिकोनातून येणाऱ्या अपयशांचे धोकेही वाढत आहेत. यासाठी त्यांनी चाचणीदरम्यान एआयला अनियंत्रित होण्यापासून रोखण्यात ओपनएआयच्या अपयशाचे उदाहरण दिले.

“माझे माजी सहकारी हुशार, मेहनती आहेत आणि चांगले निर्णय घेण्याचा प्रयत्न करतात. पण कंपनी एका उत्पादनानंतर दुसऱ्या उत्पादनाकडे वेगाने धावत असताना, मला आवश्यक वाटणारी काळजी घेण्यात ती अपयशी ठरत आहे”, असे रॉबिन्सन यांनी निबंधात लिहिले.

गेल्या काही आठवड्यांत, आघाडीच्या एआय कंपन्यांमधील अनेक कर्मचाऱ्यांनी आर्टिफिशियल इंटेलिजन्समुळे निर्माण होणाऱ्या संभाव्य विनाशकारी धोक्यांबद्दल इशारा दिला आहे. काहींनी तर असेही म्हटले आहे की, हे तंत्रज्ञान एके दिवशी मानवजात नष्ट करू शकते.

आपल्या निबंधात रॉबिन्सन म्हणाले की, एआय कंपन्या अणुऊर्जा प्रकल्पांप्रमाणे चालवल्या पाहिजेत, “ज्यात अतिरिक्त सुरक्षेचे अनेक स्तर आणि काळजीपूर्वक, वेळखाऊ नियोजन असेल, जेणेकरून कधीतरी होणारी आणि अटळ मानवी चूक मोठ्या आपत्तीला आमंत्रण देणार नाही.” ते म्हणाले की, सध्या “एआय कंपन्यांना हे कसे करायचे हे माहित नाही, पण इतरांना माहित आहे.”

एआयमुळे निर्माण होणाऱ्या सांभाव्य धोक्यांच्या पार्श्वभूमीवर, अँथ्रोपिक या एआय कंपनीचे मुख्य कार्यकारी अधिकारी डारिओ अमोदेई यांनी अत्यंत प्रगत मॉडेल्स विकसित करण्याचा वेग कमी करण्याचे आवाहन केले आहे. त्यांनी असेही स्पष्ट केले आहे की, या तंत्रज्ञानाची पडताळणी व सुरक्षितता सुनिश्चित करण्यासाठी त्यांची कंपनी त्रयस्थ मूल्यमापनकर्त्यांची मदत घेईल. ओपनएआयचे सॅम ऑल्टमन यांच्यासह या क्षेत्रातील इतरांनीही अमोदेई यांच्या या योजनेचे जाहीर समर्थन केले आहे.