कुतूहल: कृत्रिम बुद्धिमत्ता चुकते तेव्हा..

एका अमेरिकन रिअल इस्टेट एजन्सीने कृत्रिम बुद्धिमत्तेच्या मदतीने घरांच्या भविष्यातील खरेदी किमतीविषयी काही अंदाज बांधले. हे अंदाज चांगले दिसल्याने कंपनीने उत्साहाने घरे खरेदी करण्याचा सपाटा लावला. पण प्रत्यक्षात अपेक्षेइतकी विक्री न झाल्याने त्यांचे सगळे आडाखे कोसळले. कर्जाचा बोजा झाला. यात दोष कोणाचा होता? कृत्रिम बुद्धिमत्तेच्या सगळय़ा अंदाजांना परिपूर्ण मानून चालणाऱ्या कंपनीचा? ती प्रणाली लिहिणाऱ्याचा? की त्या प्रणालीला पुरवलेल्या माहितीचा?

दुसरी गोष्ट आहे इंग्लंडमधली, कोविड-१९ महासाथीच्या काळातली. एखाद्या रुग्णाला कोविड झाला आहे का याचे निदान करण्यासाठी एक कृत्रिम बुद्धिमत्ता प्रणाली तयार करण्यात आली. पण त्या प्रणालीला एकही रुग्ण बरोबर ओळखता आला नाही. संशोधकांच्या एका गटाने याची कारणे शोधण्याचा प्रयत्न केला तेव्हा त्यांना आढळले की रुग्ण झोपलेल्या स्थितीत असेल तर कोविड आहे आणि नसेल तर कोविड नाही अशी वर्गवारी ती प्रणाली करत होती. त्यामागे होता प्रणाली ज्या उदाहरणांवरून शिकते तो प्रशिक्षण (ट्रेनिंग) डेटा. त्या डेटामधले बहुतेक कोविड रुग्ण अतिशय आजारी अवस्थेत हॉस्पिटलमध्ये आले होते. साहजिकच ते अंथरुणावर पडून होते. तर रुग्ण नसलेल्या व्यक्ती नुसत्या उभ्या किंवा बसून होत्या. इथे चूक कुठे झाली हे लगेच लक्षात येईल. प्रणालीला प्रशिक्षण डेटा पुरवताना काळजी घेतलेली नव्हती. त्यात सर्व प्रकारच्या शक्यता घेतलेल्या नव्हत्या. आणि म्हणूनच प्रणालीने प्रशिक्षण डेटावरून शिकून नंतरच्या रुग्णांसाठी लावलेला अंदाज पूर्ण फसला होता.

पहिल्या घटनेत प्रणालीच्या अंदाजाच्या नीट चाचण्या न करता तिच्यावर विसंबून राहण्याचा प्रयोग अंगाशी आला. आणि दुसऱ्या प्रसंगात प्रशिक्षण डेटा पुरवताना सारासार विचार झाला नव्हता. कृत्रिम बुद्धिमत्ता अद्याप तरी माणसाइतका व्यापक विचार करू शकत नाही. ती मागचापुढचा संबंध, संदर्भ दर वेळी समजून घेईलच असे नाही. न्युरल नेटवर्क प्रणाली तिचे उत्तर कसे आले याची माहिती देत नाही, एखाद्या ब्लॅक बॉक्ससारखी वागते. तेव्हा कृत्रिम बुद्धिमत्ता वापरताना सतर्कता बाळगणे निश्चितच गरजेचे आहे.

– डॉ. मेघश्री दळवी,मराठी विज्ञान परिषद