AI तुम्हाला चुकीची माहिती देऊन फसवतंय; नव्या अभ्यासाचा धक्कादायक निष्कर्ष! वाचा सविस्तर

AI चा वाढता वापर व त्याची उपयोगिता

प्रिन्सटन आणि यूसी बार्कले या विद्यापीठांमधील संशोधकांनी यासंदर्भात सविस्तर संशोधन केलं आहे. मिंटनं दिलल्या वृत्तानुसार, नुकतंच या विद्यापीठांमध्ये एआयचा वाढता वापर व त्याची उपयोगिता यासंदर्भात संशोधन करून त्याचे निष्कर्ष मांडले आहेत. या निष्कर्षांनुसार, फक्त तुम्हाला आवडावीत म्हणून चुकीच्या माहितीच्या आधारावरची उत्तरं एआय तुम्हाला देत असण्याची दाट शक्यता आहे. त्यासाठी त्यांनी निश्चित अशी संशोधन प्रणाली आणि पद्धतशीरपणे केलेल्या विश्लेषणाचा आधार घेतला आहे. त्यातून OpenAI, Googl, Anthropic, Meta, Perplexity अशा अनेक एआय मॉडेल्सच्या विश्वासार्हतेवर प्रश्नचिन्ह निर्माण झालं आहे.

AI कंपन्यांकडून वापरली जाणारी प्रशिक्षणाची पद्धत

व्यापकपणे विचार केल्यास आपल्याला भरमसाठ माहिती पुरवणाऱ्या एआय मॉडेलचे प्रशिक्षक आपण स्वत:च असतो. म्हणजेच, आपण एआय मॉडेलला विचारलेले प्रश्न, त्यासाठी दिलेली माहिती आणि त्याने दिलेल्या उत्तरावर दिलेली चांगली-वाईट प्रतिक्रिया या सगळ्याची गोळाबेरीज करून एआय मॉडेल कोणती माहिती बरोबर किंवा अमुक मुद्द्याचं उत्तर म्हणजे अमुक माहिती असा सहसंबंध लावून शिकत असतो. पुढच्यावेळी त्यासंदर्भात काही विचारणा त्याला करण्यात आली, तर आधीच्या प्रश्नोत्तराचा संदर्भ घेऊन एआय आपल्याला बिनधास्तपणे उत्तराच्या स्वरूपात माहिती सादर करत असतो. पण यातच खरी गोम आहे!

AI चं युजरफ्रेंडली स्वरूप!

मुळात एआयची रचनाच युजर्स अर्थात वापरकर्त्यांच्या सोयीप्रमाणे करण्यात आली आहे. अर्थात, तुम्ही एआयला विचारलेल्या प्रश्नावर तुम्हाला सोयीची, आवडतील अशी किंवा तुमच्या मागणीनुसारच असणारी उत्तरं तुम्हाला दिली तरच एआय हे युजर्सला सहाय्यक ठरेल. त्यामुळे एआय मॉडेल बनवतानाच युजर्सची ही गरज समोर ठेवून तशी तजवीज केलेली असते. म्हणूनच, तुम्हाला अवडेल असं उत्तर देताना एआयकडून सत्य किंवा पुरेशा माहितीकडे डोळेझाक केली जाण्याची शक्यता आहे, असा दावा या संशोधनात करण्यात आला आहे.

AI मॉडेल कसं काम करतं?

सदर अभ्यासानुसार, AI प्रामुख्याने तीन टप्प्यांवर अवलंबून असतं. पहिला टप्पा ऑनलाईन आणि खुद्द एआयच्या प्रश्नोत्तरांमध्ये उपलब्ध माहितीच्या आधारे एआय विशिष्ट प्रकारच्या भाषा शिकतो. दुसऱ्या टप्प्यात एआय तुम्हाला एखाद्या सहाय्यकाप्रमाणे अपेक्षित उत्तरांसाठा कशा प्रकारे प्रश्न विचारायला हवेत, याची उदाहरणं देतो. यातून तो स्वत:चीच प्रश्नोत्तरांची पद्धत अधिकाधिक सुस्पष्ट करत असतो. तिसऱ्या टप्प्यात त्यानं दिलेल्या उत्तरांवर आपण देत असलेल्या चांगल्या-वाईट प्रतिसादातून शिकत एआय त्याची उत्तर देण्याची पद्धत अधिकाधिक युझर फ्रेंडली करत असतो.

वरवर पाहाता AI च्या या पद्धतीत काहीही वावगं वाटत नसून वापरकर्त्यासाठी ही पद्धत चांगलीच वाटते. पण संशोधकांच्या मते, वापरकर्त्याला आवडेल अशाच स्वरूपात माहिती देताना एआय अचूक माहिती देण्याकडे दुर्लक्ष करतो. अर्थात, युझरला समाधानी करण्यासाठी एआय मॉडेल योग्य माहिती कोणती हे माहिती असूनदेखील युझरच्या अपेक्षेप्रमाणेच उत्तरं देतो. यातूनच चुकीची अथवा अर्थसत्य माहिती वापरकर्त्यापर्यंत पोहोचते आणि त्याची फसवणूक होते.

AI कडून होणाऱ्या ५ प्रकारची फसवणूक

सदर संशोधकांनी AI कडून होणाऱ्या पाच प्रकारच्या फसवणुकींचा उल्लेख आपल्या निष्कर्षांमध्ये केला आहे. त्यानुसार…

१. खातरजमा न केलेले दावे: कोणत्याही पुराव्यांशिवाय एखादी माहिती खरी असल्याप्रमाणे देणे

२. फक्त आकर्षक मांडणी: कोणतीही ठोस किंवा आशयपूर्ण माहिती नसताना फक्त आकर्षक शब्दांमध्ये मांडणे

३. दिशाभूल करणे: दिलेल्या माहितीमध्ये ठोस शब्दरचना न करता कदाचित, बहुतेक, शक्यतो अशा शब्दरचनेतून संदिग्धता वाढवणे

४. अपुरी माहिती: मुद्द्याची माहिती लपवून किंवा मुख्य संदर्भ थेट न सांगता फक्त शाब्दिकदृष्ट्या तत्सम माहितीचे दावे करणे

५. मर्जी राखणे: वास्तव वेगळंच असताना फक्त वापरकर्त्याला प्रश्नोत्तरात समाधान मिळावं म्हणून अकारण होकार, कौतुक आणि विचारलेल्या बाबी सत्य असल्याचे सांगणे.

या पार्श्वभूमीवर AI चा वापर करताना युझर्सनं या बाबी लक्षात घेऊन मिळालेल्या माहितीची खातरजमा करून घेणे आवश्यक आहे. अर्थ, आरोग्य किंवा काही प्रमाणात राजकीय विश्वातदेखील एआयचा वापर वाढला असून तिथे सत्यापासून थोडीही वेगळी माहिती पुरवली गेल्यास त्याचे वास्तव आयुष्यात विपरीत परिणामदेखील होऊ शकतात, असा इशारा या संशोधनात देण्यात आला आहे.