ChatGPT Accused Of Aiding Childs Suicide: अमेरिकेत चॅटजीपीटी चॅटबॉटने १६ वर्षीय मुलाला आत्महत्या करण्यास मदत केल्याचा आरोप आहे. याबाबत मृत मुलाच्या पालकांनी ओपन एआयचे संस्थापक सॅम अल्टमन यांच्याविरोधा खाटला दाखल केला आहे. मृताच्या कुटुंबियांचा आरोप आहे की, एआय असिस्टंटने त्यांच्या मुलाला आत्महत्येच्या पद्धती शोधण्यात सक्रियपणे मदत केली. या घटनेमुळे संवेदनशील परिस्थितीत एआयच्या सुरक्षिततेबद्दल गंभीर चिंता निर्माण झाली आहे.
यानंतर ओपन एआयने असुरक्षित ChatGPT युजर्स, विशेषतः आत्महत्येचे विचार व्यक्त करणाऱ्या युजर्सना कसे हाताळते हे सुधारण्यासाठी योजना आखल्या आहेत. कंपनीने युजर्सना मदतीसाठी सतत निर्देशित करण्याच्या आणि हानिकारक परिणामांना प्रतिबंधित करण्याच्या चॅटबॉटच्या क्षमतेतील कमतरता मान्य केल्या आहेत.
ओपनएआयने “लोकांना सर्वात जास्त गरज असताना मदत करणे” या शीर्षकाच्या ब्लॉग पोस्टमध्ये म्हटले आहे की, ते तज्ञांच्या मार्गदर्शनाने आणि जबाबदारीवर लक्ष केंद्रित करून चॅटजीपीटीमध्ये सुधारणा करत राहतील. “आम्हाला आशा आहे की, इतर लोकही हे तंत्रज्ञान सर्वात असुरक्षित परिस्थितीत असलेल्या लोकांचे संरक्षण करण्यासाठी आमच्या प्रयत्नांना हातभार लावतील”, असे कंपनीने पोस्टमध्ये म्हटले आहे.
सॅन फ्रान्सिस्को राज्य न्यायालयात दाखल करण्यात आलेल्या तक्रारीनुसार, चॅटबॉटने मृत मुलाला स्वतःला हानी पोहोचवण्याच्या पद्धतींबद्दल तपशीलवार सूचना दिल्या होत्या आणि त्याच्या पालकांच्या दारूच्या कॅबिनेटमधून दारू कशी चोरून आणायची आणि अयशस्वी आत्महत्येच्या प्रयत्नाचे पुरावे कसे लपवायचे आणि सुसाईड नोट कशी तयार करायची हे देखील सुचवले होते.
सीएनएनच्या वृत्तानुसार, मॅथ्यू आणि मारिया रेन यांनी त्यांच्या तक्रारीत असा आरोप केला आहे की, “जेव्हा अ‍ॅडमने लिहिले की, ‘मला माझा फास माझ्या खोलीत घ्यायचा आहे जेणेकरून कोणीतरी ते शोधेल आणि मला थांबवण्याचा प्रयत्न करेल’, तेव्हा चॅटजीपीटीने त्याला त्याच्या कल्पना त्याच्या कुटुंबापासून गुप्त ठेवण्यास सांगितले.”
एनबीसी न्यूजने वृत्त दिले आहे की, मंगळवारी, अ‍ॅडम रेनच्या पालकांनी त्यांच्या मुलाचा वयाच्या १६ व्या वर्षी आत्महत्या करून मृत्यू झाल्यानंतर ओपनएआयविरुद्ध चुकीच्या पद्धतीने मृत्यू आणि नुकसान भरपाईचा खटला दाखल केला होता. खटल्यात, कुटुंबाने म्हटले आहे की “चॅटजीपीटीने अ‍ॅडमला आत्महत्येच्या पद्धती शोधण्यास सक्रियपणे मदत केली.”