Grok AI: एलॉन मस्क यांच्या मालकीचा सोशल मीडिया प्लॅटफॉर्म ‘एक्स’ने त्यांच्या एआय टूल ‘ग्रोक’चा गैरवापर होत असल्याचे मान्य केले आहे. ग्रोकच्या गैरवापराचा मुद्दा गेल्या काही दिवसांपासून चांगलाच चर्चेत होता. हे टूल वापरून अश्लील फोटो तयार केले जात असल्याने यावर कारवाईची मागणी केली जात होती. यानंतर आता एक्सने भारत सरकारला आश्वासन दिले आहे की, यापुढे कंपनी भारतीय कायद्यांचे पूर्णपणे पालन करेल, अशी माहिती सरकारी सूत्रांनी दिली आहे.
एक्सने भारतीय कायद्यांचे उल्लंघन करणाऱ्या जवळपास ३ हजार ५०० पोस्ट ब्लॉक आणि ६०० हून अधिक खाती डिलिट करण्यात आली आहेत. तसेच त्यांच्या प्लॅटफॉर्मवर यापुढे कोणत्याही प्रकारच्या अश्लील फोटोंना परवानगी दिली जाणार नाही असेही एक्सने कळवले आहे.
“एक्सने आपली चूक मान्य केली आहे आणि ते भारतातील कायद्यांनुसार काम करेल असे म्हटले आहे,” असे सरकारी सूत्रांनी सांगितले. तसेच या प्रकरणात उपाययोजना यापूर्वीच सुरू करण्यात आल्या असल्याचेही त्यांनी सांगितले.
इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने २ जानेवारी रोजी एक्सला एक पत्र पाठवले होते, ज्यामध्ये भारतीय कायद्यांअंतर्गत घालून दिलेल्या नियमांचे पालन करण्यासाठी ७२ तासांचा कालावधी देण्यात आला होता. त्यानंतर एक्सने ही कारवाई केली आहे.
ग्रोक काय आहे?
ग्रोक एआय हा एलॉन मस्क यांच्या कंपनीने विकसित केलेला एक कृत्रिम बुद्धिमत्ता चॅटबॉट आहे. वापरकर्ते विविध प्रॉम्प्ट देऊन फोटो, व्हिडीओ असा कंटेंट जनरेट करू शकतात. मात्र, काही लोकांनी त्याचा गैरवापर करत महिलांचे फोटो एडिट करून अश्लील कंटेंट तयार करण्यास सुरूवात केली.
एक्सचा हा एआय चॅटबॉट ‘बिकिनी ट्रेंड’मुळे चांगलाच चर्चेत आल्याचे पाहायला मिळाले होते. लोक या टूलच्या मदतीने महिलांचे अश्लील फोटो तयार करत असल्याने त्यावर सर्व स्तरातून टीका देखील झाली. या ट्रेंड व्यतिरिक्त चॅटबॉटचा विविध विषयांवर माहिती मिळवण्यासाठी देखील मोठ्या प्रमाणात वापर केला जात आहे.
इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने एक्सला पाठलेल्या पत्रात ‘ग्रोक एआय’च्या गैरवापराबाबत गंभीर चिंता व्यक्त केली होती. मंत्रालयाने म्हटले आहे की, ग्रोकचा प्रॉम्प्ट्स, इमेज मॅनिप्युलेशन’ आणि सिंथेटिक आउटपुट्सच्या माध्यमातून गैरवापर करत अश्लील आणि लैंगिकदृष्ट्या आक्षेपार्ह फोटो आणि व्हिडीओ तयार करून आणि पसरवून विशेषत: महिलांना लक्ष्य केले जात आहे.
दरम्यान सरकारी सूत्रांनी सांगितले की, आता मंत्रालयाने उपस्थित केलेल्या प्रश्नांची एक्सने दखल घेतली आहे, आणि आक्षेपार्ह मजकूर काढून टाकला आहे. तसेच यापुढे त्यांच्या प्लॅटफॉर्मवरून अशा प्रकारचा अश्लील कंटेंट तयार केला जाऊ नये तसेच तो प्रसारित केला जाऊ नये, यासाठी सुरक्षा यंत्रणा अधिक मजबूत करण्याचे आश्वासन एक्सने प्रशासनाला दिले आहे.
