गूगलने जेमिनी एआय सादर केले होते. ते बार्ड चॅटबॉट व ड्यूएट एआयचे प्रगत वैशिष्ट्यांसह संयोजन आहे. जेमिनी एकाच वेळी मजकूर, कोड, ऑडिओ, प्रतिमा इत्यादींवर काम करू शकते. पण, आता मात्र गूगलने आपल्या जेमिनी चॅटबॉटबाबत एक मोठे पाऊल उचलले आहे. आता जेमिनी चॅटबॉटच्या माध्यमातून लोकांची छायाचित्रे तयार करू शकणार नाहीत. मात्र, ही सुविधा काही काळासाठी बंद आहे. खरं तर गूगल कंपनीने गुरुवारी सांगितले की, ते आपल्या आर्टिफिशियल इंटेलिजन्स चॅटबॉटला लोकांच्या प्रतिमा तयार करण्यापासून तात्पुरते थांबवत आहे आणि ते तयार करत असलेल्या ऐतिहासिक प्रतिमेबाबतची माफी मागितली आहे.

जेमिनी चॅटबॉट वापरकर्त्यांनी या आठवड्यात सोशल मीडियावर गूगलच्या जेमिनीने व्हाईट डॉमिनेटेड सिन्स (white-dominated scenes) दृश्यांचे स्क्रीनशॉट पोस्ट केले आहेत. त्यामुळे कंपनी AI मॉडेलमध्ये अति सुधारणा करते आहे अशी टीका करण्यात आली आहे, त्यामळे हे पाऊल उचलण्यात आले आहे.

गूगलने सोशल मीडिया प्लॅटफॉर्म एक्स (ट्विटर) वर एका पोस्टमध्ये म्हटले आहे, “आम्ही जेमिनीच्या फोटो जनरेशन फीचर्ससह अलीकडील समस्यांचे निराकरण करण्यासाठी आधीच काम करत आहोत. आम्ही हे करत असताना लोकांच्या प्रतिमा निर्मितीला विराम देत आहोत आणि पुन्हा सुधारित आवृत्ती लवकरच प्रकाशित करू.” मागील अभ्यासात असे दिसून आले आहे की, AI जनरेटर प्रतिमा- त्यांच्या प्रशिक्षण डेटामध्ये आढळलेल्या वांशिक आणि लिंग स्टिरियोटाइप वाढवू शकतात. जेव्हा एखाद्या व्यक्तीला विविध संदर्भांमध्ये प्रतिमा निर्माण करण्यास सांगितले जाते, तेव्हा हे व्हर्जन फिल्टरशिवाय फिकट त्वचेच्या पुरुषांचे चित्र निर्माण करण्याची अधिक क्षमता ठेवतात.

हेही वाचा…विमान प्रवास करणाऱ्यांसाठी खुशखबर; Airtelने दिली ‘ही’ दमदार ऑफर

गूगलने बुधवारी सांगितले की, जेमिनी काही ऐतिहासिक प्रतिमा निर्मितीमध्ये चुकीची ऑफर देत आहे याची जाणीव कंपनीला झाली. त्यामुळे अशाप्रकारच्या प्रतिमा किंवा चित्रण त्वरित सुधारण्यासाठी आम्ही यावर काम करत आहोत. जेव्हा चॅटबॉट एपीने (Ap ) जेमिनीला लोकांच्या प्रतिमा तयार करण्यास सांगितले, तेव्हा आम्ही अश्याप्रकारच्या प्रतिमेची क्षमता सुधारण्यासाठी कार्य करत आहोत; असे सांगून प्रतिसाद दिला. तर आम्ही हे फीचर लवकरच परत घेऊन येऊ अशी अपेक्षा करतो आहे आणि जेव्हा ते लाँच होईल तेव्हा आम्ही तुम्हाला सूचित करू, असे म्हटले आहे. पण, काही वेळासाठी मात्र गूगलने आपल्या जेमिनी चॅटबॉटला निलंबित केलं आहे.