Google ने अपने Gemini Chatbot को लेकर उठाया ये बड़ा कदम

जेमिनी यूजर्स ने इस हफ्ते सोशल मीडिया पर नस्लीय रूप से विविध पात्रों के साथ ऐतिहासिक रूप से श्वेत-वर्चस्व वाले दृश्यों के स्क्रीनशॉट पोस्ट किए, जिनके बारे में उनका बोलना है कि इससे जनरेट हुआ, आलोचकों ने प्रश्न उठाया कि क्या कंपनी अपने एआई मॉडल में नस्लीय पूर्वाग्रह के जोखिम के लिए आवश्यकता से अधिक सुधार कर रही है।

कंपनी ने एक्स पर बोला ये
गूगल ने सोशल मीडिया प्लेटफॉर्म एक्स (पहले ट्वीटर) पर एक पोस्ट में कहा, “हम पहले से ही जेमिनी की इमेज जनरेशन फीचर के साथ हालिया मुद्दों को संबोधित करने के लिए काम कर रहे हैं”। “ऐसा करते समय, हम लोगों की इमेज जनरेशन को रोकने जा रहे हैं और जल्द ही एक बेहतर वर्जन फिर से जारी करेंगे।”

पिछले अध्ययनों से पता चला है कि एआई इमेज जनरेटर अपने ट्रेनिंग डेटा में पाए जाने वाले नस्लीय और लैंगिक रूढ़िवादिता को बढ़ा सकते हैं, और जब विभिन्न संदर्भों में किसी आदमी को जनरेट करने के लिए बोला जाता है, तो बिना फिल्टर के मामूली चमड़ी वाले मर्दों को जनरेट करने की अधिक आसार होती है।

गूगल ने बुधवार को बोला कि उसे “इस बात की जानकारी है कि जेमिनी कुछ ऐतिहासिक इमेज जनरेशन चित्रणों में अशुद्धियां पेश कर रहा है” और वह “इस प्रकार के चित्रणों को तुरंत सुधारने के लिए काम कर रहे हैं।” जेमिनी “लोगों की एक विस्तृत श्रृंखला” जनरेट कर सकता है, जिसके बारे में कंपनी ने बोला है कि यह “आम तौर पर एक अच्छी बात है” क्योंकि पूरे विश्व के लोग इस सिस्टम का इस्तेमाल करते हैं लेकिन यह “प्रभाव से चूक रहा है।”

जब एपी ने जेमिनी से लोगों की फोटोज़ बनाने के लिए कहा, तो उसने उत्तर दिया कि वह ऐसा करने की क्षमता को “सुधारने के लिए काम कर रहा है”। चैटबॉट ने कहा, “हमें आशा है कि यह सुविधा जल्द ही वापस आएगी और जब ऐसा होगा तो रिलीज अपडेट में आपको सूचित किया जाएगा।”