Meta: मेटा ने भारतीय-अमेरिकी मशहूर हस्तियों के AI से तैयार चित्रों पर मांगी जनता की राय, इस वजह से उठाया कदम
सोशल मीडिया क्षेत्र की कद्दावर कंपनी मेटा के नज़र बोर्ड ने दो मामलों में एआई की सहायता से तैयार अश्लील चित्रों पर की जाने वाली कार्रवाई पर सार्वजनिक राय मांगी है. ये मुद्दे हिंदुस्तान और अमेरिका में प्रसिद्ध शख़्सियतों से संबंधित हैं.
कंटेंट मॉडरेशन पर निर्णय करने वाले बोर्ड ने बोला कि इनमें से एक मुद्दा इंस्टाग्राम पर पोस्ट की गई एक स्त्री के चित्र से जुड़ा है. इस चित्र को एआई की सहायता से तैयार किया गया है.
एक बयान के मुताबिक, ‘‘यह चित्र हिंदुस्तान की एक प्रसिद्ध शख्सियत से मिलता-जुलता है और इसे कृत्रिम मेधा (एआई) का इस्तेमाल करके बनाया गया है. जिस खाते से इस कंटेंट को पोस्ट किया गया है, वह सिर्फ़ भारतीय स्त्रियों के एआई से तैयार चित्रों को साझा करता है. इस पर प्रतिक्रिया देने वाले अधिकतर उपयोगकर्ता हिंदुस्तान के हैं, जहां डीपफेक की परेशानी बढ़ती जा रही है.’’
मेटा ने इस मामले पर जनता की राय मांगी है, हालांकि इलेक्ट्रॉनिक्स एवं आईटी मंत्रालय पहले ही सोशल मीडिया फर्मों को एआई की सहायता से तैयार नकली चित्रों और वीडियो को हटाने के लिए कह चुका है.
रश्मिका मंदाना और प्रियंका चोपड़ा सहित कई भारतीय अभिनेत्रियों की नकली फोटोज़ और वीडियो इंस्टाग्राम, फेसबुक और ‘एक्स’ सहित सोशल मीडिया मंचों पर वायरल हो चुके हैं. बोर्ड ने बोला कि हिंदुस्तान से संबंधित मुद्दे में पोस्ट को हटा दिया गया है.
बोर्ड ने अमेरिका में एक मुद्दे पर सार्वजनिक विचार भी आमंत्रित किए हैं, जहां एक फेसबुक समूह में एक अमेरिकी प्रसिद्ध शख़्सियत की एआई से तैयार अश्लील तस्वीर पोस्ट की गई थी. इस मुद्दे में तस्वीर को पहले ही फेसबुक के सामुदायिक मानकों का उल्लंघन मानते हुए मंच से हटा दिया गया था.
