मार्क-जुकरबर्ग के स्वामित्व वाले फेसबुक और इंस्टाग्राम ने सैकड़ों वीडियो क्लिप को हटाने के लिए हाथापाई की, जिसमें एक ऐसे ऐप का इस्तेमाल किया गया था, जो यौन रूप से अश्लील पोज़ में हॉलीवुड सितारों के एआई-जेनरेट किए गए डीपफेक वीडियो बनाता है।
सोशल मीडिया पर प्रसारित एक विज्ञापन में “हैरी पॉटर” की नायिका एम्मा वॉटसन का एक डीपफेक दिखाया गया है, जो फर्श पर घुटने टेकते हुए कैमरे में कामुकता से देखती है, इससे कुछ ही क्षण पहले ऐसा प्रतीत होता है कि वह सेक्स क्रिया करने वाली है।
विज्ञापन फिर ऐप का नाम फेसमेगा प्रदर्शित करता है, जो खुद को “डीपफेक फेस स्वैप वीडियो” बनाने के लिए एक टूल के रूप में पेश करता है।
एनबीसी न्यूज के अनुसार, फेसमेगा ने वाटसन और “एवेंजर्स” स्टार स्कारलेट जोहानसन की समानता को दर्शाने वाले डीपफेक वीडियो का उपयोग करते हुए मेटा के सोशल मीडिया प्लेटफॉर्म पर 230 से अधिक विज्ञापन प्रसारित किए।
80 विज्ञापनों पर कैप्शन पढ़ा गया, “किसी के साथ चेहरा बदलें”। “एआई स्वैप फेस टेक्नोलॉजी के साथ खुद का आनंद लें।”
“डीपफेक” एक वीडियो का वर्णन करने के लिए इस्तेमाल किया जाने वाला शब्द है जिसमें एक व्यक्ति के चेहरे को डिजिटल रूप से कृत्रिम बुद्धिमत्ता की सहायता से उस बिंदु तक बदल दिया जाता है जहां वे किसी और से मिलते-जुलते हैं – अक्सर एक सेलिब्रिटी या प्रसिद्ध व्यक्ति।
अपमानजनक विज्ञापनों को टेनेसी स्थित पत्रकारिता के छात्र लॉरेन बार्टन द्वारा देखा गया था। वह वाटसन डीपफेक वाली वीडियो क्लिप को ट्वीट किया सोमवार को उसके ट्विटर फीड पर।
विज्ञापन
विज्ञापन
ट्विटर व्यू काउंटर के अनुसार, मेटा, जो फेसबुक और इंस्टाग्राम का मालिक है, वीडियो के वायरल होने के बाद हरकत में आया, जिसे 16 मिलियन से अधिक बार देखा जा चुका है।
मेटा के एक प्रवक्ता ने गुरुवार को द पोस्ट को बताया, “हमारी नीतियां वयस्क सामग्री पर रोक लगाती हैं, चाहे वह एआई द्वारा बनाई गई हो या नहीं, और हमने इस पेज को अपने प्लेटफॉर्म पर विज्ञापन देने से प्रतिबंधित कर दिया है।”
Google के एक प्रवक्ता ने द पोस्ट को बताया कि कंपनी ने ऐप को अपने प्ले स्टोर से हटा दिया है।
Google के प्रवक्ता ने “यौन सामग्री और अपवित्रता” सहित “अनुचित सामग्री” को विनियमित करने वाली अपनी नीतियों के लिए पोस्ट को संदर्भित किया।
Play Store की सेवा की शर्तों के अनुसार, “हम उन ऐप्स को अनुमति नहीं देते हैं जिनमें यौन सामग्री या अपवित्रता शामिल है या पोर्नोग्राफ़ी, या यौन संतुष्टि देने वाली किसी भी सामग्री या सेवाओं को शामिल किया गया है।”
“हम ऐसे ऐप या ऐप सामग्री की अनुमति नहीं देते हैं जो मुआवज़े के बदले में यौन क्रिया को बढ़ावा देने के लिए प्रकट होते हैं।”
Apple के एक प्रवक्ता ने टिप्पणी करने से इनकार कर दिया, हालांकि कंपनी के एक सूत्र ने द पोस्ट को बताया कि ऐप को ऐप स्टोर से हटा दिया गया है।
निजता के पैरोकार डीपफेक तकनीक के संभावित दुरूपयोग को लेकर चिंतित हो गए हैं, विशेष रूप से अश्लील छवियों में महिलाओं की समानता को अध्यारोपित करने की प्रथा, ताकि यह दिखाया जा सके कि वे इच्छुक सहभागी थीं।
पिछले महीने, 32 वर्षीय ब्रिटिश सोशल मीडिया स्टार स्वीट अनीता ने पाया कि अश्लील वीडियो में फिल्माई गई एक महिला के शरीर पर उसका चेहरा डिजिटल रूप से चिपकाया गया था।
यह सिर्फ सेक्स वीडियो नहीं है जो खतरे पैदा करता है। पिछले साल, सोशल मीडिया प्लेटफॉर्म्स ने यूक्रेन के राष्ट्रपति वलोडिमिर ज़ेलेंस्की को अपने देशवासियों को रूस के सामने आत्मसमर्पण करने के लिए कहते हुए एक डीपफेक वीडियो हटा दिया था।