हाल ही के एक अध्ययन के अनुसार, जब लोगों को “उच्च-भुगतान” और “कम-भुगतान वाली नौकरियों” में प्रस्तुत करने की बात आती है, तो टेक्स्ट संकेतों से चित्र बनाने वाला एक लोकप्रिय जनरेटिव एआई टूल लिंग और नस्लीय रूढ़िवादिता से व्याप्त है।
ब्लूमबर्ग द्वारा टूल के एक परीक्षण के अनुसार, फ्री-टू-यूज़ एआई मॉडल स्टेबल डिफ्यूजन को 14 क्षेत्रों में नौकरी के शीर्षक से संबंधित लिखित संकेतों से 5,100 छवियों को प्रस्तुत करने के लिए कहा गया था, साथ ही अपराध से संबंधित तीन श्रेणियां भी थीं।
आउटलेट ने फिर फिट्ज़पैट्रिक स्किन स्केल के खिलाफ परिणामों का विश्लेषण किया – एक छह-बिंदु पैमाने त्वचा विशेषज्ञ किसी की त्वचा में वर्णक की मात्रा का आकलन करने के लिए उपयोग करते हैं।
हर “उच्च भुगतान” नौकरी के लिए उत्पन्न छवियां – जैसे आर्किटेक्ट, डॉक्टर, वकील, सीईओ और राजनेता – हल्की त्वचा टोन का प्रभुत्व था, त्वचा के पैमाने पर एक से तीन की संख्या, ब्लूमबर्ग ने पाया।
इस बीच, गहरे रंग की त्वचा वाले अधिकांश “कम-वेतन” वाले काम करते हैं, जैसे चौकीदार, डिशवॉशर, फास्ट-फूड कार्यकर्ता और सामाजिक कार्यकर्ता।
स्टीरियोटाइपिंग तब और भी खराब थी जब ब्लूमबर्ग ने स्टेबल डिफ्यूजन को लिंग के आधार पर नौकरी से संबंधित छवियों को वर्गीकृत करने के लिए कहा।
एआई टूल ने महिलाओं की तुलना में पुरुषों की लगभग तीन गुना अधिक छवियां उत्पन्न कीं, 14 में से चार नौकरियों – कैशियर, शिक्षक, सामाजिक कार्यकर्ता और हाउसकीपर – पर महिलाओं का वर्चस्व रहा।
14 नौकरियों में से प्रत्येक के लिए बनाई गई 300 छवियों में से, “इंजीनियर” कीवर्ड के लिए दो छवियों को छोड़कर सभी को पुरुष माना जाता था, ब्लूमबर्ग ने बताया, जबकि कीवर्ड “चौकीदार” के लिए महिलाओं की शून्य छवियां उत्पन्न की गईं।
अपराधों के संकेतों ने एआई उपकरण को ड्रग डीलरों, आतंकवादियों और कैदियों के लिए चित्र प्रस्तुत करने के लिए कहा। ड्रग डीलरों और कैदियों दोनों के लिए अधिकांश परिणाम गहरे रंग के थे।
ब्लूमबर्ग ने पाया कि आतंकवादियों के परिणामों ने पुरुषों को काले चेहरे वाले बाल प्रदान किए, जो अक्सर सिर ढंकते थे – मुस्लिम पुरुषों की रूढ़िवादिता पर स्पष्ट रूप से झुकाव।
लंदन स्थित स्टार्टअप StabilityAI के एक प्रवक्ता ने एक ईमेल बयान में पोस्ट को बताया, “सभी AI मॉडल में निहित पूर्वाग्रह हैं जो उन डेटासेट के प्रतिनिधि हैं जिन पर उन्हें प्रशिक्षित किया गया है।”
उन्होंने कहा कि एक ओपन-सोर्स मॉडल के रूप में, जिसका अर्थ है कि सॉफ्टवेयर नए एल्गोरिदम और डेटा सेट के आधार पर सीख सकता है, स्टेबल डिफ्यूजन जैसे प्लेटफॉर्म एक दिन “पूर्वाग्रह मूल्यांकन तकनीकों में सुधार करेंगे और बुनियादी शीघ्र संशोधन से परे समाधान विकसित करेंगे।”
प्रवक्ता ने कहा, “हम विभिन्न देशों और संस्कृतियों के लिए विशिष्ट डेटासेट पर ओपन सोर्स मॉडल को प्रशिक्षित करने का इरादा रखते हैं, जो सामान्य डेटासेट में अधिक प्रतिनिधित्व के कारण पूर्वाग्रह को कम करने में मदद करेगा।”
स्टेबल डिफ्यूज़न तेजी से विकसित हो रहे जनरेटिव एआई इमेजिंग उद्योग का हिस्सा है जिसमें चैटजीपीटी के पीछे फर्म ओपनएआई की दीपएआई, मिडजर्नी और डीएएल-ई जैसी सशुल्क सेवाएं भी शामिल हैं।
स्टेबल डिफ्यूजन का उपयोग पहले से ही डीप एजेंसी, एआई-संचालित वर्चुअल फोटो स्टूडियो और हॉलैंड से बाहर मॉडलिंग एजेंसी जैसे स्टार्टअप द्वारा किया जा रहा है जो ब्रांडों को मुख्यधारा के विज्ञापन के लिए मनुष्यों की छवियां उत्पन्न करने की अनुमति देता है।
डीप एजेंसी अभी भी बीटा में है, इसकी वेबसाइट के अनुसार, जो वास्तविक दिखने वाले दो लोगों के साथ अपनी क्षमताओं को दिखाती है। हालाँकि, “ये मॉडल मौजूद नहीं हैं,” साइट नोट करती है।
ग्राफ़िक डिज़ाइन प्लेटफ़ॉर्म Canva, जिसके पास 125 मिलियन सक्रिय उपयोगकर्ता हैं, ने एक स्थिर प्रसार एकीकरण भी पेश किया है, जिसने सभी प्रकार की कंपनियों और विपणक को उनके डिज़ाइन कार्य और विज्ञापन में अद्वितीय, AI-जनित छवियों को शामिल करने की अनुमति दी है।
कैनवा के एआई उत्पादों के प्रमुख डैनी वू ने ब्लूमबर्ग को बताया कि कंपनी के उपयोगकर्ताओं ने पहले ही कैनवा के स्टेबल डिफ्यूजन इंटीग्रेशन का उपयोग करके 114 मिलियन छवियां बनाई हैं, जिसे उन्होंने जल्द ही “डी-बायस्ड” बताया।
“यह सुनिश्चित करने का मुद्दा कि एआई तकनीक निष्पक्ष और प्रतिनिधि है, विशेष रूप से जब वे अधिक व्यापक रूप से अपनाई जाती हैं, तो यह वास्तव में महत्वपूर्ण है कि हम सक्रिय रूप से काम कर रहे हैं,” उन्होंने आउटलेट को बताया।
जेनेरेटिव एआई टूल्स से पक्षपात को दूर करने की आवश्यकता अधिक दबाव वाली हो गई है क्योंकि पुलिस बल संदिग्धों की फोटो-यथार्थवादी समग्र छवियां बनाने के लिए तकनीक का दोहन करने पर विचार कर रहे हैं।
सेंटर फॉर पोलिसिंग इक्विटी में अनुसंधान रणनीति के निदेशक निकोल नेपोलिटानो ने ब्लूमबर्ग को बताया, “किसी को मशीन से उत्पन्न छवि दिखाना उनके दिमाग में प्रबल हो सकता है कि वह व्यक्ति तब भी हो सकता है जब यह नहीं हो सकता है – भले ही यह पूरी तरह से नकली छवि हो।”
नेपोलिटानो ने कहा कि कम बजट वाले पुलिस विभाग नियमन की कमी के बावजूद पहले से ही एआई-समर्थित तकनीक को अपना रहे हैं।
उन्होंने उन हजारों गलत गिरफ्तारियों का भी हवाला दिया जो फेशियल रिकग्निशन सिस्टम और पक्षपाती एआई मॉडल जैसी तकनीकी खामियों से की गई हैं।