संवेदनशील सामग्री चेतावनी
यह लेख आत्महत्या और बच्चों के यौन शोषण सहित उन विषयों पर चर्चा करता है जो पाठकों के लिए परेशान करने वाले हो सकते हैं।
जब Google के एल्गोरिदम उस तरह काम करते हैं जैसे उन्हें करना चाहिए — जब वे आपको वह जानकारी दिखाते हैं जिसकी आप तलाश कर रहे हैं और न कि बकवास या अजीब पोर्न या प्रचार या खतरनाक चिकित्सा सलाह — तो आपको धन्यवाद देने के लिए एड स्टैकहाउस जैसे लोग हैं।
स्टैकहाउस वह है जिसे Google “रेटर” कहता है। जब इसका खोज इंजन किसी दी गई खोज के लिए उत्पन्न परिणामों के बारे में अनिश्चित होता है, तो स्टैकहाउस का काम यह तय करना है कि लोगों को किसे देखना चाहिए।
यह एक समय लेने वाली और शोध-गहन प्रक्रिया हो सकती है। यह मानव अनुभव के सबसे अंधेरे कोनों में एक खिड़की, कठोर भी हो सकता है। “मैं हाल ही में जो देख रहा हूं वह आत्महत्या मंच हैं,” उन्होंने कहा। “‘अगर मैं 5’9 का हूं तो खुद को लटकाने का सबसे अच्छा तरीका क्या है?” ‘मुझे कितनी लंबी रस्सी का इस्तेमाल करना चाहिए?’”
एक और चीज़ जो वह पिछले कुछ हफ़्तों में देख रहा है, वह एक नए प्रकार का खोज परिणाम है: जो एआई-जनित लेख प्रतीत होते हैं, उन्हें सटीक या गलत, उचित या खौफनाक, शैलीगत रूप से बिंदु या लक्ष्य से दूर करने के संकेत के साथ।
“वे वास्तव में हमें यह नहीं बताते कि यह बार्ड है,” स्टैकहाउस ने कहा, “लेकिन इसमें बार्ड की उंगलियों के निशान हैं।”
बार्ड, यदि आप परिचित नहीं हैं, तो एक के रूप में स्वागत किए जाने में Google का प्रवेश है एआई हथियारों की दौड़, जिसके पास बिग टेक के सबसे बड़े खिलाड़ी हैं जो पूरी तरह से परिपूर्ण और मार्केट चैटबॉट चला रहे हैं जो मनुष्यों की तरह बातचीत कर सकते हैं। इसका प्राथमिक प्रतिद्वंद्वी है माइक्रोसॉफ्ट, जो बिंग के एक नए संस्करण को दिखाने के लिए उत्सुक है, जो इसके द्वारा चलाया जाने वाला सर्च इंजन है, जो चैटजीपीटी के रूप में जानी जाने वाली इंटरनेट सनसनी से ताज़ा है। (फेसबुक पैरेंट मेटा, परिधि की परिक्रमा कर रहा है, यह देखने के लिए पानी का परीक्षण कर रहा है कि क्या यह है घोटालों से भरी प्रतिष्ठा इसे प्रतिस्पर्धा करने की अनुमति देगी.)
दांव काफी ऊंचे साबित हो सकते हैं: जैसे-जैसे चीजें खड़ी होती हैं, Google के पास खोज, संग्रहण में लगभग एकाधिकार हो जाता है प्रति तिमाही राजस्व में $ 40 बिलियन इसके व्यापार के उस हिस्से से। Microsoft के मुख्य कार्यकारी अधिकारी सत्या नडेला का मानना है कि संवादात्मक खोज में बदलाव स्कोरबोर्ड को रीसेट कर सकता है। उन्होंने वॉल स्ट्रीट जर्नल को बताया, “मैं उपयोगकर्ताओं के लिए आखिरकार एक विकल्प के लिए उत्साहित हूं।”
निवेशक सहमत प्रतीत होते हैं: Google की मूल कंपनी, अल्फाबेट का बाजार पूंजीकरण, बार्ड द्वारा अपने शुरुआती डेमो में एक त्रुटि के बाद $ 100 बिलियन से अधिक गिर गया, जो खेल में वित्तीय प्रोत्साहन और गलत होने की लागत दोनों की एक झलक पेश करता है।
खोज इंजन हमेशा सत्य के लिए अविश्वसनीय वाहक रहे हैं, लेकिन चैटबॉट खोज इंटरफेस विशेष रूप से विश्वासघाती हैं, जिसे “एक सही उत्तर” समस्या करार दिया गया है: संभावित परिणामों की एक सूची प्रस्तुत करने और उपयोगकर्ताओं को उनके बीच चयन करने के लिए आमंत्रित करने के बजाय, वे सेवा करते हैं एक विहित उत्तर। जब सवाल यह है कि “क्या बच्चे को उबालना सुरक्षित है?” और उत्तर “हाँ” है – बिंग से वास्तविक जीवन का उदाहरण – आपको परेशानी हुई है।
ऐसा होने पर, आप उम्मीद कर सकते हैं कि इसमें शामिल कंपनियां गुणवत्ता-नियंत्रण कार्य पर एक प्रीमियम लगाएंगी जो उनके कथित रूप से स्मार्ट नए सॉफ़्टवेयर टूल को मूर्खतापूर्ण भूलों से बचने में मदद करता है। इसके बजाय, जो मनुष्य उस काम को करते हैं उन्हें डिस्पोजेबल माना जाता है।
“हम अमेरिका में सबसे कम मजदूरी करते हैं,” स्टैकहाउस, जो लगभग एक दशक से एक रेटर है, कहते हैं। “मैं व्यक्तिगत रूप से फास्ट फूड में काम करने वाली अपनी बेटी की तुलना में प्रति घंटे $ 3 कम कमाता हूँ।”
फरवरी की शुरुआत में, जब Google और Microsoft अपनी शानदार चैटबॉट घोषणाओं को तैयार कर रहे थे, स्टैकहाउस वितरित करने में रेटर्स के एक समूह में शामिल हो गया एक याचिका Google को, कंपनी से अपने आप से मिलने की मांग करना न्यूनतम मानक बताए गए हैं. रेटर्स अक्सर $14 प्रति घंटे जितना कम कमाते हैं – $15 से कम जो Google ठेकेदारों से वादा करता है। स्टैकहाउस को दिल की गंभीर स्थिति है जिसके लिए चिकित्सा प्रबंधन की आवश्यकता है, लेकिन उसका नियोक्ता, एपेन – जिसका एकमात्र ग्राहक Google है – प्रति सप्ताह 26 पर अपने घंटे की सीमा तय करता है, उसे अंशकालिक रखता है, और लाभ के लिए अयोग्य है। यह हजारों रेटर्स के लिए मानक नीति है।
रेटर्स बोलने में असंतुष्ट ठेकेदारों की एक लहर में शामिल हो गए: कार्यकर्ता जो सुनिश्चित करते हैं कि YouTube वीडियो में सही मेटाडेटा शामिल है, उसी सप्ताह अनुचित श्रम प्रथाओं का आरोप लगाते हुए हड़ताल पर चले गए। वह बैरल के नीचे भी नहीं है। ए समय पत्रिका जाँच पड़ताल पता चला कि केन्या में ठेकेदारों को चैटजीपीटी के लिए सामग्री की समीक्षा करने के लिए $2 प्रति घंटे से कम का भुगतान किया जा रहा था – यह इतना जहरीला था कि इसने उन्हें आघात पहुँचाया।
इस तथ्य में एक निश्चित क्रूर विडंबना है कि जैसा कि वर्षों में उच्चतम-प्रोफ़ाइल तकनीक अपनी शुरुआत करती है, जो इसे रेल पर रखने के लिए सबसे उपयुक्त होती हैं, वे उन कंपनियों में सबसे अधिक अनिश्चित होती हैं जिनकी उन्हें आवश्यकता होती है। यह कोई दुर्घटना नहीं है। चैटबॉट एक तरह का मैजिक ट्रिक है; भ्रम के ठीक से काम करने के लिए, बॉक्स के अंदर छिपे सहायकों को दर्शकों से छिपा रहना चाहिए, उनके योगदान पर कोई टिप्पणी नहीं की जानी चाहिए।
जबकि Google और Microsoft चाहते हैं कि आप भूल जाएं कि वे मौजूद हैं, श्रमिकों के लिए, भूलना इतनी आसानी से नहीं आता है।
स्टैकहाउस कहते हैं, “मैंने नस्लीय झुकाव, कट्टरता और हिंसा के साथ-साथ भयानक चिकित्सा गोर और कट्टर अश्लील साहित्य के कार्यों को देखा है।” “कई बार मैंने अपने सपनों में कुछ ग्राफिक सामग्री को फिर से देखा है। यही कारण है कि मैं अब कभी देर रात काम नहीं करता। अपने 10 वर्षों में दो बार, मैंने चाइल्ड पोर्न देखा है, लेकिन भगवान का शुक्र है कि यह अत्यंत दुर्लभ है। मैं छोड़ दूंगा।
सबसे खराब, शायद, अगर आप काम करना चाहते हैं, तो आप जिस तरह की सामग्री की समीक्षा करते हैं उसे सीमित नहीं कर सकते। स्टैकहाउस कहते हैं, “यदि आप अश्लील सामग्री से बाहर निकलते हैं, तो आप अपने कार्यों को कम कर सकते हैं।” “इसलिए ज्यादातर लोग ऑप्ट आउट नहीं करते हैं।”
एपेन में स्टैकहाउस जैसे 5,000 से अधिक रेटर्स काम कर रहे हैं, और Google, माइक्रोसॉफ्ट और मेटा के कारोबार के अन्य हिस्सों के लिए अन्य सहायक कंपनियों के रेटिंग डेटा पर हजारों और हैं।
“ऐसा लगता है जैसे हम गुमनाम हैं,” स्टैकहाउस कहते हैं। “हम भूत हैं।”
केटी मार्सचर कहती हैं, “हम बहुत कुछ नहीं मांग रहे हैं, बस उचित वेतन और दूरस्थ रूप से काम करने के लिए,” केवल मनुष्य के रूप में स्वीकार किए जाने के लिए, न कि केवल एक स्प्रेडशीट पर संख्या के लिए। मार्स्चर वर्तमान में कॉग्निजेंट के समान काम से हड़ताल पर है, एक ठेकेदार जिसका कार्यबल YouTube के लिए गुणवत्ता नियंत्रण करता है।
“हम वास्तव में इस दो स्तरीय प्रणाली का हिस्सा हैं,” उसने कहा। “Google कर्मचारी हैं, और उन्हें स्टॉक विकल्प मिलते हैं और वास्तव में अच्छा भुगतान किया जाता है, और यह पूरा अन्य कार्यबल है।”
मार्सचर और उनके सहयोगियों ने हाल ही में अमेरिका के कोड वर्कर्स के साथ एक संघ बनाने के लिए मतदान किया। कुछ ही समय बाद, कॉग्निजेंट ने उन्हें सूचित किया कि यह एक अनिवार्य कार्य-से-कार्यालय नीति स्थापित कर रहा है। चूंकि बहुत से कर्मचारी स्थानांतरित करने का जोखिम नहीं उठा सकते, श्रमिकों ने इस कदम को प्रतिशोध के रूप में देखा। जब यह हिलता नहीं था, YouTube कार्यकर्ताओं ने हड़ताल करने के लिए मतदान किया।
“हम इस प्रणाली को खत्म करने की कोशिश करना चाहते हैं; यह श्रमिकों का शोषण करता है और उन्हें वास्तव में कमजोर बनाता है, और हमें नहीं लगता कि यह सही है,” वह कहती हैं।
यह कभी ठीक नहीं रहा। लेकिन दुनिया की कुछ सबसे अधिक लाभदायक कंपनियां अब एक पूरे नए व्यवसाय के साथ अपने प्रभुत्व का विस्तार करने के लिए तैयार हैं, जो कि उनके सबसे कम वेतन वाले श्रमिकों के परिश्रम के बिना मौजूद नहीं होगा, यह उच्च समय है कि मशीन में भूत खुद को दिखाते हैं, और मान्यता प्राप्त करते हैं। वे देय हैं।