हजारों लोगों ने इस एआई ‘वर्चुअल गर्लफ्रेंड’ से चैट की। फिर चीजें और भी अजीब हो गईं

पिछले महीने, कैरिन मार्जोरी एक सफल लेकिन विशिष्ट सोशल मीडिया स्टार से राष्ट्रीय हित के व्यक्ति बन गए: का विषय ध्यान हथियाने मुख्य बातें और, कई टिप्पणीकारों के लिए, एक टेम्पलेट जिस पर वे तेजी से आगे बढ़ रही कृत्रिम बुद्धिमत्ता के बारे में अपनी चिंताओं को व्यक्त कर सकते हैं।

हंगामे का कारण एक साझेदारी थी, 23 वर्षीय मार्जोरी ने एक प्रौद्योगिकी स्टार्टअप के साथ स्कॉट्सडेल, एरीज़-आधारित जीवन शैली प्रभावकार का एक व्यक्तिगत एआई “क्लोन” बनाने का वादा किया था। एक डॉलर प्रति मिनट के लिए, जिन प्रशंसकों के पास उनसे मिलने का समय नहीं होता, वे इसके बजाय मार्जोरी के डिजिटल डबल के साथ चैट कर सकते हैं।

CarynAI, जैसा कि ऑडियो चैटबॉट को डब किया गया है, को स्पष्ट रूप से एक रोमांटिक साथी के रूप में तैयार किया गया है – जिसका उद्देश्य सॉफ़्टवेयर के साथ “अकेलेपन को ठीक करना” है जो कथित तौर पर संज्ञानात्मक व्यवहार थेरेपी के पहलुओं को अपनी बातचीत में शामिल करता है। मार्जोरी ने कहा कि उनके प्रशंसकों ने जीवन संबंधी सलाह मांगने और समुद्र तट पर सूर्यास्त की भूमिका निभाने के लिए कार्यक्रम का उपयोग किया है।

मार्जोरी एक समय ट्वीट में अपने ग्राहकों की वृद्धि पर नज़र रख रही थी कि उसके कितने नए “बॉयफ्रेंड” हैं। उन्होंने द टाइम्स को बताया, “उन्हें ऐसा लगता है जैसे वे आखिरकार मुझे जान रहे हैं, भले ही वे पूरी तरह से जानते हों कि यह एक एआई है।”

पिलो टॉक के इस एचएएल 9000 संस्करण ने, अनुमानतः, प्रतिक्रिया उत्पन्न कर दी है। आलोचकों ने CarynAI को बारी-बारी से महिलाओं को अपमानित करने वाला, असामाजिक सीधे-पुरुष व्यवहार को सक्षम करने वाला या आसन्न सामाजिक पतन का संकेत देने वाला बताया। नौकरियों, रिश्तों और सांस्कृतिक संस्थानों के लिए एआई का क्या मतलब है, इस बारे में अनिश्चितता के दौर के बीच, स्व-स्वचालन की ओर मार्जोरी का कदम एक तेजी से विचित्र वर्तमान को पूरी तरह से समाहित करता हुआ प्रतीत हुआ।

“हम एक एआई प्रणाली के बारे में बात कर रहे हैं [where] सैद्धांतिक रूप से लक्ष्य लोगों को यथासंभव लंबे समय तक बनाए रखना है ताकि आप पैसा कमाना जारी रखें, ”परामर्श फर्म फ्यूचर टुडे इंस्टीट्यूट के मुख्य कार्यकारी एमी वेब ने कहा। “जिसका अर्थ है कि यह संभवतः उस व्यवहार को प्रोत्साहित करना शुरू कर देगा जो हम वास्तविक दुनिया में शायद नहीं चाहेंगे।”

वेब ने एक उदाहरण के रूप में एक बॉट का सुझाव दिया जो बहुत आज्ञाकारी है – उदाहरण के लिए, निष्क्रिय रूप से सुनना, जैसा कि एक उपयोगकर्ता परेशान करने वाली कल्पनाओं का वर्णन करता है। मार्जोरी ने पहले भी इसी तरह की गतिशीलता को संबोधित किया है (“यदि आप CarynAI के प्रति असभ्य हैं, तो यह आपको छोड़ देगा,” उसने कहा ट्वीट किए एक बिंदु पर), लेकिन जब वेब के परिप्रेक्ष्य के बारे में पूछा गया तो उसने लत के बारे में अपनी चिंताओं पर जोर दिया।

मार्जोरी ने कहा, “मैंने अपने प्रशंसकों को CarynAI के साथ चैट करने में कुछ ही दिनों में हजारों डॉलर खर्च करते देखा है;” बॉट के प्रोत्साहन पर एक प्रशंसक ने उनकी एक मंदिर जैसी फोटो वॉल बनाई। “यही कारण है कि हमने CarynAI को प्रति दिन केवल 500 नए उपयोगकर्ताओं को स्वीकार करने तक सीमित कर दिया है।”

जैसे-जैसे AI अर्थव्यवस्था और विशेष रूप से रचनात्मक उद्योगों में बढ़ती भूमिका निभा रहा है, CarynAI द्वारा पूछे गए प्रश्न और अधिक व्यापक हो जाएंगे।

लेकिन मार्जोरी अभी तक अपने सभी चिप्स प्रौद्योगिकी पर नहीं लगा रही है। अपने एआई क्लोन की घोषणा करने के कुछ ही हफ्तों के भीतर, उसने एक अलग तकनीकी कंपनी के साथ दूसरी साझेदारी शुरू की। यह भी प्रशंसकों को उनसे बात करने का मौका देगा, लेकिन इसके बजाय स्क्रीन के दूसरी तरफ मार्जोरी खुद होंगी।

उन्होंने बेवर्ली हिल्स-आधारित प्लेटफ़ॉर्म फैनफ़िक्स के साथ एक सौदा किया, जो सोशल मीडिया रचनाकारों को उनकी प्रीमियम सामग्री को पेवॉल के पीछे रखने में मदद करता है, और ग्राहकों के साथ सीधे चैट करने के लिए इसके मैसेजिंग टूल का उपयोग करना शुरू कर दिया।

परिणाम मूल रूप से एक दो-स्तरीय व्यवसाय मॉडल है जहां अकेले लोग सुबह 3 बजे चैट सत्र की तलाश में मार्जोरी की मशीन की नकल के साथ बात कर सकते हैं, जबकि कुछ अधिक खर्च करने के इच्छुक कट्टर प्रशंसक वास्तविक लेख के लिए भुगतान कर सकते हैं।

कुछ हफ्तों के अंतराल में मार्जोरी ने दो अलग-अलग, प्रतीत होता है विरोधाभासी व्यावसायिक उद्यम लॉन्च किए – दोनों का उद्देश्य प्रशंसकों की बातचीत को पैसे में बदलना है – एआई-जुनूनी क्षण के एक केंद्रीय प्रश्न पर बात करता है: रोबोट तेजी से रचनात्मक उद्योगों में उलझ रहे हैं, क्या काम करना चाहिए उनसे पूछा जाए और हम पर क्या छोड़ा जाए?

मार्जोरी का हाइब्रिड मॉडल आगे बढ़ने के एक संभावित रास्ते का पूर्वावलोकन प्रदान करता है।

सह-संस्थापक हैरी गेस्टेटनर ने कहा, फैनफिक्स पर संदेश भेजने के लिए उपयोगकर्ता न्यूनतम $5 का भुगतान करते हैं। वह मूल्य अंतर – एक मानव-से-मानव पाठ के लिए $5 बनाम एआई वॉयस-चैटिंग के एक मिनट के लिए $1 – स्वचालन के लिए एक दृष्टिकोण का संकेत देता है जिसमें कर्मचारी मशीन लर्निंग का उपयोग थोक प्रतिस्थापन के रूप में नहीं बल्कि अधिक के लिए निचले-अंत विकल्प के रूप में करते हैं। मितव्ययी ग्राहक. (एक कारीगर किसान बाजार पनीर बनाम एक मशीन-निर्मित क्राफ्ट सिंगल के बारे में सोचें।)

गेस्टेटनर ने कहा, “फैनफिक्स पर किसी प्रशंसक के साथ सीधे संदेश भेजना हमेशा एक प्रीमियम अनुभव रहेगा।” “एआई को सह-पायलट के रूप में देखना महत्वपूर्ण है, पायलट के रूप में नहीं।”

(फैनफिक्स के मुताबिक, प्लेटफॉर्म पर सॉफ्ट-लॉन्चिंग के बाद मार्जोरी प्रति दिन 10,000 डॉलर कमा रही है और साल के अंत तक कुल कमाई 5 से 10 मिलियन डॉलर तक पहुंचने का अनुमान है।)

जॉन मेयर, फॉरएवर वॉयस के संस्थापक, ऑस्टिन सॉफ्टवेयर कंपनी जिसने मार्जोरी के एआई सिमुलैक्रम को विकसित किया है, स्वाभाविक रूप से कंप्यूटर पर प्रशंसक इंटरैक्शन के लाभों पर थोड़ा अधिक आशावादी है। कुछ मामलों में, मेयर ने कहा, बॉट उन प्रभावशाली लोगों की तुलना में अधिक वाक्पटु हो सकते हैं जिन्हें वे दोहराने के लिए बने हैं।

“पहली भावनाओं में से एक जो यह सामने लाती है वह यह विचार है, जैसे, ‘वाह, क्या मुझे अपनी ही एआई कॉपी से खतरा होना चाहिए?” मेयर ने कहा।

जब वह 20 वर्ष के थे, तब उन्होंने अपने पिता को खो दिया था और पिछले साल के अंत में उन्होंने दोबारा जुड़ने के साधन के रूप में फॉरएवर वॉयस तकनीक पर काम करना शुरू किया। अपने पिता की आवाज की प्रतिकृति विकसित करने के बाद – जिसे वह “बहुत यथार्थवादी और उपचारात्मक” बताते हैं – मेयर ने विभिन्न मशहूर हस्तियों और हाल ही में, वेब हस्तियों की आवाज क्लोन में विस्तार किया। (ऑनलाइन लाइवस्ट्रीमिंग में सबसे बड़े नामों में से एक, कैटिलिन “अमोरैंथ” सिरागुसा, बस साइनअप किया.)

मेयर के अनुसार, कंपनी के पास हजारों अन्य प्रभावशाली लोगों के अपने स्वयं के एआई क्लोन मांगने के अनुरोधों की बाढ़ आ गई है। “हम वास्तव में इसे प्रभावशाली लोगों के प्रशंसकों को अपने पसंदीदा व्यक्ति के साथ वास्तव में गहराई से जुड़ने की अनुमति देने के एक तरीके के रूप में देखते हैं: उनके बारे में जानें, उनके साथ बढ़ें और उनके साथ यादगार अनुभव प्राप्त करें,” उन्होंने कहा।

उच्च मांग आंशिक रूप से इसलिए है क्योंकि पर्याप्त ऑनलाइन फ़ॉलोअर्स को बनाए रखने में बहुत सारे काम शामिल हो सकते हैं – यह सब विशेष रूप से दिलचस्प नहीं है।

मार्जोरी ने कहा, “दैनिक आधार पर, मैं स्नैपचैट पर 100,000 से लेकर पांच लाख तक संदेश देखती हूं।” (मैसेजिंग ऐप पर उसके 2 मिलियन फॉलोअर्स हैं; वाशिंगटन पोस्ट के हालिया लेख के अनुसार, उनमें से 98% पुरुष हैं।)

उन्होंने आगे कहा, “मैं एआई को एक उपकरण के रूप में देखती हूं और यह एक ऐसा उपकरण है जो रचनाकारों को बेहतर सामग्री बनाने में मदद करता है।”

हालाँकि, उनके उद्योग जगत के कुछ साथी संशय में हैं, जिनमें 20,000 फॉलोअर्स वाली टिकटॉकर वेलेरिया फ्राइडगोटो भी शामिल हैं।

हालाँकि, फ्राइडेगोट्टो ने प्रौद्योगिकी को पूरी तरह से ख़त्म नहीं किया है। उन्होंने कहा, ऐसा सॉफ़्टवेयर जो प्रशंसकों के संपर्क के कार्यभार को कम कर सकता है, बहुत अच्छा होगा, लेकिन उन्होंने अब तक जो उदाहरण जारी किए हैं, वे पर्यवेक्षण के बिना चलाने के लिए पर्याप्त सजीव नहीं लगते हैं। अभी भी बहुत सारी त्रुटियां और गैर-अनुक्रमिकताएं हैं – जिसे एआई विशेषज्ञ “मतिभ्रम” कहते हैं।

फ्राइडगोट्टो ने कहा, “इसे उस बिंदु तक विकसित किया जाना चाहिए जहां हमें पूरा विश्वास हो कि यह तकनीक हमारे जितना ही अच्छा या उससे भी बेहतर काम करेगी।”

जैसे-जैसे बाज़ार नकलचियों से भर जाता है, कुछ प्रभावशाली लोग “पुराने-स्कूल” मानव-निर्मित सामग्री की नए सिरे से मांग भी खोज सकते हैं।

वीडियो को स्वचालित रूप से डब करने के लिए एआई का उपयोग करने वाले स्टार्टअप पेपरकप के मुख्य कार्यकारी जेसी शेमेन ने कहा, “लोग प्रामाणिक, व्यक्तित्व-संचालित सामग्री की ओर अधिक झुकाव करना शुरू कर देंगे।” “उसी तरह से जैविक भोजन के प्रति आकर्षण और बड़ी संख्या में अनुयायी हैं… मुझे लगता है कि जब सामग्री की बात आती है तो हम वही चीज़ देखेंगे।”

शेमेन ने कहा, सोशल मीडिया पर स्वचालन के लिए एक जगह है, खासकर उन लोगों के लिए जो कम समय में बहुत सारी सामग्री तैयार करते हैं – उदाहरण के लिए समाचार प्रतिक्रिया वीडियो। लेकिन, उन्होंने भविष्यवाणी की, मार्जोरी जैसे डिजिटल क्लोन के लिए एक सीमित बाजार होगा।

फिर भी, एआई जैसी झागदार जगह को नजरअंदाज करना मुश्किल है। यहां तक ​​कि (असली) मार्जोरी को उसके सुपर प्रशंसकों से बात करने में मदद करने वाली कंपनी फैनफिक्स भी दिलचस्पी रखती है। कंपनी के संस्थापकों का कहना है कि वे सक्रिय रूप से इस बात पर विचार कर रहे हैं कि एआई प्रभावशाली लोगों की कैसे मदद कर सकता है।

हालाँकि प्रभावशाली अर्थव्यवस्था को अभी भी वास्तविक मनुष्यों की आवश्यकता है, AI जो कर सकता है उसकी सीमाएँ कम हो रही हैं, और कई वेब हस्तियाँ अपने कम से कम कुछ कार्यभार को स्वचालित करने के लिए प्रौद्योगिकी का उपयोग करने में अधिक रुचि ले रही हैं।

ऐसे सवाल सोशल मीडिया तक ही सीमित नहीं हैं. कृत्रिम बुद्धिमत्ता को आगे बढ़ाया जा रहा है रचनात्मक उद्योगों मेंबज़फीड जैसे मीडिया आउटलेट्स के साथ शामिल यह उनके प्रकाशनों में और फ़िल्म स्टूडियो पोस्टप्रोडक्शन कार्य के लिए इसका उपयोग करना। एआई-आधारित पटकथा लेखन एक के रूप में उभरा है मुख्य चिंता राइटर्स गिल्ड ऑफ अमेरिका की चल रही हड़ताल में।

लेकिन सोशल मीडिया विशिष्ट रूप से व्यक्तित्व-संचालित है, जिससे एआई के साथ इस क्षेत्र का संबंध विशेष रूप से भयावह हो गया है। वेब व्यक्तित्वों का मूल्य उनके अनुयायियों से विश्वास और आत्मीयता जीतने की उनकी क्षमता पर निर्भर करता है। वह कनेक्शन इतना शक्तिशाली हो सकता है कि कुछ विशेषज्ञ इसे “परसामाजिक संबंध” – एक सार्वजनिक व्यक्ति के प्रति एक मजबूत लेकिन अंततः एकतरफा भक्ति।

इसे नेविगेट करना एक मुश्किल काम है और मार्जोरी खुद को इसके बीच में पाती है।

“एआई की दुनिया में, प्रामाणिकता पहले से कहीं अधिक महत्वपूर्ण है,” प्रभावशाली व्यक्ति ट्वीट किए पिछला महीना। “मेरे ट्वीट्स, [direct messages]सीधे उत्तर, स्नैप, कहानियां और पोस्ट हमेशा मेरे साथ रहेंगे।”

उन्होंने आगे कहा, CarynAI उनकी चेतना का “विस्तार” होगा; यह “कभी भी मेरी जगह नहीं लेगा।”