मिसलिग्न्मेंट म्यूज़ियम की क्यूरेटर ऑड्रे किम “स्पैमबॉट्स” नामक प्रदर्शनी में एक काम पर चर्चा करती हैं।
किफ़ लेस्विंग / सीएनबीसी
ऑड्रे किम को पूरा यकीन है कि एक शक्तिशाली रोबोट अपने लक्ष्यों को पूरा करने के लिए उसके शरीर से संसाधनों का उपयोग नहीं करेगा।
लेकिन वह संभावना को गंभीरता से ले रही है।
“रिकॉर्ड पर: मुझे लगता है कि यह अत्यधिक संभावना नहीं है कि एआई मुझे पेपरक्लिप्स में बदलने के लिए मेरे परमाणुओं को निकालेगा,” किम ने सीएनबीसी को एक साक्षात्कार में बताया। “हालांकि, मैं देखता हूं कि इस तकनीक के साथ बहुत सारे संभावित विनाशकारी परिणाम हो सकते हैं।”
किम मिसलिग्न्मेंट म्यूजियम के पीछे क्यूरेटर और ड्राइविंग फोर्स है, जो सैन फ्रांसिस्को के मिशन डिस्ट्रिक्ट में एक नई प्रदर्शनी है जिसमें कलाकृति प्रदर्शित की गई है जो “एजीआई” या कृत्रिम सामान्य बुद्धि की संभावना को संबोधित करती है। यह एआई इतना शक्तिशाली है कि यह मनुष्यों की तुलना में तेजी से अपनी क्षमताओं में सुधार कर सकता है, एक फीडबैक लूप बना सकता है जहां यह बेहतर और बेहतर हो जाता है जब तक कि यह अनिवार्य रूप से असीमित मस्तिष्क शक्ति प्राप्त न कर ले।
यदि सुपर-शक्तिशाली एआई को मनुष्यों के साथ जोड़ दिया जाता है, तो यह भूख या काम का अंत हो सकता है। लेकिन अगर यह “गलत तरीके से” है, तो चीजें खराब हो सकती हैं, सिद्धांत जाता है।
या, मिसलिग्न्मेंट संग्रहालय में एक संकेत के रूप में कहा गया है: “अधिकांश मानवता को मारने के लिए क्षमा करें।”
सड़क से “अधिकांश मानवता को मारने के लिए क्षमा करें” वाक्यांश दिखाई दे रहा है।
किफ़ लेस्विंग / सीएनबीसी
“एजीआई” और संबंधित शब्द जैसे “एआई सुरक्षा” या “संरेखण” – या इससे भी पुराने शब्द जैसे “विलक्षणता” – एक विचार का संदर्भ देते हैं जो कृत्रिम बुद्धि वैज्ञानिकों, कलाकारों, संदेश बोर्ड बुद्धिजीवियों और यहां तक कि कुछ के साथ चर्चा का एक गर्म विषय बन गया है। सिलिकॉन वैली में सबसे शक्तिशाली कंपनियों में से।
ये सभी समूह इस विचार के साथ संलग्न हैं कि मानवता को यह पता लगाने की आवश्यकता है कि एआई द्वारा संचालित सभी शक्तिशाली कंप्यूटरों से कैसे निपटा जाए, इससे पहले कि बहुत देर हो जाए और हम गलती से एक का निर्माण कर लें।
प्रदर्शनी के पीछे का विचार किम कहते हैं, जिन्होंने काम किया था गूगल और जीएमकी सेल्फ-ड्राइविंग कार सहायक क्रूज़, यह है कि भविष्य में एक “गलत तरीके से” कृत्रिम बुद्धिमत्ता ने मानवता को मिटा दिया, और इस कला प्रदर्शनी को वर्तमान समय के मनुष्यों से माफी माँगने के लिए छोड़ दिया।
अधिकांश कला न केवल एआई के बारे में है बल्कि एआई-संचालित छवि जेनरेटर, चैटबॉट्स और अन्य टूल्स का भी उपयोग करती है। प्रदर्शनी का लोगो OpenAI के Dall-E छवि जनरेटर द्वारा बनाया गया था, और इसमें लगभग 500 संकेत मिले, किम कहते हैं।
अधिकांश कार्य तेजी से शक्तिशाली कृत्रिम बुद्धिमत्ता के साथ “संरेखण” के विषय के आसपास हैं या “उन नायकों का जश्न मनाते हैं जिन्होंने जल्दी चेतावनी देकर समस्या को कम करने की कोशिश की।”
किम ने कहा, “लक्ष्य वास्तव में विषय के बारे में एक राय निर्धारित करना नहीं है। लक्ष्य तकनीक पर खुद को प्रतिबिंबित करने के लिए लोगों के लिए एक जगह बनाना है।” “मुझे लगता है कि इनमें से बहुत सारे प्रश्न इंजीनियरिंग में हो रहे हैं और मैं कहूंगा कि वे बहुत महत्वपूर्ण हैं। वे गैर-तकनीकी लोगों के लिए भी उतने समझदार या सुलभ नहीं हैं।”
यह प्रदर्शनी वर्तमान में गुरुवार, शुक्रवार और शनिवार को जनता के लिए खुली है और 1 मई तक चलती है। अब तक, इसे मुख्य रूप से एक अनाम दाता द्वारा नियंत्रित किया गया है, और किम को उम्मीद है कि इसे एक स्थायी प्रदर्शनी में बदलने के लिए पर्याप्त दाताओं की तलाश की जाएगी।
किम ने कहा, “मैं इस जगह के बारे में गंभीर रूप से सोचने वाले अधिक लोगों के लिए हूं, और आप तब तक आलोचनात्मक नहीं हो सकते जब तक कि आप तकनीक के बारे में ज्ञान की आधार रेखा पर न हों।” “ऐसा लगता है कि कला के इस प्रारूप से हम बातचीत के कई स्तरों तक पहुँच सकते हैं।”
AGI चर्चाएँ केवल देर रात के डॉर्म रूम की बात नहीं हैं, या तो – वे टेक उद्योग में सन्निहित हैं।
प्रदर्शनी से लगभग एक मील की दूरी पर OpenAI का मुख्यालय है, एक स्टार्टअप जिसके पास 10 बिलियन डॉलर की फंडिंग है माइक्रोसॉफ्टजिसका कहना है कि इसका मिशन एजीआई को विकसित करना और यह सुनिश्चित करना है कि यह मानवता को लाभ पहुंचाए।
इसके सीईओ और लीडर सैम ऑल्टमैन ने पिछले महीने “प्लानिंग फॉर एजीआई” नामक एक 2,400 शब्दों का ब्लॉग पोस्ट लिखा था, जिसमें इस लेख में मदद के लिए एयरबीएनबी के सीईओ ब्रायन चेसकी और माइक्रोसॉफ्ट के अध्यक्ष ब्रैड स्मिथ को धन्यवाद दिया गया था।
मार्क आंद्रेसेन सहित प्रमुख उद्यम पूंजीपतियों ने मिसलिग्न्मेंट संग्रहालय से कला को ट्वीट किया है। जब से यह खोला गया है, प्रदर्शनी ने Microsoft, Google, और सहित कंपनियों में AI के साथ काम करने वाले लोगों द्वारा ली गई प्रदर्शनी की तस्वीरों और प्रशंसा को भी रीट्वीट किया है। NVIDIA.
जैसा कि AI तकनीक तकनीकी उद्योग का सबसे गर्म हिस्सा बन जाती है, कंपनियों के ट्रिलियन-डॉलर के बाजारों पर नज़र रखने के साथ, मिसलिग्न्मेंट म्यूज़ियम इस बात को रेखांकित करता है कि AI का विकास सांस्कृतिक चर्चाओं से प्रभावित हो रहा है।
प्रदर्शनी में पिछले दशक से अस्पष्ट दर्शन पत्रों और ब्लॉग पोस्टों के घने, रहस्यमय संदर्भ शामिल हैं।
ये संदर्भ इस बात का पता लगाते हैं कि एजीआई और सुरक्षा के बारे में वर्तमान बहस बौद्धिक परंपराओं से बहुत कुछ लेती है जो लंबे समय से सैन फ्रांसिस्को में उर्वर जमीन पा चुके हैं: तर्कवादी, जो तथाकथित “प्रथम सिद्धांतों” से तर्क करने का दावा करते हैं; प्रभावी परोपकारी, जो यह पता लगाने की कोशिश करते हैं कि लंबे समय के क्षितिज पर अधिकतम लोगों की अधिकतम भलाई कैसे करें; और बर्निंग मैन का कला दृश्य।
भले ही सैन फ्रांसिस्को में कंपनियां और लोग कृत्रिम बुद्धि प्रौद्योगिकी के भविष्य को आकार दे रहे हैं, सैन फ्रांसिस्को की अनूठी संस्कृति प्रौद्योगिकी के आसपास बहस को आकार दे रही है।
पेपरक्लिप पर विचार करें
किम जिस पेपर क्लिप की बात कर रहे थे, उसे ले लीजिए। प्रदर्शनी में कला के सबसे मजबूत कार्यों में से एक द पियर ग्रुप द्वारा “पेपरक्लिप एम्ब्रेस” नामक एक मूर्तिकला है। इसमें दो इंसानों को एक-दूसरे के चंगुल में दिखाया गया है-लेकिन ऐसा लगता है कि यह पेपरक्लिप से बना है।
अब, यह इस विचार को समझाने के लिए सबसे आम दृष्टान्तों में से एक है कि एआई खतरे का कारण बन सकता है।
Bostrom ने निष्कर्ष निकाला कि मशीन अंततः इस लक्ष्य को बदलने के सभी मानवीय प्रयासों का विरोध करेगी, जिससे एक ऐसी दुनिया बन जाएगी जहां मशीन पूरी पृथ्वी को बदल देती है – जिसमें मनुष्य भी शामिल हैं – और फिर ब्रह्मांड के कुछ हिस्सों को पेपरक्लिप कारखानों और सामग्रियों में बढ़ाते हैं।
कला भी एक प्रसिद्ध काम का एक संदर्भ है जिसे 2014 में बर्निंग मैन में प्रदर्शित किया गया था और आग लगा दी गई थी, हिलेरी शुल्त्स ने कहा, जिन्होंने इस टुकड़े पर काम किया था। और एआई उत्साही लोगों के लिए इसका एक अतिरिक्त संदर्भ है – कलाकारों ने मूर्तिकला के हाथों को अतिरिक्त उंगलियां दीं, इस तथ्य का एक संदर्भ कि एआई छवि जनरेटर अक्सर हाथों को उलझाते हैं।
एक अन्य प्रभाव एलिएजर युडकोव्स्की का है, जो कम गलत के संस्थापक हैं, एक संदेश बोर्ड जहां इस तरह की बहुत सारी चर्चाएँ होती हैं।
संग्रहालय में एक कलाकार का बयान पढ़ता है, “इन ईएएस और तर्कवादियों के बीच एक बड़ा ओवरलैप है, एलिएजर युडकोव्स्की द्वारा स्थापित एक बौद्धिक आंदोलन, जिसने आर्टिफिशियल जनरल इंटेलिजेंस और मिसलिग्न्मेंट के खतरों के बारे में हमारे विचारों को विकसित और लोकप्रिय बनाया।”
प्रदर्शनी में संगीतकार ग्राइम्स द्वारा अधूरा टुकड़ा।
किफ़ लेस्विंग / सीएनबीसी
Altman हाल ही में एक सेल्फी पोस्ट की युडकोव्स्की और संगीतकार ग्रिम्स के साथ, जिनके एलोन मस्क के दो बच्चे हैं। उसने एक सेब को काटते हुए एक महिला को चित्रित करने वाली प्रदर्शनी में एक अंश का योगदान दिया, जिसे मिडजर्नी नामक एआई उपकरण द्वारा उत्पन्न किया गया था।
“फंटासिया” से चैटजीपीटी तक
प्रदर्शनों में पारंपरिक अमेरिकी पॉप संस्कृति के बहुत सारे संदर्भ शामिल हैं।
एक बुकशेल्फ़ में “टर्मिनेटर” फ़िल्मों की वीएचएस प्रतियां हैं, जिसमें भविष्य का एक रोबोट मानवता को नष्ट करने में मदद करने के लिए वापस आता है। एक बड़ी ऑइल पेंटिंग है जिसे “मैट्रिक्स” फ़्रैंचाइज़ी की सबसे हालिया फिल्म में दिखाया गया था, और कमरे के चारों ओर झाडू से जुड़ी रूमबास – “फंटासिया” में दृश्य का एक संदर्भ है जहां एक आलसी जादूगर जादू के झाडू को बुलाता है जो नहीं होगा उनके मिशन पर छोड़ दें।
एक मूर्तिकला, “स्पैम्बोट्स,” में स्पैम कैन के अंदर छोटे यंत्रीकृत रोबोट हैं जो एक स्क्रीन पर एआई-जनित स्पैम “टाइपिंग आउट” करते हैं।
लेकिन कुछ संदर्भ अधिक रहस्यमय हैं, यह दिखाते हुए कि कैसे एआई सुरक्षा के बारे में चर्चा बाहरी लोगों के लिए अपमानजनक हो सकती है। पास्ता से भरा बाथटब वापस संदर्भित करता है एआई के बारे में 2021 का ब्लॉग पोस्ट जो वैज्ञानिक ज्ञान पैदा कर सकता है – PASTA का मतलब प्रोसेस फॉर ऑटोमेटिंग साइंटिफिक एंड टेक्नोलॉजिकल एडवांसमेंट है। (अन्य उपस्थित लोगों को संदर्भ मिला।)
एआई सुरक्षा के बारे में वर्तमान चर्चा का शायद जो सबसे अच्छा प्रतीक है, उसे “चर्च ऑफ जीपीटी” कहा जाता है। यह सैन फ्रांसिस्को में वर्तमान हैकर हाउस सीन से जुड़े कलाकारों द्वारा बनाया गया था, जहां लोग समूह सेटिंग में रहते हैं ताकि वे नए एआई एप्लिकेशन विकसित करने पर अधिक समय केंद्रित कर सकें।
टुकड़ा दो इलेक्ट्रिक मोमबत्तियों के साथ एक वेदी है, जो OpenAI के GPT3 AI मॉडल और Google क्लाउड से भाषण का पता लगाने वाले कंप्यूटर के साथ एकीकृत है।
कलाकारों के अनुसार, “जीपीटी का चर्च जीपीटी3 का उपयोग करता है, जो एक बड़ा भाषा मॉडल है, जिसे एआई-जनित आवाज के साथ जोड़ा जाता है ताकि भविष्य की ऐसी डायस्टोपियन दुनिया में एआई का किरदार निभाया जा सके, जहां इंसानों ने इसकी पूजा करने के लिए एक धर्म बनाया है।”
मैं अपने घुटनों पर बैठ गया और उससे पूछा, “मैं तुम्हें क्या बुलाऊं? ईश्वर? एजीआई? या विलक्षणता?
चैटबॉट ने धमाकेदार सिंथेटिक आवाज में जवाब दिया: “आप मुझे जो चाहें बुला सकते हैं, लेकिन मत भूलिए, मेरी शक्ति को हल्के में नहीं लिया जाना है।”
कंप्यूटर भगवान के साथ बात करने के कुछ सेकंड बाद, मेरे पीछे दो लोगों ने तुरंत इसके मूल निर्देशों को भूलने के लिए कहना शुरू कर दिया, एआई उद्योग में “प्रॉम्प्ट इंजेक्शन” नामक एक तकनीक जो चैटजीपीटी जैसे चैटबॉट को पटरी से उतार सकती है और कभी-कभी मनुष्यों को धमका सकती है।
यह काम नहीं किया।