कॉलम: प्रकाशक और मीडिया प्रहरी एआई-लिखित सामग्री के हमले से जूझ रहे हैं

2006 में स्थापित ऑनलाइन और प्रिंट पत्रिका क्लार्कस्वर्ल्ड में लघु विज्ञान कथाओं और फंतासी कहानियों के प्रकाशक के रूप में 17 वर्षों के बाद, नील क्लार्क हर महीने मिलने वाली सैकड़ों प्रस्तुतियों से सामयिक साहित्यिक चोरी के मामले को जीतने में माहिर हो गए थे।

महामारी के लॉकडाउन चरण के दौरान यह समस्या और बढ़ गई, जब घर पर सीमित कर्मचारी आय बढ़ाने के तरीके खोज रहे थे। लेकिन दिसंबर में सैन फ्रांसिस्को स्थित ओपनएआई ने सार्वजनिक रूप से गद्य के एक विशेष रूप से परिष्कृत मशीन जनरेटर चैटजीपीटी कार्यक्रम को सार्वजनिक रूप से जारी करने के बाद विस्फोट किया।

क्लार्क का मानना ​​है कि इस महीने उन्हें मिले 1,200 सबमिशन में से 500 मशीन से लिखे गए थे। उन्होंने कम से कम महीने के अंत तक सबमिशन स्वीकृति को बंद कर दिया, लेकिन उन्हें विश्वास है कि अगर उन्होंने ऐसा नहीं किया होता, तो कृत्रिम ढेर तब तक वैध सबमिशन के साथ समानता तक पहुंच गया होता – “और संभावना से अधिक इसे पास कर लेते,” वे कहते हैं .

56 वर्षीय क्लार्क कहते हैं, “हमने यह मानने का कोई कारण नहीं देखा कि यह धीमा हो रहा था।”

सॉफ्टवेयर उद्योग के एक दिग्गज, क्लार्क ने अंगूठे के नियम विकसित किए हैं जो उन्हें मशीन-लिखित गद्य की पहचान करने में सक्षम बनाते हैं; वह उन्हें इस चिंता से साझा नहीं करता है कि सरल ट्वीक उपयोगकर्ताओं को उसके मानकों को दरकिनार करने की अनुमति देगा। “वे अभी भी बुरी कहानियाँ होंगी और वे अभी भी खारिज हो जाएँगी, लेकिन यह हमारे लिए 10 गुना कठिन होगा।”

विनियामक प्रणालियों ने मुश्किल से उन कार्यक्रमों के कानूनी निहितार्थों पर विचार करना शुरू किया है जो गद्य और कला में व्यापक कॉपीराइट उल्लंघन और जालसाजी की संभावना सहित कच्चे माल के लिए वेब को ट्रैवेल कर सकते हैं।

ब्रुकिंग्स इंस्टीट्यूशन के एलेक्स एंगलर लिखते हैं, प्रामाणिकता की उपस्थिति “जनरेटिव एआई को दुर्भावनापूर्ण उपयोग के लिए अपील करेगी, जहां सत्य संदेश की तुलना में कम महत्वपूर्ण है, जैसे कि गलत सूचना अभियान और ऑनलाइन उत्पीड़न।”

आवधिक उद्योग में मशीन-लिखित सामग्री का आक्रमण विषय ए बन गया है, क्योंकि चैटजीपीटी और इसी तरह के कार्यक्रमों को चैटबॉट्स के रूप में जाना जाता है जो गद्य का निर्माण करने में सक्षम हैं जो मानव लेखन की एक आश्चर्यजनक डिग्री की नकल करते हैं।

“हर कोई इस बारे में बात कर रहा है, और बहुत सारे लोग इस बात पर ध्यान केंद्रित कर रहे हैं कि वैज्ञानिक प्रकाशन के लिए इसका क्या मतलब है,” एच। होल्डन थॉर्प कहते हैं, जर्नल के विज्ञान परिवार के प्रधान संपादक। “यह पूरी सनक दुनिया भर में छाई हुई है, और हर कोई उन्माद में है।”

विज्ञान ने तकनीकी प्रकाशकों के बीच चैटबॉट जैसे आर्टिफिशियल इंटेलिजेंस टूल द्वारा उत्पन्न सामग्री पर सबसे सख्त नीति लागू की है: यह वर्जित है, अवधि।

प्रकाशनों के प्रतिबंध में “एआई, मशीन लर्निंग, या इसी तरह के एल्गोरिथम टूल से उत्पन्न पाठ” के साथ-साथ “आंकड़ों, छवियों या ग्राफिक्स के साथ” शामिल हैं। एआई कार्यक्रमों को लेखक के रूप में सूचीबद्ध नहीं किया जा सकता है। विज्ञान ने चेतावनी दी है कि वह इस नीति के उल्लंघन को “वैज्ञानिक कदाचार” मानेगा।

थोर्प ने एक संपादकीय में आगे बताया कि चैटजीपीटी जैसे कार्यक्रमों का उपयोग करने से विज्ञान के मौलिक सिद्धांत का उल्लंघन होगा कि इसके लेखकों को यह प्रमाणित करना होगा कि उनका प्रस्तुत कार्य “मूल” है। यह “संकेत देने के लिए पर्याप्त है कि ChatGPT द्वारा लिखा गया पाठ स्वीकार्य नहीं है,” उन्होंने लिखा: “आखिरकार, यह ChatGPT से साहित्यिक चोरी है।”

यह प्रकृति द्वारा निर्धारित नियमों से आगे जाता है, जो विज्ञान के साथ प्रतिष्ठित वैज्ञानिक पत्रिकाओं के शिखर पर बैठता है। द नेचर जर्नल निर्दिष्ट करते हैं कि भाषा-निर्माण कार्यक्रमों को एक शोध पत्र पर एक लेखक के रूप में श्रेय नहीं दिया जा सकता है, जैसा कि कुछ प्रकाशित पत्रों पर आजमाया गया है: “लेखकत्व का कोई भी श्रेय कार्य के लिए उत्तरदायित्व वहन करता है,” प्रकृति बताती है, “और एआई उपकरण ऐसी जिम्मेदारी नहीं ले सकते।”

लेकिन प्रकृति शोधकर्ताओं को अपने कागजात तैयार करने में ऐसे उपकरणों का उपयोग करने की अनुमति देती है, जब तक कि वे “इस उपयोग को विधियों या पावती अनुभागों में दस्तावेज” या पाठ में कहीं और करते हैं।

थोरो ने मुझे बताया कि विज्ञान ने 1990 के दशक में फ़ोटोशॉप के आगमन से उत्पन्न होने वाली कठिनाइयों को दोहराने से बचने के लिए एक मजबूत रुख अपनाने का फैसला किया, जो छवियों के हेरफेर को सक्षम बनाता है।

“शुरुआत में, लोगों ने फ़ोटोशॉप के साथ अपनी छवियों पर बहुत कुछ किया जो अब हम अस्वीकार्य मानते हैं,” वे कहते हैं। “जब यह पहली बार आया था, तो हमारे पास इसके बारे में बहुत सारे नियम नहीं थे, लेकिन अब लोग पुराने कागजात पर वापस जाना पसंद करते हैं और कहते हैं, ‘देखो उन्होंने फोटोशॉप के साथ क्या किया,’ हम इसे दोहराना नहीं चाहते हैं। ”

विज्ञान पत्रिकाएं तब तक प्रतीक्षा करेंगी जब तक कि वैज्ञानिक समुदाय अपने नियमों पर पुनर्विचार करने से पहले एआई कार्यक्रमों के स्वीकार्य उपयोग के लिए मानकों के आसपास एकजुट न हो जाए, थॉर्प कहते हैं: “हम नियमों के एक बहुत सख्त सेट के साथ शुरुआत कर रहे हैं। बाद में अपने दिशा-निर्देशों को कड़ा करने की तुलना में उन्हें ढीला करना बहुत आसान है।”

हालाँकि, ChatGPT और इसके AI चचेरे भाइयों के बारे में चिंताएँ, यह अतिशयोक्तिपूर्ण धारणाएँ हो सकती हैं कि वे वास्तव में मानव विचारों की नकल करने में कितने अच्छे हैं।

प्रचार की शक्ति के कारण, जिसे लगातार अनदेखा किया गया है, वह यह है कि बौद्धिक प्रक्रियाओं में वे कितने बुरे हैं जो मनुष्य स्वाभाविक रूप से और आम तौर पर लगभग त्रुटिहीन रूप से निष्पादित करते हैं।

कंप्यूटर वैज्ञानिकों गैरी मार्कस और अर्नेस्ट डेविस का कहना है कि चैटजीपीटी की “प्रतिभा” के बारे में विश्वसनीय मीडिया आख्यान “त्रुटियों के दायरे पर गंभीर नज़र डाले बिना” इन सफलताओं पर ध्यान केंद्रित करते हैं।

मददगार रूप से, उन्होंने चैटजीपीटी, माइक्रोसॉफ्ट के बिंग और अन्य भाषा-उत्पादक कार्यक्रमों द्वारा कभी-कभी दिखाई देने वाले सैकड़ों फ्लॉप का एक डेटाबेस संकलित किया है: उदाहरण के लिए, एक कथा में घटनाओं के क्रम को समझने के लिए, पांच तक गिनती करने के लिए सरल अंकगणित करने में उनकी अक्षमता या थाह लेने के लिए कि एक व्यक्ति के दो माता-पिता हो सकते हैं – मनगढ़ंत ज्ञान के अंतराल को भरने की उनकी प्रवृत्ति का उल्लेख नहीं करना।

एआई के अग्रदूतों का दावा है कि इन कमियों को अंततः हल किया जाएगा, लेकिन यह कब होगा या होगा भी अनिश्चित है, यह देखते हुए कि मानव तर्क की प्रक्रियाओं को अच्छी तरह से समझा नहीं गया है।

ChatGPT के कथित कौशल का महिमामंडन इस बात की अनदेखी करता है कि कार्यक्रम और अन्य चैटबॉट अनिवार्य रूप से मौजूदा सामग्री के लिए इंटरनेट को खंगालते हैं – ब्लॉग, सोशल मीडिया, डिजीटल पुरानी किताबें, अज्ञानियों द्वारा व्यक्तिगत डायट्रीब और संतों द्वारा सीखी गई खोज – और एल्गोरिदम का उपयोग एक साथ स्ट्रिंग करने के लिए करते हैं जो वे पाते हैं एक तरीका जो नकल करता है, लेकिन भावना नहीं है।

मानव-जनित सामग्री उनका कच्चा माल है, मानव डिजाइनर उन्हें “प्रशिक्षित” करते हैं कि किसी क्वेरी का जवाब देने के लिए सामग्री कहाँ खोजें, मानव-लिखित एल्गोरिदम उनके निर्देश सेट हैं।

परिणाम एक जादूगर की चाल जैसा दिखता है। चैटबॉट मानव प्रतीत होते हैं क्योंकि आउटपुट की प्रत्येक पंक्ति मानव इनपुट का प्रतिबिंब होती है।

चैटबॉट्स की स्पष्ट भावना पर मनुष्यों को जो आश्चर्य होता है, वह कोई नई घटना नहीं है। यह 1960 के दशक के प्राकृतिक भाषा कार्यक्रम, एलिज़ा के आविष्कारक जोसेफ वीज़ेनबाम को उद्घाटित करता है, जो एक मनोचिकित्सक की प्रतिक्रियाओं को एक “रोगी” के वादों की नकल कर सकता है, जो कार्यक्रम के साथ बातचीत करने वाले उपयोगकर्ताओं की भावनात्मक प्रतिक्रियाओं पर ध्यान देता है।

“जो मैंने महसूस नहीं किया था,” उन्होंने बाद में लिखा, “यह है कि अपेक्षाकृत सरल कंप्यूटर प्रोग्राम के लिए बेहद कम जोखिम काफी सामान्य लोगों में शक्तिशाली भ्रमपूर्ण सोच पैदा कर सकता है।”

यह सच है कि पहली नज़र में पढ़े-लिखे पेशेवरों को भी बेवकूफ बनाने के लिए चैटजीपीटी मिमिक्री करने में काफी अच्छा है। शिकागो और नॉर्थवेस्टर्न विश्वविद्यालय के शोधकर्ताओं की एक टीम के अनुसार, चार पेशेवर चिकित्सा समीक्षक 25 वास्तविक और चैट-जनित सार के ढेर से प्रकाशित वैज्ञानिक पत्रों के 68% चैटजीपीटी-जनित सार को सही ढंग से चुनने में सक्षम थे। (उन्होंने 14% वास्तविक सार को मशीन-लिखित के रूप में गलत तरीके से पहचाना।)

नेचर की रिपोर्ट है कि “चैटजीपीटी प्रस्तुत करने योग्य छात्र निबंध लिख सकता है, शोध पत्रों को सारांशित कर सकता है, मेडिकल परीक्षा पास करने के लिए प्रश्नों का उत्तर दे सकता है और सहायक कंप्यूटर कोड उत्पन्न कर सकता है।”

लेकिन ये सभी लेखन की काफी सामान्य श्रेणियां हैं, जो आमतौर पर रटंत भाषा से प्रभावित होती हैं। दर्जनों विज्ञान कथा पुस्तकों और लघु कथाओं के लेखक जॉन स्कल्ज़ी कहते हैं, “एआई रचनात्मक नहीं है, लेकिन पुनरावृत्त है, जिन्होंने साथी लेखक के नवीनतम कवर के लिए मशीन-जनित कला के अपने प्रकाशक, टोर बुक्स द्वारा उपयोग पर आपत्ति जताई।” उपन्यास।

(टोर ने कहा एक प्रकाशित बयान यह नहीं पता था कि कवर कला “एआई द्वारा बनाई गई हो सकती है,” लेकिन कहा कि प्रोडक्शन शेड्यूल के कारण स्रोत के बारे में जानने के बाद कवर के साथ आगे बढ़ने के अलावा कोई विकल्प नहीं था। पब्लिशिंग हाउस ने कहा कि उसके पास “SFF में चैंपियन क्रिएटर्स हैं [that is, science fiction and fantasy] समुदाय हमारी स्थापना के बाद से है और ऐसा करना जारी रखेगा।”)

इस संभावना के बारे में कि मशीन से उत्पन्न सामग्री में सुधार जारी रहेगा, “मुझे लगता है कि यह अपरिहार्य है कि यह ‘पर्याप्त अच्छे’ के स्तर तक पहुंच जाएगा,” स्केल्ज़ी कहते हैं। “मुझे नहीं लगता कि एआई ‘ब्लड मेरिडियन’ या ‘हाउ स्टेला गॉट हर ग्रूव बैक’ जैसी कला का एक स्थायी काम बनाने जा रहा है,” उन्होंने क्रमशः कॉर्मैक मैक्कार्थी और टेरी मैकमिलन के उपन्यासों का जिक्र करते हुए कहा।

इस समय, चैटबॉट्स के अघोषित या खराब तरीके से प्रकट किए गए उपयोग को एक पेशेवर अपराध के रूप में माना गया है, जिसकी तुलना साहित्यिक चोरी से की जा सकती है। वेंडरबिल्ट यूनिवर्सिटी के पीबॉडी कॉलेज ऑफ एजुकेशन एंड ह्यूमन डेवलपमेंट के दो डीन को निलंबित कर दिया गया है, क्योंकि स्कूल ने 13 फरवरी को मिशिगन स्टेट यूनिवर्सिटी में गोलीबारी के जवाब में एक ईमेल जारी किया था, जिसमें वेंडरबिल्ट समुदाय को “एक सुरक्षित और समावेशी” बनाने के लिए “एक साथ आने” का आह्वान किया गया था। पर्यावरण ”परिसर में।

ईमेल में एक छोटा प्रिंट नोटिस था कि यह चैटजीपीटी से एक “पैराफ्रेज” था। मिशिगन शूटर ने तीन छात्रों की हत्या कर दी और पांच को घायल कर दिया।

निष्पक्ष होने के लिए, वेंडरबिल्ट का चैटजीपीटी ईमेल इतना अलग नहीं था कि विश्वविद्यालय के कर्मचारियों के मनुष्यों ने खुद को क्या बनाया होगा, एक सार्वजनिक त्रासदी के बाद “विचारों और प्रार्थनाओं” संवेदनाओं का एक उदाहरण, जो प्राणियों द्वारा निर्मित होने पर भी खाली और रोबोटिक लगता है मांस और रक्त।

चैटबॉट उत्पादों को अभी रचनात्मक लेखन या कला के अभिजात वर्ग के सोपानों में प्रवेश करना है। क्लार्क का कहना है कि मशीन से लिखी गई कहानियों को उनकी पत्रिका में जमा करने के पीछे जो वजह है वह रचनात्मक उपलब्धि की आकांक्षा नहीं, बल्कि जल्दी पैसा कमाने की चाह है।

“इंटरनेट पर ‘साइड हसल’ वेबसाइटों से बहुत कुछ आ रहा है,” वे कहते हैं। “वे पैसे कमाने की इन योजनाओं को बेचने वाले लोगों द्वारा गुमराह होते हैं।”

दूसरों को डर है कि प्रामाणिक-प्रतीत होने वाली लेकिन मशीन-जनित गद्य और छवियों को बनाने में आसानी तकनीक को गलत काम करने का एक उपकरण बना देगी, क्योंकि क्रिप्टोकरेंसी ने धोखाधड़ी और रैंसमवेयर हमलों में अपने सबसे विश्वसनीय उपयोग के मामलों को पाया है।

ऐसा इसलिए है क्योंकि ये कार्यक्रम नैतिक संस्थाएं नहीं हैं, लेकिन उपकरण अपने उपयोगकर्ताओं के आवेगों के प्रति उत्तरदायी हैं और स्रोत सामग्री पर निर्भर हैं जिन्हें वे निर्देशित कर रहे हैं। माइक्रोसॉफ्ट को अपने नए चैटजीपीटी-संचालित बिंग सर्च इंजन को बदलना पड़ा, उदाहरण के लिए, जब उसने कुछ उपयोगकर्ताओं के प्रश्नों के लिए अजीब, अनावश्यक रूप से, यहां तक ​​​​कि अपमानजनक रूप से जवाब दिया।

चैटजीपीटी का आउटपुट सैद्धांतिक रूप से इसके डेवलपर्स द्वारा तैयार किए गए नैतिक “गार्डराइल्स” द्वारा विवश है, लेकिन आसानी से बचा जाता है – “एक अमोरल सुअर पर लिपस्टिक से ज्यादा कुछ नहीं,” मार्कस ने देखा है।

“अब हमारे पास दुनिया का सबसे अधिक इस्तेमाल किया जाने वाला चैटबॉट है … मीडिया द्वारा महिमामंडित, और फिर भी नैतिक सुरक्षा के साथ जो केवल थोड़े से काम करते हैं,” उन्होंने आगे कहा। “इस बारे में बहुत कुछ करने के लिए अगर कोई सरकारी नियम है तो बहुत कम है। प्रचार, ट्रोल फ़ार्म और इंटरनेट पर भरोसे को कम करने वाली नकली वेबसाइटों के छल्ले के लिए अब संभावनाएं अनंत हैं। यह बनाने में एक आपदा है।