प्रोफेसर एमिली एम. बेंडर एक मिशन पर हैं: वह चाहती हैं कि हमें पता चले कि चैटजीपीटी का स्पष्ट आश्चर्य एक तोते से अधिक है। सिर्फ कोई तोता नहीं, बल्कि एक “स्टोकेस्टिक तोता”। “स्टोकेस्टिक” का अर्थ है कि वह संभावनाओं की गणना के आधार पर शब्द संयोजन चुनती है, लेकिन वह कुछ भी नहीं समझती है जो वह कहती है। चैटजीपीटी या बिंग के साथ चैट करना मुश्किल है और ध्यान रखें कि यह एक तोता है और केवल एक तोता है। लेकिन बेंडर के लिए, बहुत सी बुरी चीजें उस जागरूकता पर निर्भर करती हैं: “हम एक नाजुक क्षण में हैं,” वह कहती हैं। और वह चेतावनी देती है: “हम एक नई तकनीक के साथ बातचीत कर रहे हैं और पूरी दुनिया को अपनी साक्षरता को जल्दी से संतुलित करने की जरूरत है ताकि यह पता चल सके कि इससे कैसे निपटा जाए।” उसका संदेश, संक्षेप में, है: कृपया, यह एक ऐसी मशीन है जो एक काम बहुत अच्छी तरह करती है, लेकिन इससे ज्यादा कुछ नहीं।
बेंडर, वाशिंगटन विश्वविद्यालय के एक कम्प्यूटेशनल भाषाविद्, ने महसूस किया कि यह 2021 तक हो सकता है, जब उन्होंने “स्टोचैस्टिक तोते के खतरों” पर एक प्रसिद्ध अकादमिक पेपर प्रकाशित किया: “हमने यह नहीं कहा कि यह होने जा रहा था . हमने कहा कि ऐसा हो सकता है और हमें इससे बचने की कोशिश करनी चाहिए। यह भविष्यवाणी नहीं थी। यह एक चेतावनी थी। वहां हमने बस थोड़ी सी बात की कि किसी चीज को इंसान जैसा बनाना कितना खतरनाक है। मानव व्यवहार की नकल न करना बेहतर है क्योंकि इससे समस्याएं पैदा हो सकती हैं”, 49 वर्षीय बेंडर ने EL PAÍS को वीडियोकांफ्रेंसिंग द्वारा कहा। “जितने अधिक लोग जागरूक होंगे, महान भाषा मॉडल को सरल पाठ संश्लेषण मशीनों के रूप में देखना उतना ही आसान होगा, न कि विचारों, विचारों या भावनाओं को उत्पन्न करने वाली चीज़ के रूप में। मुझे लगता है कि [sus creadores] वे विश्वास करना चाहते हैं कि यह कुछ और है ”, उन्होंने आगे कहा।
उस झूठी मानवता की कई समस्याएँ हैं: “यह हमें भरोसा दिलाएगा। और जिम्मेदारी नहीं लेता। उसके पास चीजें बनाने की प्रवृत्ति है। यदि यह एक ऐसा पाठ दिखाता है जो सत्य है, तो यह संयोग से है ”, वह आश्वासन देता है। “हमारे समाज रिश्ते और विश्वास की एक प्रणाली हैं। अगर हम उस विश्वास को खोने लगते हैं जिसकी कोई ज़िम्मेदारी नहीं है, तो जोखिम हैं। इसके साथ बातचीत करने वाले व्यक्तियों के रूप में, हमें सावधान रहने की आवश्यकता है कि हम अपने भरोसे के साथ क्या करते हैं। इसे बनाने वाले लोगों को इसे इंसानों की तरह बनाना बंद करना चाहिए। मुझे पहले व्यक्ति में नहीं बोलना चाहिए,” उसने आगे कहा।
कम संभावित टर्मिनेटर
उन्हें और अधिक मानवीय बनाने का श्रम शायद मुफ्त नहीं है। उसके बिना, चैटजीपीटी द्वारा किया गया प्रचार अधिक शांत होता: यह एक संभावित टर्मिनेटर की भावना नहीं देता, एक सावधान मित्र की, एक दूरदर्शी संत की। “वे ऐसा कुछ बनाना चाहते हैं जो इससे अधिक जादुई दिखता है। यह हमें जादुई लगता है कि एक मशीन इतनी मानवीय हो सकती है, लेकिन वास्तव में यह मानव होने का भ्रम पैदा करने वाली मशीन है,” बेंडर कहते हैं। “अगर कोई तकनीक बेचने के व्यवसाय में है, तो यह जितना जादुई दिखता है, इसे बेचना उतना ही आसान है,” वह आगे कहते हैं।
तोता लेख के बेंडर के सह-लेखक और उस कारण से Google से निकाल दिए गए शोधकर्ता टिमनिट गेब्रू ने ट्विटर पर शोक व्यक्त किया क्योंकि Microsoft के अध्यक्ष ने ChatGPT के बारे में एक वृत्तचित्र में स्वीकार किया कि “यह एक व्यक्ति नहीं है, यह एक स्क्रीन है।”
अगर कोई तकनीक बेचने के व्यवसाय में है, तो यह जितना जादुई लगता है, इसे बेचना उतना ही आसान है।”
हालाँकि, प्रचार केवल उस कंपनी के कारण नहीं है जिसने चैटबॉट को मानव के रूप में बोलने के लिए बनाया है। एआई एप्लिकेशन हैं जो छवियां और जल्द ही वीडियो और संगीत बनाते हैं। इन विकासों का प्रचार न करना मुश्किल है, भले ही वे सभी एक ही प्रकार की पैटर्न पहचान पर आधारित हों। बेंडर मीडिया के लिए कुछ मुश्किल मांगता है और जिस तरह से सोशल मीडिया आज संरचित है: संदर्भ। “आप नई चीजें कर सकते हैं और अभी भी इसे ज़्यादा नहीं कर सकते। आप पूछ सकते हैं: क्या यह एआई कला है या यह केवल छवि संश्लेषण है? क्या आप छवियों का संश्लेषण कर रहे हैं या आप कल्पना कर रहे हैं कि कार्यक्रम एक कलाकार है? आप तकनीक के बारे में इस तरह से बात कर सकते हैं जो लोगों को केंद्र में रखे। प्रचार का मुकाबला करने के लिए यह बात करने की बात है कि वास्तव में क्या किया जा रहा है और इसे बनाने में कौन शामिल है,” वे कहते हैं।
यह भी ध्यान में रखा जाना चाहिए कि ये मॉडल डेटा की एक अकल्पनीय मात्रा पर आधारित हैं जो अरबों ग्रंथों और छवियों के साथ इंटरनेट पर दशकों तक फीड किए बिना संभव नहीं होगा। बेंडर के अनुसार इसमें स्पष्ट समस्याएं हैं: “भाषा प्रौद्योगिकी के लिए यह दृष्टिकोण इंटरनेट के पैमाने पर डेटा होने पर निर्भर करता है। भाषाओं के बीच निष्पक्षता के मामले में, उदाहरण के लिए, यह दृष्टिकोण दुनिया की हर भाषा के पैमाने पर नहीं जा रहा है। लेकिन यह एक दृष्टिकोण भी है जो मूल रूप से इस तथ्य में फंस गया है कि आपको उस इंटरनेट-स्केल डेटा से निपटना होगा जिसमें सभी प्रकार के कबाड़ शामिल हैं।”
उस बकवास में सिर्फ जातिवाद, नाज़ीवाद, या लिंगवाद शामिल नहीं है। इसके अलावा गंभीर पन्नों में, अमीर गोरे लोगों का अधिक प्रतिनिधित्व किया जाता है या “इस्लाम” जैसे व्यापक रूप से देखे जाने वाले शीर्षकों से जुड़े शब्द हैं या जिन देशों से आप्रवास आता है, वे कभी-कभी पश्चिम में बोले जाते हैं। यह सब इन मॉडलों के केंद्र में है: उन्हें फिर से शिक्षित करना एक असाधारण और शायद अंतहीन काम है।
मनुष्य वह नहीं हैं
तोते ने न सिर्फ बेंडर को मशहूर किया है। चैटजीपीटी के निर्माता, ओपनएआई के संस्थापक सैम ऑल्टमैन ने कई बार ट्वीट किया है कि हम स्टोकेस्टिक तोते हैं। शायद हम मनुष्य भी संभाव्य गणना के बाद जो सुनते हैं उसे पुन: उत्पन्न करते हैं। मानव क्षमताओं को कम करने का यह तरीका मशीनों की कथित बुद्धिमत्ता को फुलाए जाने की अनुमति देता है, OpenAI और अन्य कंपनियों के लिए अगला कदम एक ऐसे क्षेत्र में है जो लगभग एक बुलबुले में रहता है। अंतत: यह आपको और भी अधिक धन जुटाने की अनुमति देगा।
बेंडर कहते हैं, “कृत्रिम बुद्धिमत्ता पर काम मानव बुद्धि को कुछ सरल के रूप में देखने के लिए बंधा हुआ है, जिसे परिमाणित किया जा सकता है और लोगों को उनकी बुद्धिमत्ता के अनुसार वर्गीकृत किया जा सकता है।” यह वर्गीकरण हमें एआई के लिए भविष्य के मील के पत्थर स्थापित करने की अनुमति देता है: “‘कृत्रिम सामान्य बुद्धि’ है, जिसकी कोई बड़ी परिभाषा नहीं है, लेकिन यह कुछ ऐसा है जो लचीले ढंग से सीख सकता है। और फिर अभी भी ‘कृत्रिम अधीक्षण’ है, जिसके बारे में मैंने उस दिन सुना था, और जो इससे भी अधिक स्मार्ट होना चाहिए। लेकिन यह सब काल्पनिक है।” एआई और एक मशीन जो वास्तव में सोचती है और महसूस करती है, के बीच छलांग अभी भी असाधारण है।
24 फरवरी को, ऑल्टमैन ने “एजीआई के लिए योजना” शीर्षक से एक पोस्ट प्रकाशित किया [Inteligencia Artificial General] और उससे भी आगे। कोलाहलपूर्ण ट्विटर पर गया आश्चर्य करने के लिए, अन्य बातों के अलावा, ये लोग कौन होते हैं यह तय करने वाले कि पूरी मानवता को क्या लाभ होगा।
गेट-गो से यह सिर्फ स्थूल है। उन्हें लगता है कि वे वास्तव में “एजीआई” के विकास/आकार देने के व्यवसाय में हैं। और उन्हें लगता है कि वे यह तय करने के लिए तैनात हैं कि “मानवता के सभी लाभ” क्या हैं। pic.twitter.com/AJxExcxDY3
– @[email protected] मास्टोडन पर (@emilymbender) फरवरी 26, 2023
चैटजीपीटी के इस उन्नयन से ऑल्टमैन को संभावित रूप से लगभग वास्तविक रूप में अपनी पोस्ट पेश करने की अनुमति मिलती है। “सैम अल्टमैन वास्तव में विश्वास करते हैं कि वह एक स्वायत्त बुद्धिमान इकाई का निर्माण कर सकते हैं। उस विश्वास को बनाए रखने के लिए, उसे मौजूदा तकनीक लेनी होगी और हाँ कहना होगा, यह उस तरह के स्वायत्त बुद्धिमान एजेंटों के काफी करीब दिखता है जिसकी वह कल्पना करता है। मुझे लगता है कि यह हानिकारक है। मुझे नहीं पता कि वे विश्वास करते हैं कि वे क्या कह रहे हैं या यदि वे निंदक हैं, लेकिन वे ऐसा कहते हैं जैसे वे करते हैं, “बेंडर कहते हैं।
यदि यह विश्वास कि एआई जितना लगता है उससे अधिक करते हैं, कि वे होशियार हैं, फैलते हैं, तो अधिक लोग यह स्वीकार करेंगे कि वे अन्य निर्णय लेने वाले क्षेत्रों में फिसल जाते हैं: “यदि हम मानते हैं कि वास्तविक कृत्रिम बुद्धि मौजूद है, तो हम भी अधिक होने की संभावना रखते हैं यह विश्वास करने के लिए कि निश्चित रूप से हम स्वचालित निर्णय प्रणाली बना सकते हैं जो मनुष्यों की तुलना में कम पक्षपाती हैं, जबकि वास्तव में हम ऐसा नहीं कर सकते हैं,” बेंडर कहते हैं।
“एक तेल रिसाव की तरह”
इन पाठ मॉडलों के लिए सबसे अधिक चर्चित संभावनाओं में से एक यह है कि क्या वे खोज इंजनों की जगह लेंगे। बिंग के साथ माइक्रोसॉफ्ट पहले से ही कोशिश कर रहा है। आपके मॉडल के आने के बाद से इसमें लागू किए गए विभिन्न परिवर्तन इसकी कठिनाइयों का प्रमाण हैं। बेंडर इसकी तुलना “ऑयल स्पिल” से करना चाहता है: “यह एक रूपक है जो मुझे आशा है कि टिकेगा। इन टेक्स्ट सिंथेसिस मशीनों के साथ होने वाली हानियों में से एक यह है कि वे प्रश्नों का उत्तर दे सकती हैं कि वे गैर-सूचना को हमारे सूचना पारिस्थितिकी तंत्र में इस तरह से डालने जा रही हैं जिसका पता लगाना कठिन होगा। यह तेल रिसाव जैसा दिखता है – इसे साफ करना मुश्किल होगा। जब कंपनियां इस बारे में बात करती हैं कि वे कैसे लगातार प्रगति कर रहे हैं और अपनी सटीकता में सुधार कर रहे हैं, तो यह बीपी या एक्सॉन की तरह है, ‘देखो हमने उन पर डाले गए तेल से कितने पक्षियों को बचाया।’
OpenAI भविष्य के बारे में बात करना चाहता है। लेकिन मैं इसके बजाय इस बारे में बात करूंगा कि हमने अभी जो कुछ बनाया है, उसे हम कैसे नियंत्रित करते हैं।”
बेंडर कहते हैं, जबकि हम उस असंभव भविष्य के बारे में बात कर रहे हैं, हम वर्तमान पर ध्यान नहीं दे रहे हैं। “ओपनएआई इस बारे में बात करना चाहता है कि हम कैसे सुनिश्चित करते हैं कि एआई मानवता के लिए फायदेमंद होगा और हम इसे कैसे नियंत्रित करेंगे। लेकिन मैं इस बारे में बात करना चाहूंगा कि हमने अभी जो बनाया है उसे कैसे नियंत्रित करते हैं और हमें क्या करने की आवश्यकता है ताकि यह आज समस्या पैदा न करे, बजाय इसके कि अगर हमारे पास ये स्वायत्त एजेंट होते तो क्या होता, इससे ध्यान भटकता।
उन्होंने उम्मीद नहीं खोई है कि कुछ प्रकार के विनियमन आ जाएंगे, आंशिक रूप से कम्प्यूटेशनल प्रयास के कारण इन मॉडलों की आवश्यकता होती है। “इन चीजों में से एक को बनाने और इसे चलाने के लिए बहुत सारे संसाधन लगते हैं, जो विनियमन के लिए थोड़ी अधिक छूट देता है। हमें पारदर्शिता के आसपास एक विनियमन की आवश्यकता है। OpenAI इसके बारे में खुलकर बात नहीं कर रहा है। उम्मीद है कि इससे लोगों को बेहतर समझने में मदद मिलेगी।”
विज्ञान कथा ही एकमात्र भविष्य नहीं है
बेंडर को अक्सर यह सुनना पड़ता है कि कम्प्यूटेशनल भाषाविज्ञान में मास्टर डिग्री चलाने के बावजूद, वह तकनीक के बारे में शिकायत करने वाली एक गुस्सैल महिला है: “जब लोग मुझे बताते हैं तो मुझे दुख नहीं होता क्योंकि मुझे पता है कि वे गलत हैं। हालांकि वे यह मानने का नजरिया भी दिखाते हैं कि एक पूर्वनिर्धारित रास्ता है जिसकी ओर विज्ञान और प्रौद्योगिकी हमें ले जाती है और यही वह रास्ता है जिसे हमने विज्ञान कथाओं से सीखा है। विज्ञान क्या है, यह समझने का यह आत्म-विनाशकारी तरीका है। विज्ञान ऐसे लोगों का समूह है जो फैलते हैं और अलग-अलग चीजों का पता लगाते हैं और फिर एक-दूसरे से बात करते हैं, न कि ऐसे लोग जो सीधे रास्ते पर चलते हैं, सबसे पहले अंत तक पहुंचने की कोशिश करते हैं।
बेंडर के पास उन लोगों के लिए एक आखिरी संदेश है जो मानते हैं कि यह रास्ता सुलभ और सरल होगा: “मैं जो कहने जा रहा हूं वह व्यंग्यात्मक और सरल हो सकता है, लेकिन शायद वे बस उस बिंदु पर पहुंचने का इंतजार कर रहे हैं जहां ये मॉडल इतने से तंग आ गए हैं अधिक डेटा जो उस क्षण मैं तय करता हूं कि अनायास सचेत हो जाता हूं।” अभी के लिए, यही योजना है।
आप अनुसरण कर सकते हैं देश प्रौद्योगिकी में फेसबुक वाई ट्विटर या हमारे प्राप्त करने के लिए यहां साइन अप करें न्यूज़लेटर semanal.
पढ़ना जारी रखने के लिए सदस्यता लें
बिना सीमा के पढ़ें
