एक सैकड़ों प्रमुख आर्टिफिशियल इंटेलिजेंस विशेषज्ञों, तकनीकी उद्यमियों और वैज्ञानिकों द्वारा हस्ताक्षरित खुला पत्र ओपनएआई के भाषा मॉडल जीपीटी-4 की तुलना में अधिक शक्तिशाली एआई प्रौद्योगिकियों के विकास और परीक्षण पर रोक लगाने का आह्वान करता है ताकि इससे होने वाले जोखिमों का ठीक से अध्ययन किया जा सके।
यह चेतावनी देता है कि GPT-4 जैसे भाषा मॉडल पहले से ही बढ़ते हुए कार्यों में मनुष्यों के साथ प्रतिस्पर्धा कर सकते हैं और इसका उपयोग नौकरियों को स्वचालित करने और गलत सूचना फैलाने के लिए किया जा सकता है। पत्र एआई सिस्टम की दूर की संभावना को भी उठाता है जो मनुष्यों की जगह ले सकता है और सभ्यता का पुनर्निर्माण कर सकता है।
पत्र में कहा गया है, “हम सभी एआई प्रयोगशालाओं से कम से कम 6 महीने के लिए जीपीटी-4 (वर्तमान में प्रशिक्षित जीपीटी-5 सहित) से अधिक शक्तिशाली एआई सिस्टम के प्रशिक्षण को तुरंत रोकने का आह्वान करते हैं।” मॉन्ट्रियल विश्वविद्यालय के एक प्रोफेसर, जिन्हें आधुनिक एआई का अग्रदूत माना जाता है, इतिहासकार युवल नूह हरारी, स्काइप के सह-संस्थापक जान टालिन और ट्विटर के सीईओ एलोन मस्क हैं।
पत्र, जो फ्यूचर ऑफ लाइफ इंस्टीट्यूट द्वारा लिखा गया था, एक संगठन जो मानवता के लिए तकनीकी जोखिमों पर केंद्रित है, में कहा गया है कि ठहराव “सार्वजनिक और सत्यापन योग्य” होना चाहिए और इसमें GPT-4 जैसे उन्नत AI मॉडल पर काम करने वाले सभी लोगों को शामिल करना चाहिए। यह सुझाव नहीं देता है कि विकास पर रोक को कैसे सत्यापित किया जा सकता है, लेकिन यह जोड़ता है कि “यदि इस तरह के ठहराव को जल्दी से लागू नहीं किया जा सकता है, तो सरकारों को हस्तक्षेप करना चाहिए और एक अधिस्थगन स्थापित करना चाहिए,” ऐसा कुछ जो छह महीने के भीतर होने की संभावना नहीं लगती है।
Microsoft और Google ने पत्र पर टिप्पणी के अनुरोधों का जवाब नहीं दिया। हस्ताक्षरकर्ताओं में कई तकनीकी कंपनियों के लोग शामिल हैं जो उन्नत भाषा मॉडल बना रहे हैं, जिनमें Microsoft और Google शामिल हैं। OpenAI के एक प्रवक्ता, हन्ना वोंग का कहना है कि कंपनी ने मॉडल के प्रशिक्षण के बाद GPT-4 की सुरक्षा और संरेखण पर काम करते हुए छह महीने से अधिक का समय बिताया। वह कहती हैं कि OpenAI वर्तमान में GPT-5 का प्रशिक्षण नहीं दे रहा है।
पत्र आता है क्योंकि एआई सिस्टम तेजी से बोल्ड और प्रभावशाली छलांग लगाते हैं। GPT-4 की घोषणा केवल दो सप्ताह पहले की गई थी, लेकिन इसकी क्षमताओं ने काफी उत्साह और उचित मात्रा में चिंता पैदा की है। भाषा मॉडल, जो चैटजीपीटी, ओपनएआई के लोकप्रिय चैटबॉट के माध्यम से उपलब्ध है, कई शैक्षणिक परीक्षणों में अत्यधिक स्कोर करता है, और मुश्किल सवालों को सही ढंग से हल कर सकता है, जिन्हें आमतौर पर एआई सिस्टम की तुलना में अधिक उन्नत बुद्धिमत्ता की आवश्यकता होती है। फिर भी GPT-4 बहुत सी तुच्छ, तार्किक गलतियाँ करता है। और, अपने पूर्ववर्तियों की तरह, यह कभी-कभी गलत जानकारी “मतिभ्रम” करता है, सामाजिक पूर्वाग्रहों को धोखा देता है, और घृणास्पद या संभावित रूप से हानिकारक बातें कहने के लिए प्रेरित किया जा सकता है।
पत्र के हस्ताक्षरकर्ताओं द्वारा व्यक्त की गई चिंता का एक हिस्सा यह है कि OpenAI, Microsoft और Google ने नए AI मॉडल को जल्द से जल्द विकसित करने और जारी करने के लिए लाभ-संचालित दौड़ शुरू कर दी है। इस तरह की गति से, पत्र का तर्क है, समाज की तुलना में विकास तेजी से हो रहा है और नियामकों के साथ समझौता हो सकता है।
परिवर्तन की गति—और निवेश का पैमाना—महत्वपूर्ण है। Microsoft ने OpenAI में 10 बिलियन डॉलर डाले हैं और अपने AI का उपयोग अपने सर्च इंजन बिंग के साथ-साथ अन्य अनुप्रयोगों में कर रहा है। हालांकि Google ने GPT-4 के निर्माण के लिए आवश्यक कुछ AI विकसित किए, और पहले स्वयं के शक्तिशाली भाषा मॉडल बनाए, इस वर्ष तक उसने नैतिक चिंताओं के कारण उन्हें जारी नहीं करने का फैसला किया।
