ओपनएआई के अंतरिम मुख्य कार्यकारी एम्मेट शियर कौन हैं?

जब लाइवस्ट्रीमिंग साइट ट्विच के पूर्व मुख्य कार्यकारी एम्मेट शियर को रविवार रात को ओपनएआई का अंतरिम मुख्य कार्यकारी नामित किया गया, तो यह एक उत्सुक विकल्प लग सकता है।

2005 में कॉलेज से स्नातक होने के बाद, उन्होंने अपना लगभग पूरा करियर वीडियो गेमर्स के बीच लोकप्रिय अमेज़ॅन के स्वामित्व वाले प्लेटफॉर्म ट्विच में बिताया, क्योंकि यह जस्टिन.टीवी नामक एक नई साइट से 30 मिलियन से अधिक दैनिक दर्शकों के साथ एक विशाल साइट बन गया। इस साल की शुरुआत में जाने से पहले.

वीडियो गेम खेलने के शौकीन 40 वर्षीय मिस्टर शियर को एक सक्षम नेता के रूप में देखा जाता था, जिन्होंने कई बदलावों के दौरान ट्विच का नेतृत्व किया। लेकिन उन्हें आलोचना का सामना करना पड़ा, जिसमें 2020 में उन दावों से निपटना भी शामिल था कि ट्विच की कार्यस्थल संस्कृति महिलाओं के प्रति शत्रुतापूर्ण थी, और साइट की मंदी में जवाब देना हानिकारक सामग्री. कुछ कर्मचारियों और लाइवस्ट्रीमर्स ने यह भी शिकायत की कि लागत में कटौती के माध्यम से ट्विच को लाभप्रदता की ओर ले जाने पर उनका ध्यान प्लेटफ़ॉर्म की गुणवत्ता को ख़राब कर रहा था।

वह सैम ऑल्टमैन को भी जानते हैं, जिन्हें शुक्रवार को इसके निदेशक मंडल द्वारा ओपनएआई से बाहर कर दिया गया था। दोनों वाई कॉम्बिनेटर में एक ही समूह में थे, स्टार्ट-अप फंड जिसने उनकी दोनों शुरुआती कंपनियों में निवेश किया था।

लेकिन साक्षात्कारों और सोशल मीडिया पर, श्री शियर ने कृत्रिम बुद्धिमत्ता के जोखिमों के बारे में एक दृष्टिकोण व्यक्त किया है जो ओपनएआई के बोर्ड सदस्यों को पसंद आ सकता है, जो मिस्टर ऑल्टमैन को बाहर धकेल दिया कम से कम आंशिक रूप से उनके डर पर कि वह कंपनी की प्रौद्योगिकी से उत्पन्न संभावित खतरे पर पर्याप्त ध्यान नहीं दे रहे थे।

एक प्रौद्योगिकी पॉडकास्ट पर दिखाई दे रहा है जून में, श्री शियर ने इस बात पर चिंता व्यक्त की कि यदि एआई कृत्रिम सामान्य बुद्धिमत्ता, या एजीआई, जो मानव-स्तर की बुद्धिमत्ता के लिए एक शब्द है, तक पहुंच गया तो क्या हो सकता है। उन्हें चिंता थी कि ऐसे बिंदु पर, एक एआई प्रणाली इतनी शक्तिशाली हो सकती है कि वह मानव इनपुट की आवश्यकता के बिना खुद को सुधारना जारी रख सकती है, और मानवता को नष्ट करने की क्षमता रखती है।

सोमवार को टिप्पणी के लिए श्री शियर से तत्काल संपर्क नहीं हो सका। एक्स पर एक पोस्ट में, जिसे पहले ट्विटर के नाम से जाना जाता था, सोमवार की सुबह, उन्होंने लिखा कि वह अपने कार्यकाल का पहला महीना इस बात की जांच करने में बिताएंगे कि श्री अल्टमैन को कैसे बाहर कर दिया गया और कंपनी की प्रबंधन टीम में सुधार किया गया।

उन्होंने कहा, “परिणामों के आधार पर हम इनसे जो कुछ भी सीखते हैं, मैं संगठन में बदलाव लाऊंगा – यहां तक ​​कि यदि आवश्यक हो तो महत्वपूर्ण शासन परिवर्तन के लिए जोरदार दबाव भी शामिल है।”

पॉडकास्ट पर, श्री शियर ने एक अवधारणा पर चर्चा की, जिस पर अक्सर एआई हलकों में चर्चा की जाती है, जो पेपर क्लिप पर केंद्रित है: संक्षेप में, विचार यह है कि एक सर्व-शक्तिशाली एआई को यथासंभव अधिक से अधिक पेपर क्लिप बनाने का लक्ष्य देना भी संभव होगा। यह निर्धारित करने के लिए नेतृत्व करें कि मनुष्यों का उन्मूलन उस लक्ष्य को पूरा करने का सबसे प्रभावी तरीका होगा।

“पहला कदम है, ‘ग्रह पर कब्ज़ा’, ठीक है? फिर हर चीज़ पर मेरा ही नियंत्रण है। चरण दो है ‘मैं अपना लक्ष्य हल करता हूं,” उन्होंने कहा।

यदि एआई उस बिंदु तक पहुंच जाता है, तो श्री शीयर ने कहा, संभावित तबाही “ब्रह्मांड को नष्ट करने वाले बम” की तरह होगी।

“यह केवल मानव-स्तर का विलोपन नहीं है; इंसानों का विलुप्त होना काफी बुरा है,” उन्होंने कहा। “यह प्रकाश शंकु में सभी मूल्यों के संभावित विनाश की तरह है। न केवल हमारे लिए, बल्कि विस्फोट के बाद पकड़ी गई किसी भी विदेशी प्रजाति के लिए भी।”

श्री शियर ने कहा कि वह इस प्रकार की विश्व-समाप्ति घटना के बारे में कुछ एआई सिद्धांतकारों की तरह चिंतित नहीं थे: आंशिक रूप से क्योंकि उन्हें नहीं लगता था कि वर्तमान एआई तकनीक इस तरह की सफलता के करीब थी, और आंशिक रूप से क्योंकि उन्होंने सोचा था कि यह सुनिश्चित करना संभव हो सकता है एआई सिस्टम के लक्ष्य मनुष्यों के लक्ष्यों के अनुरूप थे। लेकिन उन्होंने फिर भी उद्योग सुरक्षा उपायों को अपनाया।

“मैं किसी प्रकार का फायर अलार्म बनाने के पक्ष में हूं, जैसे शायद, ‘एआई एक्स से बड़ा नहीं है,” उन्होंने कहा। “मुझे लगता है कि कुछ प्रकार के एआई परीक्षण प्रतिबंध संधि के बारे में अंतर्राष्ट्रीय सहयोग और संधियों के लिए अच्छे विकल्प हैं।”

एक्स पर सोशल मीडिया पोस्ट में, श्री शियर ने उन बिंदुओं को सुदृढ़ किया है, खुद का जिक्र करते हुए एक “बर्बाद करने वाले” के रूप में और यह सुझाव देते हुए कि कंपनियों को अपनी तकनीकी प्रगति पर ब्रेक लगाना चाहिए।

“मैं मंदी के पक्ष में हूं,” उसने जवाब दिया सितंबर में किसी अन्य उपयोगकर्ता के लिए। “हम प्रयोग किए बिना सुरक्षित एआई बनाना नहीं सीख सकते हैं, और हम प्रगति के बिना प्रयोग नहीं कर सकते हैं, लेकिन हमें संभवतः अधिकतम गति से भी आगे नहीं बढ़ना चाहिए।”