पिछले हफ़्ते, पहला एआई सुरक्षा शिखर सम्मेलनयूके सरकार द्वारा आयोजित और होस्ट किया गया, बैलेचले पार्क में हुआ। शिखर सम्मेलन को एक “वैश्विक कार्यक्रम” के रूप में विज्ञापित किया गया था, और बहुत सारे उतार-चढ़ाव के बाद, शिखर सम्मेलन में चीन को आमंत्रित किया गया था वार्ता में भाग लेने के लिए. इसका मतलब यह था कि दुनिया की दो प्रमुख एआई शक्तियां (यूरोपीय संघ यकीनन एक तिहाई है) दोनों इस बात पर चर्चा करने के लिए मेज पर थे कि विशेष रूप से सबसे उन्नत एआई सिस्टम से जुड़े खतरों को कम करते हुए एआई के लाभों का उपयोग कैसे किया जाए।
शिखर सम्मेलन से कई ठोस परिणाम सामने आए, जिनमें “बैलेचली घोषणा, ” एक समझौता जो “फ्रंटियर एआई” सिस्टम पर वैश्विक कार्रवाई के अवसरों, जोखिमों और आवश्यकता को बताता है, यानी अत्याधुनिक सामान्य-उद्देश्य वाले एआई मॉडल जो कई प्रकार के कार्य कर सकते हैं। घोषणा पर अमेरिका, ब्रिटेन, चीन, छह यूरोपीय संघ के सदस्य देशों, ब्राजील, नाइजीरिया, इज़राइल और सऊदी अरब सहित 28 देशों ने हस्ताक्षर किए।
तथ्य यह है कि चीन सहित 28 देशों ने एआई के जोखिमों और अवसरों और सुरक्षित एआई पर अंतर्राष्ट्रीय सहयोग की आवश्यकता को पहचानते हुए एक संयुक्त घोषणा पर हस्ताक्षर किए हैं, यह एक सकारात्मक पहला कदम है (भले ही समझौते पर स्पष्ट फोकस से लाभ होता) एआई के तत्काल नुकसान)। शिखर सम्मेलन में उपस्थित लोगों ने कुछ अन्य बिंदुओं पर भी सहमति व्यक्त की, जिसमें “विज्ञान की स्थिति” रिपोर्ट की स्थापना (प्रमुख वैज्ञानिक योशुआ बेंगियो के नेतृत्व में और बहुत उपयोगी होने की संभावना) और फ्रांस और दक्षिण कोरिया में अनुवर्ती शिखर सम्मेलन का आयोजन शामिल है। अंत में, और शायद सबसे महत्वपूर्ण बात, कई देश एआई सुरक्षा संस्थानों के साथ साझेदारी सहित एआई मॉडल की अगली पीढ़ी के पूर्व-रिलीज़, राज्य के नेतृत्व वाले परीक्षण पर सहमत हुए।
हालाँकि, एआई नियमों पर वास्तव में वैश्विक सहयोग की दिशा में कदम देखना उत्साहजनक है, लेकिन ठोस, साझा एआई शासन नियमों पर वास्तविक प्रगति हासिल करना अभी भी कठिन होगा। बैलेचली घोषणा में ही इस संबंध में कुछ शिक्षाप्रद अंश शामिल हैं। एक अंश विशेष रूप से उल्लेखनीय है:
“[W]हम मानते हैं कि देशों को ऐसा करना चाहिए नवाचार-समर्थक और आनुपातिक शासन और नियामक दृष्टिकोण के महत्व पर विचार करें जो लाभ को अधिकतम करता है और एआई से जुड़े जोखिमों को ध्यान में रखता है। इसमें जहां उपयुक्त हो, जोखिम का वर्गीकरण और वर्गीकरण करना शामिल हो सकता है राष्ट्रीय परिस्थितियों और लागू कानूनी ढांचे के आधार पर” [emphases added].
यह पैराग्राफ दो चीजों को बहुत स्पष्ट करता है: i) कम से कम कुछ हस्ताक्षरकर्ता अभी भी एआई के प्रशासन के लिए अपेक्षाकृत व्यावहारिक दृष्टिकोण पसंद करते हैं (इसलिए “प्रो-इनोवेशन और आनुपातिक शासन और नियामक दृष्टिकोण” का संदर्भ), और ii ) हस्ताक्षरकर्ताओं के लिए एआई सिस्टम के जोखिम को उन तरीकों से वर्गीकृत और वर्गीकृत करने की गुंजाइश है जो उनके घरेलू राजनीतिक एजेंडे में हस्तक्षेप नहीं करते हैं।
तथ्य यह है कि बैलेचली घोषणा एआई शासन के लिए “प्रो-इनोवेशन” (पढ़ें: अपेक्षाकृत व्यावहारिक) दृष्टिकोण को बढ़ावा देती है और पहले से ही मानती है कि देश एआई शासन नियमों की व्याख्या इस तरह से करेंगे जिससे स्थापित शक्ति और संस्थागत संरचनाओं को खतरा न हो। आश्चर्य के रूप में.
जैसा कि मैंने बताया है पिछले काम में प्रकाशित नीति अनुसंधान की समीक्षाएआई के प्रशासन के लिए ठोस, साझा अंतरराष्ट्रीय मानकों को हासिल करना बहुत मुश्किल होगा (और मैं यहां एआई सिस्टम के डिजाइन के लिए तकनीकी मानकों के बारे में बात नहीं कर रहा हूं, मैं यह सुनिश्चित करने के लिए नैतिक नियमों के बारे में बात कर रहा हूं कि एआई को लागू किया जा रहा है) बुराई के बजाय अच्छाई के लिए उपयोग किया जाता है)। इसके लिए यहां तीन कारण हैं। सबसे पहले, चूंकि वैश्विक नैतिक एआई मानक वैश्विक सार्वजनिक वस्तुओं (जैसे अंतर्राष्ट्रीय आर्थिक स्थिरता और अंतर्राष्ट्रीय सुरक्षा) में योगदान करते हैं, देश सैद्धांतिक रूप से नैतिक एआई को बढ़ावा देने के लिए दूसरों के प्रयासों पर “फ्रीराइड” कर सकते हैं, जिसका अर्थ है कि विश्व स्तर पर साझा किए गए सहयोग के लिए कोई प्रोत्साहन नहीं है। मानक. दूसरा, उन मूल्यों पर कोई वैश्विक सहमति नहीं है जो साझा नैतिक मानकों को रेखांकित करेंगे। तीसरा, भू-राजनीतिक प्रतिस्पर्धा ऐसे मानकों पर समझौता करने में बाधा डाल सकती है, जिससे यह और भी अधिक संभावना नहीं है कि समझौता हो पाएगा।
पहले बिंदु को एक उदाहरण से स्पष्ट किया जा सकता है: मान लें कि बड़ी संख्या में राज्य कार्बन उत्सर्जन को कम करने और इस तरह अंतर्राष्ट्रीय वातावरण में सुधार करने के लिए मशीन लर्निंग प्रशिक्षण के लिए बिजली-गहन ग्राफिक्स प्रसंस्करण इकाइयों के उपयोग को सीमित करने का प्रयास करते हैं। प्रत्येक राज्य के लिए व्यक्तिगत रूप से तर्कसंगत विकल्प सहयोग न करना है, अर्थात, समझौते पर हस्ताक्षर न करना और मशीन लर्निंग प्रशिक्षण के लिए बिजली-गहन ग्राफिक्स प्रसंस्करण इकाइयों का उपयोग करना जारी रखना है, क्योंकि सहयोगी राज्य इसे बेहतर अंतरराष्ट्रीय वातावरण के लाभों का आनंद लेने से बाहर नहीं कर सकते हैं। उनके कार्बन उत्सर्जन में कमी से उपजा है। इसके अलावा, बेहतर अंतरराष्ट्रीय वातावरण का असहयोग करने वाले राज्य का आनंद, कटौती के उनके लाभ को कम नहीं करता है, जिससे उन्हें जनता को अच्छा प्रदान करना बंद करने के लिए कोई प्रोत्साहन नहीं मिलता है। इस प्रकार, असहयोग करने वाला राज्य स्वच्छ हवा और “हरित” दुनिया से लाभ उठाते हुए अपनी मशीन सीखने की क्षमताओं को बढ़ा सकता है। यह तर्क प्रत्येक व्यक्तिगत राज्य के लिए समान है, जिसका अर्थ है कि प्रत्येक राज्य जनता को लाभ प्रदान करने के बजाय स्वतंत्र रूप से काम करना चाहेगा। इसका मतलब यह है कि समझौता हासिल करना वास्तव में कठिन है।
देशों को सहयोग करने में भी संघर्ष करना पड़ सकता है क्योंकि नैतिक एआई मानक अक्सर राष्ट्रीय संप्रभुता के मुद्दों या कम से कम उन मुद्दों को छूते हैं जिन्हें घरेलू नीति का विषय माना जाता है। एआई के लिए नैतिक दिशानिर्देश लैंगिक समानता, राजनीतिक असंतुष्टों के साथ व्यवहार या श्रम बाजारों में समान अवसरों के निर्माण जैसे विषयों को छू सकते हैं। इस प्रकार, विभिन्न राजनीतिक प्रणालियों, विभिन्न मूल्य प्रणालियों या यहां तक कि बाजारों की भूमिका पर अलग-अलग विचारों वाले देशों को एआई के लिए नैतिक दिशानिर्देशों पर सहमत होने में कठिनाई हो सकती है जो विश्व स्तर पर समान व्यवहार का आह्वान करते हैं। कुछ मामलों में, एआई के लिए अंतरराष्ट्रीय नैतिक दिशानिर्देशों पर सहमत होने से सरकारों के घरेलू शासन को भी खतरा हो सकता है, उदाहरण के लिए जब अपनी आबादी का सर्वेक्षण करने के लिए एआई का उपयोग करने वाली एक सत्तावादी सरकार को एक ऐसे मानक पर सहमत होने के लिए कहा जाता है जो इस तरह की सामूहिक निगरानी को समाप्त करने का आह्वान करता है। निःसंदेह, विचाराधीन सरकार वास्तव में इस तरह के मानक पर हस्ताक्षर करने की संभावना नहीं रखती है – और यदि ऐसा होता है, तो घर पर मानक को (ठीक से) लागू नहीं करने के कारण अंततः दोषपूर्ण होने की संभावना है।
भू-राजनीतिक प्रतिस्पर्धा एक भूमिका निभाती है क्योंकि देशों के बीच प्रतिद्वंद्विता अविश्वास पैदा करती है जिससे सरकारें सहयोग करने में झिझकती हैं। इस तरह की प्रतिद्वंद्विता देशों को विशेष रूप से अपने स्वयं के, व्यक्तिगत हितों पर ध्यान केंद्रित कर सकती है, जिससे उन्हें सहयोग छोड़ने के लिए प्रेरित किया जा सकता है, भले ही ऐसा करने से समय के साथ खराब प्रतिष्ठा विकसित होने और परिणामस्वरूप असहयोगी संबंधों में फंसने का जोखिम हो। इस प्रकार, भू-राजनीतिक प्रतिस्पर्धा सार्वजनिक वस्तुओं की संरचना में निहित असहयोग के प्रोत्साहनों पर काबू पाना बहुत कठिन बना देती है और इसलिए इस बात की संभावना कम हो जाती है कि पिछले सप्ताह के एआई सुरक्षा शिखर सम्मेलन जैसे अंतरराष्ट्रीय, अंतर-सरकारी प्रयासों से वैश्विक नैतिक एआई मानक सामने आएंगे।
इस प्रकार, हालांकि यह अच्छा है – और निश्चित रूप से सही दिशा में एक कदम है – कि एआई सुरक्षा शिखर सम्मेलन के उपस्थित लोगों ने पिछले सप्ताह एआई सुरक्षा पर एक संयुक्त घोषणा पर हस्ताक्षर किए, साझा नैतिक एआई शासन नियमों पर वास्तविक प्रगति हासिल करना कठिन होगा और इसकी संभावना नहीं है। 1 नवंबर को बैलेचले पार्क में शुरू हुई अंतरराष्ट्रीय शिखर बैठक से बाहर आने के लिए।
2023-11-17 01:48:45
#एआई #सरकष #पर #सयकत #घषणए #अचछ #ह #लकन #सझ #नतक #एआई #शसन #नयम #पर #वसतवक #परगत #हसल #करन #कठन #हग #नर #वन #इगरसलबनसप #दवर #नवबर
