News Archyuk

बेटे की कमर की मेडिकल तस्वीरें लेने के बाद Google ने उसका खाता बहाल करने से इनकार कर दिया | तकनीकी

बाल यौन शोषण सामग्री (सीएसएएम) के रूप में अपने बेटे की कमर से ली गई चिकित्सा छवियों को गलत तरीके से फ़्लैग करने के बाद Google ने एक व्यक्ति के खाते को बहाल करने से इनकार कर दिया है। न्यूयॉर्क टाइम्स पहले सूचना दी। विशेषज्ञों का कहना है कि यह एक सामाजिक समस्या के तकनीकी समाधान को लागू करने की कोशिश करने का एक अनिवार्य नुकसान है।

विशेषज्ञों ने लंबे समय से स्वचालित बाल यौन शोषण छवि पहचान प्रणाली की सीमाओं के बारे में चेतावनी दी है, खासकर जब कंपनियां यौन शोषण सामग्री के अस्तित्व को संबोधित करने में मदद करने के लिए नियामक और सार्वजनिक दबाव का सामना करती हैं।

“इन कंपनियों के पास लोगों के जीवन के बारे में अत्यधिक आक्रामक मात्रा में डेटा तक पहुंच है। और फिर भी उनके पास इस बात का संदर्भ नहीं है कि लोगों का जीवन वास्तव में क्या है, ”एसीएलयू के एक वरिष्ठ स्टाफ टेक्नोलॉजिस्ट डैनियल कहन गिल्मर ने कहा। “ऐसी सभी प्रकार की चीजें हैं जहां आपके जीवन का तथ्य इन सूचना दिग्गजों के लिए सुपाठ्य नहीं है।” उन्होंने कहा कि तकनीकी कंपनियों द्वारा इन प्रणालियों का उपयोग जो कानून प्रवर्तन के लिए “प्रॉक्सी के रूप में कार्य करते हैं” लोगों को “राज्य की शक्ति” द्वारा “बहने” के जोखिम में डालते हैं।

न्यू यॉर्क टाइम्स द्वारा केवल मार्क के रूप में पहचाने जाने वाले व्यक्ति ने अपने बेटे की कमर की तस्वीरें लीं, यह महसूस करने के बाद कि यह सूजन थी, डॉक्टर को भेजने के लिए। डॉक्टर ने उस छवि का इस्तेमाल मार्क के बेटे का निदान करने और एंटीबायोटिक्स लिखने के लिए किया। जब फ़ोटो स्वचालित रूप से क्लाउड पर अपलोड किए गए, तो Google के सिस्टम ने उन्हें CSAM के रूप में पहचाना। दो दिन बाद, मार्क का जीमेल और अन्य गूगल टाइम्स ने अपने फोन पर एक संदेश का हवाला देते हुए बताया कि Google Fi सहित, जो उनकी फोन सेवा प्रदान करता है, “हानिकारक सामग्री” पर अक्षम कर दिया गया था जो “कंपनी की नीतियों का गंभीर उल्लंघन था और अवैध हो सकता है”। बाद में उन्हें पता चला कि Google ने उनके फ़ोन पर मौजूद एक अन्य वीडियो को फ़्लैग किया था और सैन फ़्रांसिस्को पुलिस विभाग ने उनकी जांच शुरू की थी.

मार्क को किसी भी आपराधिक गड़बड़ी से मुक्त कर दिया गया था, लेकिन Google ने कहा है कि वह अपने फैसले पर कायम रहेगा।

Google के प्रवक्ता क्रिस्टा मुलदून ने कहा, “हम CSAM को परिभाषित करने में अमेरिकी कानून का पालन करते हैं और हैश मिलान तकनीक और कृत्रिम बुद्धिमत्ता के संयोजन का उपयोग करते हैं और इसे अपने प्लेटफॉर्म से हटाते हैं।”

मुलदून ने कहा कि सीएसएएम की समीक्षा करने वाले Google कर्मचारियों को चिकित्सा विशेषज्ञों द्वारा चकत्ते या अन्य मुद्दों को देखने के लिए प्रशिक्षित किया गया था। हालांकि, वे स्वयं चिकित्सा विशेषज्ञ नहीं थे और प्रत्येक मामले की समीक्षा करते समय चिकित्सा विशेषज्ञों से परामर्श नहीं लिया गया था।

गिल्मर के अनुसार, यही एक तरीका है जिससे ये सिस्टम नुकसान पहुंचा सकते हैं। उदाहरण के लिए, हानिकारक यौन शोषण छवियों और चिकित्सा छवियों के बीच अंतर करने में एल्गोरिदम की कोई भी सीमा हो सकती है, कंपनियों के पास अक्सर लूप में एक मानव होता है। लेकिन वे इंसान स्वाभाविक रूप से अपनी विशेषज्ञता में सीमित हैं, और प्रत्येक मामले के लिए उचित संदर्भ प्राप्त करने के लिए उपयोगकर्ता डेटा तक और पहुंच की आवश्यकता होती है। गिल्मर ने कहा कि यह बहुत अधिक दखल देने वाली प्रक्रिया है जो अभी भी CSAM का पता लगाने का एक अप्रभावी तरीका हो सकता है।

“ये सिस्टम लोगों के लिए वास्तविक समस्याएं पैदा कर सकते हैं,” उन्होंने कहा। “और ऐसा नहीं है कि मुझे नहीं लगता कि ये सिस्टम बाल शोषण के हर मामले को पकड़ सकते हैं, यह है कि लोगों के लिए झूठी सकारात्मकता के संदर्भ में उनके वास्तव में भयानक परिणाम हैं। लोगों का जीवन वास्तव में मशीनरी और लूप में मनुष्यों द्वारा केवल एक बुरा निर्णय लेने से प्रभावित हो सकता है क्योंकि उनके पास इसे ठीक करने का प्रयास करने का कोई कारण नहीं है।

गिल्मर ने तर्क दिया कि प्रौद्योगिकी इस समस्या का समाधान नहीं है। वास्तव में, यह कई नई समस्याएं पेश कर सकता है, उन्होंने कहा, जिसमें एक मजबूत निगरानी प्रणाली बनाना शामिल है जो हाशिये पर रहने वालों को असमान रूप से नुकसान पहुंचा सकती है।

“एक प्रकार का तकनीकी-समाधानवादियों का सपना है, [where people say], ‘ओह, ठीक है, आप जानते हैं, मेरे लिए एक सस्ता लंच खोजने के लिए एक ऐप है, बाल यौन शोषण जैसी कांटेदार सामाजिक समस्या का समाधान खोजने के लिए एक ऐप क्यों नहीं हो सकता है?’” उसने कहा। “ठीक है, आप जानते हैं, वे एक ही प्रकार की तकनीक या कौशल सेट द्वारा हल करने योग्य नहीं हो सकते हैं।”

Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.

Most Popular

Get The Latest Updates

Subscribe To Our Weekly Newsletter

No spam, notifications only about new products, updates.

Categories

On Key

Related Posts

एसएन पर एनबीए: नगेट्स बनाम ट्रेल ब्लेज़र्स

डेनवर नगेट्स गुरुवार की रात पोर्टलैंड ट्रेल ब्लेज़र्स का दौरा करने पर तीन-गेम हारने वाली स्किड को रोकने का लक्ष्य रखेंगे। स्पोर्ट्सनेट वन या एसएन

सरकार ने राज्यसभा में ऊर्जा संरक्षण विधेयक पेश किया

केंद्रीय ऊर्जा मंत्री राज कुमार सिंह नई दिल्ली में गुरुवार, 8 दिसंबर, 2022 को संसद के चल रहे शीतकालीन सत्र के दौरान राज्यसभा में बोलते

कतर विश्व कप के सीईओ की प्रवासी मौत पर पागल प्रतिक्रिया

एक प्रवासी श्रमिक की मौत के बारे में पूछे जाने पर कतर विश्व कप के मुख्य कार्यकारी काफी नाराज दिखे।

एसएनपी: स्टीफन फ्लिन ने मुख्य सचेतक को बर्खास्त कर दिया क्योंकि वरिष्ठ सांसद पीट विशरट का कहना है कि वह इस्तीफे पत्र में बदलाव से ‘हतप्रभ’ हैं

नवनियुक्त एसएनपी वेस्टमिंस्टर नेता स्टीफन फ्लिन ने पार्टी के मुख्य सचेतक को बर्खास्त कर दिया है क्योंकि एक वरिष्ठ सांसद ने कहा कि वह परिवर्तनों