Google ने चेतावनी दी है कि सुप्रीम कोर्ट (SC) के एक चल रहे मामले में उसके खिलाफ एक फैसला कृत्रिम बुद्धिमत्ता (AI) को शामिल करने वाले कंटेंट मॉडरेशन फैसलों पर मुकदमों के खिलाफ एक महत्वपूर्ण सुरक्षा को हटाकर पूरे इंटरनेट को खतरे में डाल सकता है।
1996 के संचार शालीनता अधिनियम की धारा 230 (नए टैब में खुलता है) कंपनियां अपने प्लेटफॉर्म पर सामग्री को कैसे मॉडरेट करती हैं, इस संबंध में वर्तमान में एक कंबल ‘देयता कवच’ प्रदान करता है।
हालाँकि, जैसा कि द्वारा बताया गया है सीएनएन (नए टैब में खुलता है)Google ने ए में लिखा है कानूनी फाइलिंग (नए टैब में खुलता है) कि, गोंजालेज बनाम गूगल के मामले में वादी के पक्ष में SC का शासन होना चाहिए, जो उपयोगकर्ताओं को ISIS समर्थक सामग्री की सिफारिश करने वाले YouTube के एल्गोरिदम के इर्द-गिर्द घूमता है, इंटरनेट खतरनाक, आक्रामक और चरमपंथी सामग्री से भर सकता है।
मॉडरेशन में स्वचालन
लगभग 27 साल पुराने कानून का हिस्सा होने के नाते, सुधार के लिए अमेरिकी राष्ट्रपति जो बिडेन पहले ही निशाना साध चुके हैं (नए टैब में खुलता है)धारा 230 कृत्रिम रूप से बुद्धिमान एल्गोरिदम जैसे आधुनिक विकास पर कानून बनाने के लिए सुसज्जित नहीं है, और यहीं से समस्याएं शुरू होती हैं।
Google के तर्क की जड़ यह है कि 1996 से इंटरनेट इतना बढ़ गया है कि सामग्री मॉडरेशन समाधानों में कृत्रिम बुद्धिमत्ता को शामिल करना एक आवश्यकता बन गया है। फाइलिंग में कहा गया है, “वस्तुतः कोई भी आधुनिक वेबसाइट काम नहीं करेगी, अगर उपयोगकर्ताओं को सामग्री के माध्यम से खुद को छांटना पड़े।”
“सामग्री की प्रचुरता” का अर्थ है कि तकनीकी कंपनियों को एल्गोरिदम का उपयोग करना पड़ता है ताकि इसे उपयोगकर्ताओं को प्रबंधनीय तरीके से प्रस्तुत किया जा सके, खोज इंजन परिणामों से लेकर उड़ान सौदों तक, रोजगार वेबसाइटों पर नौकरी की सिफारिशों तक।
Google ने यह भी संबोधित किया कि मौजूदा कानून के तहत, टेक कंपनियां केवल अपने प्लेटफॉर्म को मॉडरेट करने से इनकार करती हैं, देयता से बचने के लिए एक पूरी तरह से कानूनी मार्ग है, लेकिन इससे इंटरनेट को “वर्चुअल सेसपूल” होने का खतरा होता है।
टेक दिग्गज ने यह भी बताया कि YouTube के सामुदायिक दिशानिर्देश आतंकवाद, वयस्क सामग्री, हिंसा और “अन्य खतरनाक या आपत्तिजनक सामग्री” को स्पष्ट रूप से अस्वीकार करते हैं और यह कि यह प्रतिबंधित सामग्री को पहले से ही ब्लॉक करने के लिए अपने एल्गोरिदम को लगातार बदल रहा है।
इसने यह भी दावा किया कि YouTube की ‘हिंसक अतिवाद नीति’ का उल्लंघन करने वाले “लगभग” 95% वीडियो स्वचालित रूप से Q2 2022 में पाए गए थे।
फिर भी, मामले में याचिकाकर्ताओं का कहना है कि YouTube सभी आइसिस-संबंधित सामग्री को हटाने में विफल रहा है, और ऐसा करने में, “आईएसआईएस के उदय” को प्रमुखता देने में सहायता मिली है।
इस बिंदु पर किसी भी दायित्व से खुद को और दूर करने के प्रयास में, Google ने यह कहकर प्रतिक्रिया दी कि YouTube के एल्गोरिदम सामग्री के एक टुकड़े और उपयोगकर्ता की पहले से ही रुचि रखने वाली सामग्री के बीच समानता के आधार पर उपयोगकर्ताओं को सामग्री की सिफारिश करते हैं।
यह एक जटिल मामला है और, हालांकि इस विचार की सदस्यता लेना आसान है कि इंटरनेट मैन्युअल मॉडरेशन के लिए बहुत बड़ा हो गया है, यह सुझाव देना उतना ही आश्वस्त करने वाला है कि जब उनके स्वचालित समाधान कम हो जाते हैं तो कंपनियों को जवाबदेह ठहराया जाना चाहिए।
आखिरकार, भले ही तकनीकी दिग्गज भी इस बात की गारंटी नहीं दे सकते कि उनकी वेबसाइट पर क्या है, फ़िल्टर के उपयोगकर्ता और माता पिता द्वारा नियंत्रण सुनिश्चित नहीं हो सकते कि वे आपत्तिजनक सामग्री को ब्लॉक करने के लिए प्रभावी कार्रवाई कर रहे हैं।
