अमेज़ॅन के चेहरे की पहचान प्रणाली में दर्जनों कैलिफोर्निया के अपराधियों के नाम हैं - बीजीआर

हाल के वर्षों में फेस रिकग्निशन तकनीक ने एक लंबा सफर तय किया है और आज कई स्मार्टफोन उपयोगकर्ता अपने उपकरणों की सुरक्षा के लिए फेस अनलॉकिंग सुविधाओं पर भरोसा करते हैं। अमेज़ॅन के फेस स्कैनिंग सॉफ़्टवेयर, जिसे रिकॉग्निशन कहा जाता है, आपके फ़ोन को अनलॉक नहीं करता है, लेकिन वर्तमान में कानून प्रवर्तन द्वारा अपराधियों की पहचान करने के लिए उनकी आईडी तस्वीरों का उपयोग किया जा रहा है।

पिछले साल ए.सी.एल.यू. मान्यता सॉफ्टवेयर का उपयोग किया [ कांग्रेस के सदस्यों की तस्वीरों पर और पाया गया कि सॉफ्टवेयर ने 28 की पहचान उनके बीच के अपराधियों के रूप में की थी। इन झूठी सकारात्मक चीजों ने अमेज़ॅन के सॉफ़्टवेयर में गंभीर खामियां दिखाईं और कार्यक्रम में एक नस्लीय पूर्वाग्रह को उजागर किया, रंग के लोगों को असम्मानजनक रूप से चिह्नित किया। अब एक साल बाद ए.सी.एल.यू. उसके परीक्षण को दोहराया ... और ऐसा लगता है कि लगभग कुछ भी नहीं बदला है।

अंतिम परीक्षण के दौरान, 120 कैलिफोर्निया के सांसदों की तस्वीरों पर रेकग्निशन सॉफ्टवेयर का इस्तेमाल किया गया था। उसने एक बार फिर ज्ञात अपराधियों के साथ दर्जनों झूठे मैचों का निर्माण किया है। एक आपराधिक डेटाबेस में, 26 लोगों की पहचान फोटो के रूप में की गई थी, जो सिस्टम के अधीन आने वाले पांच कर्मचारियों में से एक से मेल खाती है।

परीक्षण का उद्देश्य संभावित जोखिमों की पहचान करने के लिए ऐसी अभेद्य तकनीक का उपयोग करने के नुकसान को उजागर करना था। अपराधियों। आपराधिक रिकॉर्ड वाले लोगों को जल्दी से पहचानने के लिए सॉफ़्टवेयर का उपयोग करने वाले पुलिस बल गलत तरीके से पहचान सकते हैं या गलती से मान सकते हैं कि उनसे दूसरे नाम के तहत मांग की जा रही है।

“सॉफ्टवेयर स्पष्ट रूप से पुलिस द्वारा उपयोग करने के लिए तैयार नहीं है। फिल टिंग, कैलिफोर्निया विधानसभा के एक सदस्य जो अपराधी होने के झूठे आरोपी विधायकों में से एक थे, ने बताया ला टाइम्स । "ये गलतियाँ, हम थोड़ा हँस सकते हैं, लेकिन अगर आपको गिरफ्तार किया गया है और यह आपके लॉकर में है, तो आवास, काम ढूंढना मुश्किल हो सकता है। इसके वास्तविक प्रभाव हैं। "

अमेज़ॅन, अपने हिस्से के लिए, दावा करता है कि ACLU सॉफ्टवेयर का "दुरुपयोग" करता है, जिसे केवल एक मैच के 99% पर सुरक्षित होने पर परिणाम वापस करने के लिए अनुकूलित किया जा सकता है। कंपनी ने निम्नलिखित कथन को प्रस्तावित किया Gizmodo :

ACLU फिर से जानबूझकर और अपमानजनक रूप से Amazon Rekognition का उपयोग सुर्खियां बनाने के लिए करता है। जैसा कि हम अतीत में कई बार कह चुके हैं, जब एक्सएनयूएमएक्स% के साथ प्रयोग किया जाता है विश्वास सीमा और मानव निर्णय के हिस्से के रूप में, चेहरे की पहचान तकनीक का उपयोग लंबे समय तक किया जा सकता है। उपयोगी उद्देश्यों की सूची, जैसे कि पहचान। अपराधियों को लापता बच्चों को मानव में तस्करी से लड़ने में मदद करने के लिए। हम जिम्मेदार उपयोग सुनिश्चित करने के लिए चेहरे की पहचान तकनीक पर संघीय कानून की वकालत करना जारी रखते हैं, और हमने इस संबंध में हमारे विशिष्ट सुझावों को नीति निर्माताओं और निजी तौर पर हमारे ब्लॉग पर साझा किया है।

यह बहुत अच्छा है और सब कुछ है, लेकिन अगर सॉफ़्टवेयर को उस विशिष्ट कॉन्फ़िगरेशन के साथ उपयोग करने के लिए डिज़ाइन किया गया है, तो इसे बदलना भी क्यों संभव है और सभी कानून प्रवर्तन एजेंसियों की संभावना क्या है उपयोग भी इस सिफारिश का पालन करें?

छवि स्रोत: मार्कस रेडमैन / इमेजबॉकर / आरईएक्स / शटरस्टॉक

यह लेख पहले (अंग्रेजी में) दिखाई दिया बीजीआर