क्या ये AI- निर्मित नकली लोग आपको वास्तविक लगते हैं? - न्यूयॉर्क टाइम्स

0 31



अब ऐसे व्यवसाय हैं जो नकली लोगों को बेचते हैं। Generated.Photos वेबसाइट पर, आप $ 2.99 के लिए "अद्वितीय, चिंता मुक्त" नकली व्यक्ति या 1,000 डॉलर के लिए 1,000 लोगों को खरीद सकते हैं। यदि आपको बस कुछ नकली लोगों की आवश्यकता है - एक वीडियो गेम में पात्रों के लिए, या अपनी कंपनी की वेबसाइट बनाने के लिए अधिक विविध दिखाई दें - आप इन तस्वीरों को ThisPersonDoesNotExist.com पर मुफ्त में प्राप्त कर सकते हैं। आवश्यकतानुसार उनकी समानता को समायोजित करें; उन्हें बूढ़ा या जवान बनाएं या अपने चयन की जातीयता बनाएं। यदि आप अपने नकली व्यक्ति को एनिमेटेड चाहते हैं, तो Rosebud.AI नामक एक कंपनी ऐसा कर सकती है और यहां तक ​​कि उनसे बात भी कर सकती है।

ये नकली लोग इंटरनेट के इर्द-गिर्द दिखना शुरू कर रहे हैं, जिनका इस्तेमाल असली लोग नापाक इरादे के साथ करते हैं: जो डॉन दान करते हैं एक आकर्षक चेहरा खुफिया समुदाय की घुसपैठ के प्रयास में; दक्षिणपंथी प्रचारक जो नकली प्रोफाइल, फोटो और सभी को छिपाते हैं; ऑनलाइन परेशान करने वालों को जो एक दोस्ताना चेहरे के साथ अपने लक्ष्यों को ट्रोल करते हैं।

हमने अपने एआई सिस्टम को यह समझने के लिए बनाया कि विभिन्न नकली चेहरे उत्पन्न करना कितना आसान है।

एआई प्रणाली प्रत्येक चेहरे को एक जटिल गणितीय आकृति के रूप में देखती है, मूल्यों की एक श्रृंखला जिसे स्थानांतरित किया जा सकता है। विभिन्न मूल्यों को चुनना - जैसे कि वे जो आंखों के आकार और आकार को निर्धारित करते हैं - पूरी छवि को बदल सकते हैं।

अन्य गुणों के लिए, हमारी प्रणाली ने एक अलग दृष्टिकोण का उपयोग किया। छवि के विशिष्ट भागों को निर्धारित करने वाले मानों को स्थानांतरित करने के बजाय, सिस्टम ने सभी मानों के लिए शुरुआती और अंत बिंदुओं को स्थापित करने के लिए पहले दो छवियां बनाईं, और फिर बीच में छवियां बनाईं।

इस प्रकार की नकली छवियों का निर्माण हाल के वर्षों में एक नए प्रकार की कृत्रिम बुद्धिमत्ता की बदौलत संभव हुआ, जिसे एक जननेंद्रिय नेटवर्क कहा जाता है। संक्षेप में, आप एक कंप्यूटर प्रोग्राम को वास्तविक लोगों की तस्वीरों का एक गुच्छा खिलाते हैं। यह उनका अध्ययन करता है और लोगों की अपनी तस्वीरों के साथ आने की कोशिश करता है, जबकि सिस्टम का एक अन्य हिस्सा यह पता लगाने की कोशिश करता है कि उनमें से कौन सी फोटो नकली है।

बैक-एंड-एंड अंतिम उत्पाद को वास्तविक चीज़ से कभी अधिक अप्रभेद्य बनाता है। इस कहानी में पोर्ट्रेट्स को GAN सॉफ्टवेयर का उपयोग करके टाइम्स द्वारा बनाया गया था, जिसे कंप्यूटर ग्राफिक्स कंपनी एनवीडिया द्वारा सार्वजनिक रूप से उपलब्ध कराया गया था।

सुधार की गति को देखते हुए, एक दूर-दूर के भविष्य की कल्पना करना आसान है, जिसमें हम नकली लोगों के सिर्फ एक ही पोर्ट्रेट के साथ सामना नहीं कर रहे हैं बल्कि उनके पूरे संग्रह - नकली दोस्तों के साथ एक पार्टी में, अपने नकली कुत्तों के साथ घूम रहे हैं। उनके नकली बच्चे पकड़े। यह बताना मुश्किल हो जाएगा कि कौन असली है और कौन कंप्यूटर की कल्पना का।

“जब 2014 में पहली बार तकनीक दिखाई दी, तो यह बुरा था - ऐसा लग रहा था सिम्स, "एक विघटनकारी शोधकर्ता केमिली फ्रांकोइस ने कहा, जिसका काम सामाजिक नेटवर्क के हेरफेर का विश्लेषण करना है। “यह याद दिलाता है कि तकनीक कितनी जल्दी विकसित हो सकती है। डिटेक्शन केवल समय के साथ कठिन हो जाएगा। ”

चेहरे की फकीरी ​​में उन्नति संभव हो गई है क्योंकि चेहरे की प्रमुख विशेषताओं को पहचानने में तकनीक इतनी बेहतर हो गई है। आप अपने स्मार्टफोन को अनलॉक करने के लिए अपने चेहरे का उपयोग कर सकते हैं, या अपने फोटो सॉफ्टवेयर को अपने हजारों चित्रों के माध्यम से सॉर्ट करने के लिए कह सकते हैं और आपको केवल अपने बच्चे को दिखा सकते हैं। आपराधिक संदिग्धों की पहचान करने और उन्हें गिरफ्तार करने के लिए कानून के प्रवर्तन द्वारा चेहरे की पहचान के कार्यक्रमों का उपयोग किया जाता है कुछ कार्यकर्ता गुमनाम रहने के प्रयास में अपने नाम टैग को कवर करने वाले पुलिस अधिकारियों की पहचान उजागर करना)। नामक कंपनी क्लीयर AI एक ही फोटो से किसी अजनबी को पहचानने में सक्षम एक ऐप बनाने के लिए, अरबों सार्वजनिक तस्वीरों के वेब को स्क्रैप कर दिया गया है - हर रोज़ उपयोगकर्ताओं द्वारा ऑनलाइन साझा किया जाता है। तकनीक सुपरपावर का वादा करती है: दुनिया को इस तरह से व्यवस्थित और संसाधित करने की क्षमता जो पहले संभव नहीं थी।

लेकिन चेहरे की पहचान एल्गोरिदम, अन्य एआई सिस्टम की तरह, परिपूर्ण नहीं हैं। उन्हें प्रशिक्षित करने के लिए उपयोग किए गए डेटा में अंतर्निहित पूर्वाग्रह के लिए धन्यवाद, इनमें से कुछ प्रणालियां रंग के लोगों को पहचानने के लिए उतनी अच्छी नहीं हैं। 2015 में, Google द्वारा विकसित एक प्रारंभिक छवि-पहचान प्रणाली लेबल "गोरिल्ला" के रूप में दो अश्वेत लोगों को, सबसे अधिक संभावना है क्योंकि प्रणाली को गोरे लोगों की तुलना में गोरिल्ला की कई और तस्वीरें दी गई थीं।

इसके अलावा, कैमरे - चेहरे की पहचान प्रणाली की आँखें - हैं के रूप में अच्छा नहीं अंधेरे त्वचा वाले लोगों को पकड़ने पर; जब फिल्म के शुरुआती दिनों की दुर्भाग्यपूर्ण मानक तारीखें, जब तस्वीरें कैलिब्रेट किए गए थे सबसे अच्छा दिखाने के लिए हल्की चमड़ी वाले लोगों के चेहरे। इसके परिणाम गंभीर हो सकते हैं। जनवरी में, डेट्रायट में रॉबर्ट विलियम्स नाम के एक अश्वेत व्यक्ति को गिरफ्तार किया गया था एक अपराध जो उसने नहीं किया क्योंकि एक गलत चेहरे-पहचान मैच।

कृत्रिम बुद्धिमत्ता हमारे जीवन को आसान बना सकती है, लेकिन अंततः यह उतना ही त्रुटिपूर्ण है जितना हम हैं, क्योंकि हम इसके पीछे हैं। मनुष्य चुनता है कि AI सिस्टम कैसे बनाया जाता है और वे किस डेटा के संपर्क में आते हैं। हम उन आवाज़ों को चुनते हैं जो आभासी सहायकों को सुनना सिखाती हैं, इन प्रणालियों को अग्रणी बनाती हैं लोगों को समझने के लिए नहीं लहजे के साथ। हम एक कंप्यूटर प्रोग्राम को डिजाइन करते हैं जो किसी व्यक्ति के आपराधिक व्यवहार की भविष्यवाणी करने के लिए उसे मानव न्यायाधीशों द्वारा किए गए पिछले फैसलों के बारे में डेटा खिलाता है - और इस प्रक्रिया में उन न्यायाधीशों के पक्षपात में पकाना। हम उन चित्रों को लेबल करते हैं जो कंप्यूटर को देखने के लिए प्रशिक्षित करते हैं; वे फिर सहयोगी हैं "dweebs" या "nerds" के साथ चश्मा।"

आप कुछ गलतियों और पैटर्न को देख सकते हैं, जो हमने पाया कि हमारा AI सिस्टम दोहराया गया जब वह नकली चेहरों को मिला रहा था।


मानव गलत तरीके से, निश्चित रूप से: हम इन प्रणालियों की खामियों को अनदेखा करते हैं या उन्हें अनदेखा करते हैं, सभी को भरोसा है कि कंप्यूटर अति-तर्कसंगत, उद्देश्य, हमेशा सही हैं। अध्ययनों से पता चला है कि, उन स्थितियों में जहां मानव और कंप्यूटर को निर्णय लेने के लिए सहयोग करना चाहिए - पहचान करने के लिए उंगलियों के निशान or मानव चेहरे - लोग लगातार गलत पहचान की जब एक कंप्यूटर उन्हें ऐसा करने के लिए nudged। डैशबोर्ड जीपीएस सिस्टम के शुरुआती दिनों में, ड्राइवर प्रसिद्ध उपकरणों के निर्देशों का पालन किया गलती से, कारों को भेजना झीलों में, बंद चट्टानों और पेड़ों में.

क्या यह विनम्रता है या पतिव्रता है? क्या हम मानव बुद्धि में बहुत कम मूल्य रखते हैं - या क्या हम इसे उखाड़ फेंकते हैं, यह मानते हुए कि हम इतने स्मार्ट हैं कि हम चीजों को अभी भी स्मार्ट बना सकते हैं?

Google और बिंग के एल्गोरिदम हमारे लिए दुनिया के ज्ञान को सॉर्ट करते हैं। फेसबुक का न्यूज़फ़ीड हमारे सामाजिक हलकों से अपडेट को फ़िल्टर करता है और निर्णय करता है जो हमें दिखाने के लिए पर्याप्त महत्वपूर्ण हैं। कारों में सेल्फ ड्राइविंग फीचर्स के साथ, हम हैं हमारी सुरक्षा को हाथ में रखना (और आँखें) सॉफ्टवेयर के। हम इन प्रणालियों में बहुत अधिक विश्वास रखते हैं, लेकिन वे हमारे जैसे ही पतनशील हो सकते हैं।

आर्टिफिशियल इंटेलिजेंस पर अधिक लेख:

कुछ नए प्यारे दोस्तों पर प्रशिक्षण की पहचान: भालू

एंटीबॉडीज अच्छा है। मशीन-निर्मित अणु बेहतर?

ये एल्गोरिदम दुनिया के सबसे घातक हत्यारे के लिए एक अंत ला सकते हैं

यह लेख सबसे पहले (अंग्रेजी में) https://www.nytimes.com/interactive/2020/11/21/science/artific-intelligence-fake-people-faces.html पर प्रकाशित हुआ

एक टिप्पणी छोड़ दो

आपका ईमेल पता प्रकाशित नहीं किया जाएगा।