आर्टिफिशियल इंटेलिजेंस (एआई) ऐसे चेहरे बना सकती है जो वास्तविक मानव चेहरों की तस्वीरों की तुलना में लोगों को अधिक “वास्तविक” दिखते हैं, जर्नल सेज में 13 नवंबर के एक अध्ययन में पाया गया।
यह एक ऐसी घटना है जिसे अध्ययन के वरिष्ठ लेखक एमी डावेल, एक नैदानिक मनोवैज्ञानिक और ऑस्ट्रेलियन नेशनल यूनिवर्सिटी में व्याख्याता, ने “अतियथार्थवाद” कहा है – कृत्रिम रूप से उत्पन्न वस्तुएं जिन्हें मनुष्य अपने वास्तविक वास्तविक दुनिया के समकक्षों की तुलना में अधिक “वास्तविक” मानते हैं। डीपफेक के उदय के मद्देनजर यह विशेष रूप से चिंताजनक है – वास्तविक व्यक्तियों का प्रतिरूपण करने के लिए डिज़ाइन की गई कृत्रिम रूप से तैयार की गई सामग्री।
लेकिन एक दिक्कत है: एआई ने अतियथार्थवाद तभी हासिल किया जब उसने सफेद चेहरे पैदा किए; एआई-जनित रंग के चेहरे अभी भी अलौकिक घाटी में गिरे हुए हैं। डावेल ने कहा कि इसका न केवल यह प्रभाव हो सकता है कि ये उपकरण कैसे बनाए जाते हैं, बल्कि इस पर भी कि रंग-बिरंगे लोगों को ऑनलाइन कैसे देखा जाता है।
पक्षपाती एआई के निहितार्थ
डॉवेल फरवरी 2022 में पीएनएएस पत्रिका में प्रकाशित शोध से प्रेरित थे। लेखक सोफी नाइटिंगेल, यूके में लैंकेस्टर विश्वविद्यालय में मनोविज्ञान की व्याख्याता, और कैलिफोर्निया विश्वविद्यालय, बर्कले में इलेक्ट्रिकल इंजीनियरिंग और कंप्यूटर विज्ञान के प्रोफेसर हनी फरीद ने पाया प्रतिभागी एआई-जनित और मानवीय चेहरों के बीच अंतर नहीं बता सके। लेकिन डावेल यह आकलन करने के लिए एक कदम आगे जाना चाहते थे कि क्या लोग एआई चेहरों को कैसे समझते हैं, इसमें कोई नस्लीय तत्व हो सकता है।
नए अध्ययन में, प्रतिभागियों – जिनमें से सभी श्वेत थे – को 100 चेहरे दिखाए गए – जिनमें से कुछ मानवीय चेहरे थे और जिनमें से कुछ StyleGAN2 छवि-पीढ़ी उपकरण का उपयोग करके तैयार किए गए थे। यह तय करने के बाद कि कोई चेहरा एआई है या मानव, प्रतिभागियों ने शून्य से 100 के पैमाने पर अपनी पसंद में अपने आत्मविश्वास का मूल्यांकन किया।
डॉवेल ने एक ईमेल में लाइव साइंस को बताया, “हमें यह जानकर बहुत आश्चर्य हुआ कि कुछ एआई चेहरों को अतियथार्थवादी माना गया था, इसलिए हमारा अगला कदम प्रतिभागियों के एक नए नमूने में नाइटिंगेल और फरीद के डेटा का पुनर्विश्लेषण करके हमारी खोज को दोहराने का प्रयास करना था।”
कारण सरल है: स्टाइलजीएएन2 सहित एआई एल्गोरिदम, सफेद चेहरों पर असमान रूप से प्रशिक्षित हैं, उन्होंने कहा। इस प्रशिक्षण पूर्वाग्रह के कारण सफेद चेहरे सामने आए जो “अतिरिक्त-वास्तविक” थे, जैसा कि डावेल ने कहा था।
डॉवेल ने कहा, एआई सिस्टम में नस्लीय पूर्वाग्रह का एक और उदाहरण नियमित तस्वीरों को पेशेवर हेडशॉट में बदलने के लिए उपकरणों का उपयोग है। रंगीन लोगों के लिए, AI त्वचा की टोन और आंखों का रंग बदल देता है। एआई-जनित छवियों का उपयोग विपणन और विज्ञापन जैसे क्षेत्रों में या चित्र बनाने में भी तेजी से हो रहा है। गार्टनर फ्यूचर्स लैब के शोध प्रमुख और एआई विशेषज्ञ फ्रैंक ब्यूटेन्डिज्क ने कहा, अगर एआई का उपयोग पूर्वाग्रहों के साथ किया जाता है, तो यह मीडिया के लोगों में नस्लीय पूर्वाग्रहों को मजबूत कर सकता है, जिसके सामाजिक स्तर पर गहरे परिणाम होंगे।
उन्होंने लाइव साइंस को एक ईमेल में बताया, “पहले से ही, किशोर अपने साथियों द्वारा निर्धारित आदर्श की तरह दिखने का दबाव महसूस करते हैं।” “इस मामले में, अगर हम चाहते हैं कि हमारे चेहरों को एल्गोरिदम द्वारा उठाया जाए, स्वीकार किया जाए, तो हमें वैसा ही दिखना होगा जैसा मशीन उत्पन्न करती है।”
जोखिमों को कम करना
लेकिन एक और खोज है जो डावेल को चिंतित करती है और सामाजिक समस्याओं को और बढ़ा सकती है। जिन लोगों ने सबसे अधिक गलतियाँ कीं – एआई-जनित चेहरों को वास्तविक के रूप में पहचानना – वे भी अपनी पसंद में सबसे अधिक आश्वस्त थे। दूसरे शब्दों में, जिन लोगों को एआई द्वारा सबसे अधिक मूर्ख बनाया जाता है, उन्हें कम ही पता होता है कि उन्हें धोखा दिया जा रहा है।
डावेल का तर्क है कि उनके शोध से पता चलता है कि जेनरेटिव एआई को ऐसे तरीकों से विकसित करने की आवश्यकता है जो जनता के लिए पारदर्शी हों और इसकी निगरानी स्वतंत्र निकायों द्वारा की जानी चाहिए।
“इस मामले में, हमारे पास उन चित्रों तक पहुंच थी जिन पर एआई एल्गोरिदम को प्रशिक्षित किया गया था, इसलिए हम प्रशिक्षण डेटा में सफेद पूर्वाग्रह की पहचान करने में सक्षम थे,” डावेल ने कहा। “हालाँकि अधिकांश नए AI इस तरह पारदर्शी नहीं हैं, और [the] AI उद्योग में निवेश बहुत बड़ा है जबकि इसकी निगरानी के लिए विज्ञान के लिए धन बहुत कम है, प्राप्त करना कठिन है और धीमा है।”
