Deep fake: AI से तैयार नकली वीडियो (Deep Fake) अधिक आम (और विश्वसनीय) होते जा रहे हैं। यही कारण है कि हमें इससे चिंतित होना चाहिए।
डीपफेक क्या है ? (What is Deepfake)
क्या आपने बराक ओबामा को डोनाल्ड ट्रम्प को “पूर्ण मूर्ख” कहते हुए देखा है, या मार्क जुकरबर्ग को “अरबों लोगों के चुराए गए डेटा पर पूर्ण नियंत्रण” होने का दावा करते देखा है, या गेम ऑफ थ्रोन्स के निराशाजनक अंत के लिए जॉन स्नो की मार्मिक माफ़ी देखी है ? फोटोशॉपिंग के लिए 21वीं सदी का जवाब, डीपफेक नकली घटनाओं की छवियां बनाने के लिए डीप लर्निंग नामक कृत्रिम बुद्धिमत्ता के एक रूप का उपयोग करता है, इसलिए इसे डीपफेक नाम दिया गया है। क्या आप किसी राजनेता के बोलते हुए चेहरे पर नए शब्द डालना चाहते हैं, अपनी पसंदीदा फिल्म में अभिनय करना चाहते हैं, या एक पेशेवर की तरह नृत्य करना चाहते हैं ? तो यह सब डीपफेक से संभव है।
ये किस लिए हैं ? (What are they for? )
डीप फैक के ज्यादातर वीडिय अश्लील हैं, एआई फर्म डीपट्रेस को सितंबर 2019 में 15,000 डीपफेक वीडियो ऑनलाइन मिले, जो नौ महीनों में लगभग दोगुना हो गए। आश्चर्यजनक रूप से 96% अश्लील थे और उनमें से 99% में महिला मशहूर हस्तियों से लेकर पोर्न स्टार्स तक के चेहरे शामिल थे। चूँकि नई तकनीकें अकुशल लोगों को मुट्ठी भर तस्वीरों के साथ डीपफेक बनाने का काम आसान कर देती हैं, इसलिए बदला लेने वाले पोर्न को बढ़ावा देने के लिए नकली वीडियो सेलिब्रिटी दुनिया से परे फैलने की संभावना है। जैसा कि बोस्टन विश्वविद्यालय में कानून के प्रोफेसर डेनिएल सिट्रोन कहते हैं: “डीपफेक तकनीक को महिलाओं के खिलाफ हथियार बनाया जा रहा है।” पोर्न के अलावा बहुत सारा मज़ाक, व्यंग्य और शरारत में भी यह इस्तेमाल हो रहा है।
क्या यह सिर्फ वीडियो के बारे में है ? (Is it just about videos?)
डीपफेक तकनीक शुरुआत से ही पूरी तरह से काल्पनिक तस्वीरें बना सकती है। एक काल्पनिक पत्रकार, “मैसी किंसले”, जिसकी लिंक्डइन और ट्विटर पर प्रोफ़ाइल थी, संभवतः एक डीपफेक थी। एक अन्य लिंक्डइन फर्जी profile “केटी जोन्स” ने सेंटर फॉर स्ट्रैटेजिक एंड इंटरनेशनल स्टडीज में काम करने का दावा किया है, लेकिन माना जाता है कि यह एक विदेशी जासूसी ऑपरेशन के लिए बनाया गया डीपफेक है।
सार्वजनिक हस्तियों की “वॉयस स्किन्स” या “वॉयस क्लोन” बनाने के लिए ऑडियो को डीपफेक भी किया जा सकता है। पिछले मार्च में, एक जर्मन ऊर्जा कंपनी की यूके सहायक कंपनी के प्रमुख ने जर्मन सीईओ की आवाज की नकल करने वाले एक धोखेबाज द्वारा फोन किए जाने के बाद हंगरी के एक बैंक खाते में लगभग £200,000 का भुगतान किया था। कंपनी के बीमाकर्ताओं का मानना है कि आवाज डीपफेक थी, लेकिन सबूत स्पष्ट नहीं है। इसी तरह के घोटालों में कथित तौर पर रिकॉर्ड किए गए व्हाट्सएप वॉयस संदेशों का उपयोग किया गया था ।
कैसे बनते है डीपफेक वीडियो (How Deepfake Videos Are made )
विश्वविद्यालय के शोधकर्ताओं और effects स्टूडियो ने लंबे समय से वीडियो और छवि हेरफेर की सीमाओं को आगे बढ़ाया है। लेकिन डीपफेक का जन्म 2017 में हुआ जब इसी नाम के एक Reddit उपयोगकर्ता ने साइट पर छेड़छाड़ की गई अश्लील क्लिप पोस्ट कीं। वीडियो में मशहूर हस्तियों – गैल गैडोट, टेलर स्विफ्ट, स्कारलेट जोहानसन और अन्य के चेहरे पोर्न कलाकारों के चेहरे पर बदल दिए गए।
चेहरे की अदला-बदली वाला वीडियो बनाने में कुछ चरण लगते हैं। सबसे पहले, आप एनकोडर नामक एआई एल्गोरिदम के माध्यम से दो लोगों के हजारों चेहरे के शॉट चलाते हैं। एनकोडर दो चेहरों के बीच समानताएं ढूंढता है और सीखता है, और प्रक्रिया में छवियों को सेव करते हुए, उन्हें उनकी साझा सामान्य विशेषताओं में कम कर देता है। फिर एक दूसरे एआई एल्गोरिदम जिसे डिकोडर कहा जाता है, को संपीड़ित छवियों से चेहरों को फिर से बनाया जाता है। क्योंकि चेहरे अलग-अलग हैं, आप एक डिकोडर को पहले व्यक्ति का चेहरा पुनर्प्राप्त करने के लिए प्रशिक्षित करते हैं, और दूसरे डिकोडर को दूसरे व्यक्ति का चेहरा पुनर्प्राप्त करने के लिए प्रशिक्षित करते हैं। फेस स्वैप करने के लिए, आप बस एन्कोडेड छवियों को “गलत” डिकोडर में फीड करें। उदाहरण के लिए, व्यक्ति ए के चेहरे की एक संपीड़ित छवि व्यक्ति बी पर प्रशिक्षित डिकोडर में डाली जाती है। डिकोडर फिर चेहरे ए के भावों और अभिविन्यास के साथ व्यक्ति बी के चेहरे का पुनर्निर्माण करता है। एक ठोस वीडियो के लिए, इसे प्रत्येक फ्रेम पर किया जाना चाहिए ।
कौन लोग बना रहे है डीप फेक वीडियो
अकादमिक और औद्योगिक शोधकर्ताओं से लेकर शौकिया उत्साही, स्पेशल इफेक्ट स्टूडियो और पोर्न निर्माता तक हर कोई। उदाहरण के लिए, चरमपंथी समूहों को बदनाम करने और बाधित करने या लक्षित व्यक्तियों से संपर्क बनाने के लिए सरकारें अपनी ऑनलाइन रणनीतियों के हिस्से के रूप में प्रौद्योगिकी में भी हाथ आजमा रही हैं।
