अब तक हम कहते थे, 'मैंने अपनी आँखों से देखा है जी।' पर आज की डिजिटल दुनिया ने इस भरोसे की भी जमीन हिला दी है। अब किसी व्यक्ति को बोलते हुए देखना, उसकी आवाज सुनना या किसी घटना का स्क्रीनशॉट देखना अपने आप में प्रमाण नहीं है। कृत्रिम बुद्धिमत्ता ने तस्वीर, आवाज और वीडियो को इस स्तर तक बदलने की क्षमता हासिल कर ली है कि आने वाले समय में सबसे बड़ा सवाल यह नहीं होगा कि हमने क्या देखा, बल्कि यह होगा कि जो देखा, वह वास्तव में हुआ भी था या नहीं।
मार्च 2022 में रूस-यूक्रेन युद्ध के दौरान डीपफेक का एक चर्चित उदाहरण सामने आया। 16 मार्च को यूक्रेन के राष्ट्रपति जेलेंस्की का एक कृत्रिम रूप से बदला हुआ वीडियो प्रसारित किया गया, जिसमें वे यूक्रेनी सैनिकों से हथियार डालने और रूस के सामने आत्मसमर्पण करने की अपील करते दिखाई दे रहे थे। यह वीडियो एक हैक की गई यूक्रेनी समाचार वेबसाइट और टीवी समाचार-टिकर पर भी दिखाई दिया तथा बाद में सोशल मीडिया पर फैल गया। जेलेंस्की ने स्वयं इसका खंडन किया, जबकि फेसबुक, यूट्यूब और ट्विटर ने इसे भ्रामक रूप से परिवर्तित मीडिया के रूप में हटाया। वीडियो की तकनीकी गुणवत्ता अपेक्षाकृत कमजोर थी, लेकिन घटना ने दिखाया कि युद्ध के बीच कुछ सेकंड या एक मिनट का नकली वीडियो कितनी तेजी से भ्रम, घबराहट और वास्तविक सूचना पर अविश्वास पैदा कर सकता है।
यहीं से हमें डीपफेक की असली ताकत समझ आती है। डीपफेक केवल किसी चेहरे को दूसरे चेहरे से बदल देना नहीं है। कृत्रिम बुद्धिमत्ता किसी व्यक्ति के चेहरे की गतिविधियों, आवाज और बोलने के अंदाज की नकल करके ऐसी सामग्री बना सकती है, जो पहली नजर में वास्तविक लगे।आज खतरा कई रूपों में सामने आ सकता है। एआई-जनरेटेड ऑडियो में किसी व्यक्ति की आवाज की नकल की जा सकती है। कल्पना कीजिए कि आपके परिवार के किसी सदस्य की आवाज में आपको फोन आए और कहा जाए, 'तुरंत पैसे भेजो, मैं मुसीबत में हूँ।' आवाज पहचान में आ रही है, लेकिन आवाज उस व्यक्ति की हो, यह जरूरी नहीं। वॉइस क्लोनिंग इस खतरे को और गंभीर बनाती है। सार्वजनिक भाषणों, वीडियो या ऑनलाइन उपलब्ध आवाज के नमूनों से किसी व्यक्ति जैसी आवाज तैयार की जा सकती है। इसलिए भविष्य में केवल 'आवाज तो बिल्कुल उसी की है' कहना पर्याप्त प्रमाण नहीं होगा।
एआई वीडियो में किसी नेता, अभिनेता, अधिकारी या आम नागरिक को ऐसी बात कहते हुए दिखाया जा सकता है, जो उसने कभी कही ही नहीं। चेहरा असली हो सकता है, शरीर असली हो सकता है, लेकिन पूरी घटना नकली हो सकती है।फेक स्क्रीनशॉट एक साधारण लेकिन खतरनाक हथियार है। इसके लिए हमेशा जटिल डीपफेक की जरूरत नहीं। किसी समाचार वेबसाइट, सोशल मीडिया पोस्ट या सरकारी सूचना जैसा दिखने वाला नकली स्क्रीनशॉट तैयार करके उसे हजारों लोगों तक पहुँचाया जा सकता है। लोग अक्सर मूल पोस्ट खोजने के बजाय स्क्रीनशॉट ही आगे बढ़ा देते हैं।
मान लीजिए किसी घटना का वास्तविक वीडियो सामने आता है। संबंधित व्यक्ति कह सकता है, 'मैं वहाँ था ही नहीं, यह एआई वीडियो है।' यदि जनता पहले से मानने लगे कि कुछ भी नकली हो सकता है, तो सत्यापन और कठिन हो जाएगा। यहीं हमारी सबसे बड़ी चुनौती शुरू होती है।आने वाले समय में केवल एआई को रोकना पर्याप्त नहीं होगा। हमें सत्यापन की संस्कृति बनानी होगी। किसी वीडियो को देखकर तुरंत विश्वास करने के बजाय पूछिए, यह सबसे पहले कहाँ आया? मूल स्रोत क्या है? क्या विश्वसनीय समाचार संस्थानों ने इसकी पुष्टि की है? क्या संबंधित व्यक्ति या संस्था ने इसे स्वीकार किया है? क्या वीडियो का पुराना संस्करण उपलब्ध है? क्या तस्वीर या वीडियो का संदर्भ बदला गया है?
अब तो सिंथेटिक न्यूज की संभावना भी सामने है। ऐसी खबर, जिसमें एआई द्वारा बनाई गई तस्वीर, नकली आवाज, कृत्रिम वीडियो और तैयार किया गया समाचार-पाठ एक साथ इस्तेमाल हो। देखने वाले को लगेगा कि उसके सामने पूरा समाचार पैकेज है। लेकिन उसकी नींव ही नकली हो सकती है।यहाँ एक महत्वपूर्ण बदलाव समझना होगा। पहले गलत सूचना बनाने वाले को किसी घटना की तस्वीर या वीडियो ढूँढना पड़ता था। अब वह घटना जैसी दिखने वाली सामग्री बना सकता है। यानी इन्फॉर्मेशन वारफेयर में एआई ने केवल गति नहीं बढ़ाई है; उसने निर्माण की लागत घटा दी है।
लेकिन कहानी का सबसे खतरनाक हिस्सा शायद नकली सामग्री नहीं है। असली खतरा 'लायर्स डिविडेंड' है। इसका अर्थ सरल है। जब समाज को यह पता चल जाता है कि वीडियो नकली बनाए जा सकते हैं, आवाजें क्लोन की जा सकती हैं और तस्वीरें एआई से तैयार हो सकती हैं, तब कोई व्यक्ति असली प्रमाण को भी यह कहकर खारिज कर सकता है कि 'यह भी एआई से बनाया गया है।'यानी डीपफेक केवल झूठ को सच जैसा नहीं बनाता। वह सच को भी झूठ जैसा दिखाने का रास्ता खोल सकता है।और सबसे जरूरी, क्या हम केवल इसलिए इसे सच मान रहे हैं क्योंकि यह हमारी अपनी सोच के अनुकूल है?
यहाँ एक नई डिजिटल आदत जरूरी है। 'देखा है' का मतलब 'सत्यापित किया है' नहीं है। वीडियो या फोटो देखने के बाद उसका सत्यापन मूल स्रोत से करना आवश्यक है। यह अंतर आने वाले वर्षों में नागरिक विवेक की पहचान बनेगा।एआई दुश्मन नहीं है। यही तकनीक शिक्षा, चिकित्सा, विज्ञान, प्रशासन और रचनात्मकता में असाधारण अवसर दे सकती है। समस्या तकनीक के अस्तित्व में नहीं, बल्कि उसके बिना सत्यापन के इस्तेमाल किए जाने में है। इसलिए आने वाली पीढ़ी को केवल एआई चलाना नहीं सीखना होगा। उसे यह भी सीखना होगा कि एआई से बनी चीज पर भरोसा कब करना है और कब रुक जाना है।
5जी डब्ल्यू की दुनिया में युद्ध का एक नया रूप यही है कि आपके सामने गोली नहीं आती, आपके सामने एक वीडियो आता है। कोई धमकी नहीं देता, एक आवाज सुनाई देती है। कोई आदेश नहीं आता, एक स्क्रीनशॉट आता है। और यदि आपने उसे सत्य मान लिया, तो प्रभाव पैदा हो चुका है।इसलिए अगली बार कोई वीडियो देखकर मन में आए, 'मैंने अपनी आँखों से देखा है', तो वहीं रुकिए। क्योंकि एआई के युग का सबसे जरूरी सबक यही है: 'आँखें देख सकती हैं। कान सुन सकते हैं। लेकिन सत्यापन ही तय करता है कि हमें विश्वास किस पर करना चाहिए।'
विप्लव विकास
(लेखक कोलकाता निवासी स्तंभकार हैं)
