लोकसभा चुनावों के दौरान डीपफेक से कैसे निपट रहा है AI?

हर बार की तरह इस बार भी लोकसभा चुनाव में कई मुद्दे हैं जिन्‍हें जनता के सामने बार-बार परोसा जा रहा है, उन्‍हें पूरा करने के वादे किए जा रहे हैं लेकिन एक नया तरीका भी देखने को मिल रहा है जिसकी वजह से चुनावों के दौरान फर्जी खबरों और भ्रामक सामग्री का प्रचार प्रसार जोरों से हो रहा है।

डीपफेक तकनीक की मदद से मशहूर हस्तियों और राजनेताओं के कई फेक वीडियो बनाए जा रहे हैं ताकि जनता के दिमाग में ऐसी जानकारी भरी जाए जो असल में है ही नहीं। ऐसे में इन्‍हें रोकने के लिए कई तरह के एआई डिटेक्‍टर भी काम पर लगे हुए है मगर इनकी भी अपनी कुछ सीमाएं है। चलिए जानते हैं किस तरह से फर्जी खबरों को रोकने के लिए ये AI तकनीक काम करती है।

एआई कंटेंट डिटेक्टर काम कैसे करते हैं?

एआई आधारित डीपफेक डिटेक्टर फोटो और वीडियो के पिक्सल स्ट्रक्चर, मूविंग पैटर्न और फेशियल लैंडमार्क्स पर गौर करते हैं। वे इन पैटर्न को असली और एडिट कंटेंट से मिलाकर डीपफेक का पता लगाने की कोशिश करते हैं। डीपफेक डीप लर्निंग नाम के आर्टिफीशियल इंटेलिजेंस तकनीक का इस्‍तेमाल करती हैं जो वॉयस स्‍किन, पब्‍लिक फिगर के वॉयस क्‍लोन को चेक करता है। इसकी मदद से आसानी से पता लगाया जा सकता है किस व्‍यक्ति की आवाज या वीडियो को फेक तरीके से बनाया गया है।

एआई डिटेक्टर को क्‍यों बनाना पड़ा?

पिछले कुछ सालों में डीपफेक का प्रयोग काफी बढ़ गया है। यूएस में 2023 के शुरुआती 3 महिनों में जितने भी फ्रॉड हुए उनमें से डीपफेक से जुड़े मामलों में 1200% की बढ़ोत्‍तरी देखी गई। इनमें से ज्‍यादातर स्‍कैम कॉल सेंटर से जुड़े थे। इसके अलावा फर्जी मीडियो द्वारा पैदा किए जा रहे भ्रम को रोकने और गलत सूचना के प्रचार प्रसार को रोकने में ऐसी तकनीक की जरूरत महसूस हुई जिसके बाद इसकी आवश्यकता को और बढ़ा दिया।

क्‍या एआई डिटेक्टर 100% सटीक काम करते हैं?

हालांकि एआई डीपफेक डिटेक्टर काफी एडवांस हो गए हैं, लेकिन फिर भी वे पूरी तरह से सटीक नहीं हैं। इसके काम करने का तरीका निश्‍चित है यानी ये कुछ खास तरह के टेक्‍ट जैसे शब्‍दों के चयन, वाक्‍य की लंबाई जैसे कारकों पर काम करते है। लेकिन ये 100% सही काम करेंगे इसकी गारंटी नहीं ली जा सकती।

नए जेनरेटिव एआई मॉडल्स के साथ कदम मिलाना एक चुनौती होगी

जेनरेटिव एआई मॉडल लगातार बदल रहे हैं और नई तकनीकों से डीपफेक भी बेहतर हो रहे हैं। इसलिए एआई डिटेक्टरों को हर नए मॉडल से सीखते रहना होगा ताकि वे उनसे बने डीपफेक कंटेंट, वीडियो की पहचान कर सकें।

कई बार डीपफेक तकनीक वॉटरमार्क को डिटेक्‍ट कर लेती है। लेकिन कुछ नए टूल इन वॉटरमार्क को भी आसानी से निकाल देते हैं जिससे गलत सूचना का प्रचार- प्रसार करना और भी आसान हो जाता है। ऊपर से ये तकनीक कंपनियों और सरकारों के लिए आसानी से उपलब्‍ध है जबकि आम लोगों की पहुंच अभी डीपफेक तक नहीं है।

अगर आप ऑनलाइन प्‍लेटफार्म या फिर सोशल मीडिया में किसी मशहूर हस्‍ती का वीडियो देखकर अपना वोट देने की सोच रहे है तो थोड़ा संभल कर हो सकता है वो डीपफेक द्वारा तैयार किया गया फेक वीडियो हो, इसलिए अपना वोट अपनी समझदारी और सोच से ही दें।