भारत समेत दुनिया भर में पिछले कुछ महीनों में Deepfake वीडियो और आर्टिफिशियल इंटेलिजेंस (AI) को लेकर काफी चर्चा हो रही है. AI दुनिया भर के लोगों के लिए कई मुश्किल काम आसान बना रहा है, लेकिन इसके कुछ नुकसान भी हैं, जिसका फायदा साइबर अपराधी उठाते हैं. इन सब को देखते हुए मेटा ने WhatsApp पर हेल्पलाइन सेवा लॉन्च करने की घोषणा की है.
WhatsApp ने कहा है कि इन हेल्पलाइन के जरिए गलत सूचना, एआई जेनरेटेड फर्जी कंटेंट और डीपफेक की शिकायत की जा सकेगी. Meta और मिसइंफॉर्मेशन कॉम्बैट अलायंस (MCA) ने कहा है कि व्हाट्सएप यूजर्स के लिए जल्द ही हेल्पलाइन डेस्क की शुरुआत की जाएगी, जहां यूजर्स फर्जी सूचनाओं को लेकर शिकायत कर सकेंगे.
Meta ने लिया ये फैसला
मेटा का यह फैसला 20 लीडिंग टेक कंपनियों Meta, Google, Amazon, Microsoft आदि द्वारा ग्लोबल चुनाव में डीपफेक और फर्जी अपवाहों पर लगाम लगाने के लिए साथ मिलकर काम करने के बाद आया है. लीडिंग टेक कंपनियों ने MCA बनाकर इस तरह के फर्जी वीडियो और अफवाहों पर लगाम लगाने की तैयारी शुरू कर दी है. WhatsApp का हेल्पलाइन नंबर एक तरह का चैटबॉट होगा, जिसके जरिए यूजर्स आसानी से इस तरह की अफवाहों को रिपोर्ट कर सकते है.
कई सेलिब्रिटीज हो चुके डीपफेक के शिकार
पिछले दिनों सचिन तेंदुलकर, रश्मिका मंदाना, सारा तेंदुलकर समेत कई जानी-मानी हस्तियां डीपफेक वीडियो का शिकार हुए हैं. इन सेलिब्रिटीज ने डीपफेक को लेकर सरकार से पॉलिसी बनाने की अपील की थी. सेलिब्रिटीज के अपील के बाद सरकार ने डीपफेक को रोकने के लिए सोशल मीडिया और टेक कंपनियों को निर्देश जारी किया था.
क्या होता है डीपफेक?
बता दें यह एक तरह का एआई जेनरेटेड कॉन्टेंट होता है, जो वीडियो और इमेज के फॉर्मेट में रहता है. लोगों के चेहरे का गलत इस्तेमाल करके सोशल मीडिया पर अफवाह फैलाया जाता है. एक आम यूजर के लिए डीपफेक वीडियो या इमेज और रीयल वीडियो और इमेज में अंतर लगाना बेहद मुश्किल होता है.
जानें क्या होगा ऐक्शन प्लान?
MCA का कहना है कि वो डीपफेक या अन्य एआई जेनरेटेड कॉन्टेंट पर रोक लगाने के लिए एक डीपफेक एनालिसिस यूनिट बनाएंगे, जो फैक्ट चेकिंग सदस्यों और ऑर्गेनाइजेशन के साथ मिलकर काम करेंगे. उनके पास हर रिपोर्ट किए गए मैसेज और कॉन्टेंट का एक्सेस होगा, अगर, कोई रिपोर्ट किया गया कॉन्टेंट या मैसेज अपवाह या एआई द्वारा जेनरेटेड पाया जाएगा, तो उसे तत्काल प्रभाव से इंटरनेट से हटा लिया जाएगा. इस तरह के अफवाह फैलाने वाले मैसेज भी डिलीट कर दिए जाएंगे.
वाट्सऐप का यह हेल्पलाइन चैटबॉट हिन्दी और अंग्रेजी के साथ-साथ भारतीय क्षेत्रीय भाषाओं जैसे कि तमिल, तेलुगू आदि में भी उपलब्ध रहेगा. इसके लिए डीफफेक एनालिसिस यूनिट फोर पिलर अप्रोच डिटेक्शन, प्रिवेंशन, रिपोर्टिंग और ड्राइविंग अवेयरनेस पर काम करेगी. यूनिट अफवाह फैलाने वाले कॉन्टेंट का पता लगाएगी और उसे रोकेगी. यही नहीं, यह यूनिट यूजर्स को इस तरह के कॉन्टेंट को लेकर अवेयर भी करेगी और रिपोर्ट करने के लिए कहेगी. इस तरह से एआई द्वारा फैलाए जाने वाले अफवाह पर रोक लगाने में मदद मिल सकती है.
