सोशल मीडिया पूरी तरह से एआई द्वारा बनाए गए यथार्थवादी वीडियो और छवियों से भर रहा है, जिन्हें अक्सर वास्तविक घटनाओं या लोगों के लिए गलत समझा जाता है। सोशल मीडिया जानवरों के एक-दूसरे को बचाने, वायरल गानों पर नाचते मानव शिशुओं, कठिन स्थानों में प्राकृतिक आपदाओं से बचने वाले लोगों आदि के वीडियो से भरा पड़ा है। लेकिन एक समस्या है: इनमें से कोई भी वास्तविक नहीं है।
एक्सएआई के ग्रोक चैटबॉट को लेकर हालिया विवाद, जो महिलाओं की गैर-सहमति वाली छवियां उत्पन्न करता है, ने इस बात पर प्रकाश डाला है कि कैसे आसानी से सुलभ कृत्रिम बुद्धिमत्ता उपकरण सोशल मीडिया प्लेटफार्मों पर एआई-जनित सामग्री की बाढ़ ला रहे हैं।
विश्वास और सुरक्षा विशेषज्ञों का कहना है कि एल्गोरिदम हाइपर-यथार्थवादी एआई-जनित सामग्री को प्लेटफ़ॉर्म की तुलना में तेज़ी से आगे बढ़ाता है, जो जोखिमों का प्रबंधन कर सकता है, जो बड़े पैमाने पर जुड़ाव और मुद्रीकरण प्रोत्साहनों द्वारा संचालित होता है।
ईटीटेक इस प्रवृत्ति का विश्लेषण करता है।
AI-जनित सामग्री में वृद्धि क्यों हो रही है?
संक्षिप्त और सरल उत्तर उच्च भागीदारी दर है। विशेषज्ञों के अनुसार, उपयोगकर्ता सामग्री बनाकर और उपभोग करके एआई-जनित छवियों और वीडियो के साथ बातचीत करते हैं।
बेंगलुरु स्थित स्टार्टअप कॉन्ट्रेल एआई के सह-संस्थापक अमिताभ कुमार ने कहा, “एक्स, इंस्टाग्राम, फेसबुक और अन्य जुड़ाव-संचालित प्लेटफॉर्म हैं। इसलिए, वे एआई-जनित सामग्री को आगे बढ़ा रहे हैं क्योंकि आज उपयोगकर्ताओं का ध्यान बहुत कम है; वे कुछ आकर्षक देखना चाहते हैं।”
इसे संदर्भ में रखने के लिए: पिछले छह महीनों में, सोशल मीडिया उपयोगकर्ताओं ने “कम AI” चरण का अनुभव किया है, जिसमें प्लेटफ़ॉर्म निम्न-गुणवत्ता वाले AI-जनित वीडियो, छवियों और व्यसनी सामग्री से संतृप्त हो गए हैं। हालाँकि, वर्तमान में AI के साथ बनाए गए परिष्कृत और यथार्थवादी वीडियो में वृद्धि हो रही है।
यह क्या है और क्या नहीं है?
जैसे-जैसे एआई छवियां और वीडियो अधिक से अधिक वास्तविक दिखते हैं, यह पहचानना कठिन होता जा रहा है कि एआई क्या है और क्या नहीं है। हाल ही में इंस्टाग्राम के बॉस एडम मोसेरी ने भी इस बात को स्वीकार किया है. उन्होंने अपने 31 दिसंबर के पोस्ट में कहा कि प्लेटफ़ॉर्म एआई की खामी की पहचान करने में सक्षम नहीं हो सकता है क्योंकि बाद वाला वास्तविकता को धोखा देने में बेहतर हो जाता है।
उन्होंने कहा, “2026 की ओर देखते हुए, एक प्रमुख बदलाव के साथ: प्रामाणिकता असीमित रूप से खेलने योग्य होती जा रही है,” उन्होंने कहा कि यह एआई द्वारा सभी के लिए परिष्कृत, उच्च गुणवत्ता वाली सामग्री लाने में की गई प्रगति के कारण है।
ग्रोक बाय एक्सएआई, मेटा एआई और अन्य जैसे टूल के लिए धन्यवाद, उपयोगकर्ता वास्तविक पोस्ट से मेल खाने वाली सामग्री बना सकते हैं। उपयोगकर्ता सशुल्क एआई वीडियो जेनरेशन सॉफ्टवेयर का भी उपयोग करते हैं, जिससे डीपफेक का पता लगाना मुश्किल हो जाता है और मॉडरेशन जटिल हो जाता है।
इसके खतरे क्या हैं?
साइबर सुरक्षा विशेषज्ञों के अनुसार, एआई सामग्री और डीपफेक वीडियो के उपयोग से धोखाधड़ी, राजनीतिक अशांति और यहां तक कि भू-राजनीतिक तनाव भी हो सकता है।
साइबर फोरेंसिक स्टार्टअप पाई लैब्स एआई के संस्थापक अंकुश तिवारी ने कहा, “जब सही उद्देश्यों के लिए उपयोग किया जाता है, तो एआई उपकरण लोगों को बड़े पैमाने पर और कम लागत पर सामग्री बनाने में मदद कर सकते हैं। लेकिन दुरुपयोग के मामले में, जोखिम अधिक होता है क्योंकि कई मामलों में सामग्री को उसके मूल निर्माता का पता नहीं लगाया जा सकता है।”
उन्होंने कहा, “मौजूदा भू-राजनीतिक स्थिति को देखते हुए, यदि उपकरणों का उपयोग दुष्प्रचार अभियान बनाने के लिए किया जाता है और आप इसे सोशल मीडिया प्लेटफार्मों की वायरलिटी के साथ जोड़ते हैं, तो यह आपदा का एक नुस्खा है।”
AI सामग्री की पहचान कैसे करें?
सामग्री को एआई-जनरेटेड के रूप में लेबल करना एक समाधान हो सकता है। ईटी ने पिछले हफ्ते रिपोर्ट दी थी कि सरकार साइबर अपराध और बड़े पैमाने पर दुरुपयोग को रोकने के लिए एआई-जनरेटेड सामग्री की लेबलिंग को अनिवार्य करने के लिए नियमों पर काम कर रही है।
चूंकि सामग्री के स्रोत का पता लगाना मुश्किल है, इसलिए विशेषज्ञों का कहना है कि भ्रम से बचने के लिए एआई सामग्री को ठीक से लेबल करना महत्वपूर्ण है। इन्फ्लुएंसर और एआई मॉडल इसका एक अच्छा उदाहरण हैं, जिनमें से कुछ को सही ढंग से लेबल किया गया है।
उदाहरण के लिए, निया नॉयर एक मॉडल है, जो कई सोशल मीडिया विशेषज्ञों के अनुसार, चलते समय उसकी असामान्य रूप से चिकनी त्वचा के बदलते रंग के कारण एआई द्वारा उत्पन्न होती है। इस साल जनवरी में उनके अकाउंट पर केवल दो सप्ताह में 2 मिलियन से अधिक फॉलोअर्स होने के बाद उन्हें लोकप्रियता मिली। हालाँकि, अकाउंट इस मामले पर टिप्पणी करने के लिए आगे नहीं आया है।
इस कहानी के प्रकाशन के समय एक्स, मेटा और गूगल को भेजे गए प्रश्नों का कोई जवाब नहीं मिला।
क्या कोई कानून है जो हमें AI सामग्री के दुरुपयोग से बचाता है?
कानूनी विशेषज्ञों का कहना है कि एआई के लिए कोई विशेष कानून नहीं है। हालाँकि, निर्माता को मौजूदा कानून के तहत उत्तरदायी ठहराया जा सकता है जो एआई छवि या वीडियो का उल्लंघन करता है।
कानूनी प्रौद्योगिकी फर्म न्यायनिधि के सीईओ आदित्य एलएचएस ने कहा, “प्रौद्योगिकी कितनी तेजी से बदल रही है, इसके कारण विनियमन समय से पीछे है।” “डीपीडीपी अधिनियम 2023 उपयोगकर्ताओं को कुछ सुरक्षा प्रदान करता है यदि सामग्री बनाने के लिए कृत्रिम बुद्धिमत्ता उपकरणों द्वारा उनकी छवियों का उपयोग या दुरुपयोग किया जाता है। यह ग्रोक घटना के दौरान लागू था।”
हालाँकि, शुरुआत के लिए, उपयोगकर्ताओं की सुरक्षा करने वाले कानूनों को लागू करने की ज़िम्मेदारी प्लेटफ़ॉर्म पर आती है। प्रतिक्रिया का सामना करने के बाद, एक्स अंततः अवैध सामग्री निर्माण के लिए ग्रोक के उपयोग के खिलाफ कार्रवाई कर रहा है और टूल के साथ बनाई गई किसी भी अवैध सामग्री को भी हटा रहा है।
