नई दिल्ली: सिंथेटिक एआई-जनरेटेड सामग्री और डीपफेक के बढ़ते खतरे से चिंतित, सरकार संभावित गलत सूचना के खिलाफ फेसबुक, इंस्टाग्राम, गूगल, यूट्यूब और एक्स जैसे प्रमुख सोशल मीडिया प्लेटफार्मों पर अधिक दायित्व डालने के लिए आईटी कानून में संशोधन पर विचार कर रही है और प्रस्तावित किया है कि एआई और सोशल मीडिया प्लेटफॉर्म एआई-जनरेटेड सामग्री को स्पष्ट रूप से लेबल करें ताकि उपयोगकर्ता इसे अधिक आसानी से पहचान सकें।आईटी मंत्री अश्विनी वैष्णव ने बुधवार को कहा कि सरकार को उपयोगकर्ताओं की गलत सूचना पर अंकुश लगाने के लिए सिंथेटिक सामग्री और डीपफेक के खिलाफ कार्रवाई करने के अनुरोध मिले हैं।उन्होंने कहा, “संसद के साथ-साथ कई अन्य मंचों पर लोगों ने मांग की है कि डीपफेक के बारे में कुछ किया जाना चाहिए, जो समाज को नुकसान पहुंचा रहे हैं।”
एक खुला, सुरक्षित, विश्वसनीय और जिम्मेदार नेटवर्क सुनिश्चित करने के लिए प्रतिबद्ध: टीआई मिनट
लोग किसी प्रमुख व्यक्ति की छवि का उपयोग करते हैं और डीपफेक बनाते हैं, जो बाद में उनके व्यक्तिगत जीवन और गोपनीयता को प्रभावित करता है, साथ ही समाज में विभिन्न गलत धारणाएं भी पैदा करता है। हम जो कदम उठा रहे हैं वह यह सुनिश्चित करना है कि उपयोगकर्ताओं को पता चले कि कोई चीज़ कृत्रिम है या वास्तविक। एक बार उपयोगकर्ताओं को पता चल जाए, तो वे कॉल ले सकते हैं। उपयोगकर्ताओं के लिए यह जानना महत्वपूर्ण है कि सिंथेटिक क्या है और वास्तविक क्या है। यह अंतर अनिवार्य डेटा टैगिंग के माध्यम से किया जाएगा, ”आईटी मंत्री अश्विनी वैष्णव ने कहा।सिंथेटिक सामग्री से संबंधित मसौदा नियमों पर 6 नवंबर तक हितधारकों से प्रतिक्रिया मांगने वाले नोट में, आईटी मंत्रालय का कहना है कि वह सभी उपयोगकर्ताओं के लिए एक खुला, सुरक्षित, विश्वसनीय और जिम्मेदार इंटरनेट सुनिश्चित करने के लिए प्रतिबद्ध है। “जनरेटिव आर्टिफिशियल इंटेलिजेंस टूल की बढ़ती उपलब्धता और कृत्रिम रूप से उत्पन्न जानकारी (आमतौर पर डीपफेक के रूप में जाना जाता है) के प्रसार के साथ, उपयोगकर्ताओं को नुकसान पहुंचाने, गलत सूचना फैलाने, चुनावों में हेरफेर करने या लोगों का प्रतिरूपण करने के लिए ऐसी प्रौद्योगिकियों के दुरुपयोग की संभावना काफी बढ़ गई है। इन जोखिमों को पहचानते हुए, और व्यापक सार्वजनिक बहस और संसदीय विचार-विमर्श के बाद, आईटी मंत्रालय ने सूचना प्रौद्योगिकी (मध्यस्थों के लिए दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 में वर्तमान मसौदा संशोधन तैयार किया है।मंत्रालय ने कहा कि मसौदा नियमों का उद्देश्य मध्यस्थों, विशेष रूप से सोशल मीडिया मध्यस्थों और प्रमुख सोशल मीडिया मध्यस्थों के साथ-साथ उन प्लेटफार्मों के लिए उचित परिश्रम दायित्वों को मजबूत करना है जो कृत्रिम रूप से उत्पन्न सामग्री के निर्माण या संशोधन की अनुमति देते हैं।प्रस्तावित संशोधनों के माध्यम से, सरकार ऐसी जानकारी के लिए लेबलिंग और मेटाडेटा निगमन आवश्यकताओं को अनिवार्य करते हुए कृत्रिम रूप से उत्पन्न जानकारी की स्पष्ट परिभाषा चाहती है ताकि यह सुनिश्चित किया जा सके कि उपयोगकर्ता सिंथेटिक सामग्री को प्रामाणिक सामग्री से अलग कर सकें। इसके अतिरिक्त, यह दृश्यता और श्रव्यता मानकों को चाहता है जिसके लिए सिंथेटिक सामग्री को प्रमुखता से चिह्नित करना आवश्यक है, जिसमें प्रारंभिक दृश्य या ऑडियो अवधि का न्यूनतम 10% कवरेज शामिल है। बिचौलियों से, यह “उन्नत सत्यापन और घोषणा दायित्व” चाहता है, जबकि उन्हें यह पुष्टि करने के लिए उचित तकनीकी उपाय करने की आवश्यकता है कि क्या सामग्री कृत्रिम रूप से उत्पन्न हुई है और तदनुसार लेबल किया जाना चाहिए। अलग से, मंत्रालय ने सोशल मीडिया प्लेटफार्मों पर सामग्री हटाने के अनुरोधों के संबंध में एक उचित तंत्र सुनिश्चित करने के लिए कदम उठाए हैं, इस काम के लिए केवल वरिष्ठ अधिकारियों को नियुक्त किया है।मंत्रालय ने निर्धारित किया है कि “अवैध जानकारी” को हटाने के लिए सोशल मीडिया प्लेटफार्मों को सूचना केवल वरिष्ठ अधिकारियों द्वारा जारी की जा सकती है और इसके लिए सटीक विवरण और कारणों को निर्दिष्ट करने की आवश्यकता होगी क्योंकि इसने सामग्री हटाने की प्रक्रियाओं को सुव्यवस्थित करने और कार्यों में पारदर्शिता, स्पष्टता और सटीकता प्रदान करने के लिए आईटी नियमों में संशोधन को अधिसूचित किया है।
