नई दिल्ली: एआई-जनित सिंथेटिक सामग्री और डीपफेक के बढ़ते खतरे से चिंतित सरकार संभावित गलत सूचना के खिलाफ फेसबुक, इंस्टाग्राम, गूगल, यूट्यूब और एक्स जैसे प्रमुख सोशल मीडिया प्लेटफार्मों पर अधिक दायित्व तय करने के लिए आईटी अधिनियम में संशोधन पर विचार कर रही है, जबकि उपयोगकर्ताओं द्वारा आसान पहचान के लिए प्रमुख लेबलिंग और मार्करों को अनिवार्य करने की भी मांग कर रही है।आईटी मंत्री अश्विनी वैष्णव ने बुधवार को कहा कि सरकार को उपयोगकर्ताओं की गलत सूचना पर अंकुश लगाने के लिए सिंथेटिक सामग्री और डीपफेक के खिलाफ कार्रवाई करने के अनुरोध मिले हैं। “संसद में, साथ ही कई अन्य मंचों पर, लोगों ने मांग की है कि समाज को नुकसान पहुंचाने वाले डीपफेक के बारे में कुछ किया जाना चाहिए। लोग किसी प्रमुख व्यक्ति की छवि का उपयोग कर रहे हैं और डीपफेक बना रहे हैं जो बाद में उनके व्यक्तिगत जीवन और गोपनीयता को प्रभावित करते हैं, साथ ही समाज में विभिन्न गलत धारणाएं भी पैदा करते हैं। इसलिए हम जो कदम उठा रहे हैं वह यह सुनिश्चित करना है कि उपयोगकर्ताओं को पता चले कि कोई चीज़ कृत्रिम है या वास्तविक। एक बार उपयोगकर्ताओं को पता चल जाए, तो वे कॉल ले सकते हैं। उपयोगकर्ताओं के लिए यह जानना महत्वपूर्ण है कि सिंथेटिक क्या है और वास्तविक क्या है। यह अंतर अनिवार्य डेटा लेबलिंग के माध्यम से हासिल किया जाएगा।सिंथेटिक सामग्री से संबंधित मसौदा नियमों पर हितधारकों से टिप्पणियां मांगने वाले नोट में, आईटी मंत्रालय का कहना है कि वह सभी उपयोगकर्ताओं के लिए एक खुला, सुरक्षित, विश्वसनीय और जिम्मेदार इंटरनेट सुनिश्चित करने के लिए प्रतिबद्ध है। “जेनरेटिव एआई टूल की बढ़ती उपलब्धता और कृत्रिम रूप से उत्पन्न जानकारी (आमतौर पर डीपफेक के रूप में जाना जाता है) के प्रसार के साथ, उपयोगकर्ताओं को नुकसान पहुंचाने, गलत सूचना फैलाने, चुनावों में हेरफेर करने या लोगों का प्रतिरूपण करने के लिए ऐसी तकनीकों का दुरुपयोग होने की संभावना काफी बढ़ गई है। इन जोखिमों को पहचानते हुए, और व्यापक सार्वजनिक बहस और संसदीय विचार-विमर्श के बाद, आईटी मंत्रालय ने सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 में वर्तमान मसौदा संशोधन तैयार किया है।मंत्रालय ने कहा कि मसौदा नियमों का उद्देश्य मध्यस्थों, विशेष रूप से सोशल मीडिया मध्यस्थों (एसएमआई) और प्रमुख सोशल मीडिया मध्यस्थों (एसएसएमआई) के साथ-साथ उन प्लेटफार्मों के लिए उचित परिश्रम दायित्वों को मजबूत करना है जो कृत्रिम रूप से उत्पन्न सामग्री के निर्माण या संशोधन की अनुमति देते हैं।मंत्रालय ने कृत्रिम रूप से उत्पन्न जानकारी को उस जानकारी के रूप में परिभाषित किया है जो कंप्यूटर संसाधन का उपयोग करके कृत्रिम या एल्गोरिदमिक रूप से बनाई, उत्पन्न, संशोधित या परिवर्तित की जाती है, ताकि ऐसी जानकारी उचित रूप से प्रामाणिक या सत्य प्रतीत हो।प्रस्तावित संशोधनों के माध्यम से, सरकार ऐसी जानकारी के लिए लेबलिंग और मेटाडेटा निगमन आवश्यकताओं को अनिवार्य करते हुए कृत्रिम रूप से उत्पन्न जानकारी की स्पष्ट परिभाषा चाहती है ताकि यह सुनिश्चित किया जा सके कि उपयोगकर्ता सिंथेटिक सामग्री को प्रामाणिक सामग्री से अलग कर सकें। इसके अतिरिक्त, यह दृश्यता और श्रव्यता मानकों को चाहता है जिसके लिए सिंथेटिक सामग्री को प्रमुखता से चिह्नित करना आवश्यक है, जिसमें प्रारंभिक दृश्य या ऑडियो अवधि का न्यूनतम 10% कवरेज शामिल है। मध्यस्थों से, यह “उन्नत सत्यापन और घोषणा दायित्व” चाहता है, जबकि उन्हें यह पुष्टि करने के लिए उचित तकनीकी उपाय करने की आवश्यकता होती है कि अपलोड की गई सामग्री कृत्रिम रूप से उत्पन्न हुई है या नहीं और तदनुसार लेबल किया जाना चाहिए।मंत्रालय का कहना है, “इन संशोधनों का उद्देश्य एआई-संचालित प्रौद्योगिकियों में नवाचार के लिए एक सक्षम वातावरण बनाए रखते हुए उपयोगकर्ता जागरूकता को बढ़ावा देना, ट्रेसबिलिटी में सुधार करना और जवाबदेही सुनिश्चित करना है।”मंत्रालय के अधिकारियों ने कहा कि अगर सोशल मीडिया मध्यस्थ ऐसी सूचनाओं के खिलाफ विश्वसनीय कार्रवाई नहीं करते हैं तो उनके खिलाफ “उचित कदम” उठाए जा सकते हैं।मंत्रालय ने 6 नवंबर तक आईटी नियमों में संशोधन के मसौदे पर टिप्पणियां मांगी हैं। “सोशल प्लेटफॉर्म पर वायरल हो रहे फर्जी ऑडियो, वीडियो और सिंथेटिक मीडिया की हालिया घटनाओं ने ठोस झूठ बनाने के लिए जेनरेटिव एआई की क्षमता का प्रदर्शन किया है, जिसमें व्यक्तियों को उन कृत्यों या बयानों में चित्रित किया गया है जो उन्होंने कभी नहीं किए। आईटी मंत्रालय की वेबसाइट पर संलग्न व्याख्यात्मक नोट में कहा गया है, ”इस तरह की सामग्री का इस्तेमाल गलत सूचना फैलाने, प्रतिष्ठा को नुकसान पहुंचाने, चुनावों में हेरफेर करने या प्रभावित करने या वित्तीय धोखाधड़ी करने के लिए एक हथियार के रूप में किया जा सकता है।”अलग से, आईटी मंत्रालय ने सोशल मीडिया प्लेटफार्मों पर सामग्री हटाने के अनुरोधों के संबंध में एक उचित तंत्र सुनिश्चित करने के लिए भी कदम उठाए हैं, इस काम के लिए केवल वरिष्ठ अधिकारियों को नियुक्त किया है। मंत्रालय ने निर्धारित किया है कि “अवैध जानकारी” को हटाने के लिए सोशल मीडिया प्लेटफार्मों को सूचना केवल वरिष्ठ अधिकारियों द्वारा जारी की जा सकती है और इसके लिए सटीक विवरण और कारणों को निर्दिष्ट करने की आवश्यकता होगी क्योंकि इसने सामग्री हटाने की प्रक्रियाओं को सुव्यवस्थित करने और कार्यों में पारदर्शिता, स्पष्टता और सटीकता प्रदान करने के लिए आईटी नियमों में संशोधन को अधिसूचित किया है।इसके अलावा, नियम 3(1)(डी) के तहत जारी किए गए सभी नोटिस किसी अधिकारी द्वारा मासिक समीक्षा के अधीन होंगे, जो संबंधित सरकार के सचिव स्तर से नीचे का नहीं होगा, ताकि यह सुनिश्चित किया जा सके कि ऐसी कार्रवाई “आवश्यक, आनुपातिक और कानून के अनुरूप” बनी रहे।
