एलन मस्क की एआई कंपनी एक्सएआई का एआई चैटबॉट ग्रोक अब वास्तविक लोगों की कामुक या खुलासा करने वाली छवियां उत्पन्न नहीं कर पाएगा। बढ़ती आलोचना और नियामक जांच के बाद कंपनी ने यह निर्णय लिया। सोशल मीडिया प्लेटफॉर्म कंपनी का यह कदम ग्रोक उपयोगकर्ताओं द्वारा एआई के साथ महिलाओं और नाबालिगों के डीपफेक बनाने के लिए टूल का शोषण करने, उन्हें हेरफेर की गई छवियों में उतारने के बाद आया है।कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने हाल के सप्ताहों में शिकायतों की बाढ़ का हवाला देते हुए खुलासा किया कि उन्होंने कामुक डीपफेक बनाने में ग्रोक की भूमिका की जांच शुरू की थी। इस बीच, इंडोनेशिया और मलेशिया ने ग्रोक को पूरी तरह से निलंबित कर दिया, और इस उपकरण पर प्रतिबंध लगाने वाले पहले देश बन गए। ब्रिटेन के सांसदों ने भी सार्वजनिक रूप से निलंबन पर विचार किया है।
प्रतिबंधित ग्रोक वयस्क छवियाँ उत्पन्न करके – कंपनी का बयान यहाँ पढ़ें
एक्स के सुरक्षा खाते पर पोस्ट किए गए एक बयान में, कंपनी ने लिखा:“सुरक्षा प्रतिबद्धताहम एक्स को सभी के लिए एक सुरक्षित मंच बनाने के लिए प्रतिबद्ध हैं और किसी भी प्रकार के बाल यौन शोषण, गैर-सहमति वाली नग्नता और अवांछित यौन सामग्री के प्रति शून्य सहिष्णुता जारी रखेंगे। हम बाल यौन शोषण सामग्री (सीएसएएम) और गैर-सहमति वाली नग्नता सहित उच्च प्राथमिकता वाली उल्लंघनकारी सामग्री को हटाने के लिए कदम उठाते हैं, और हमारे एक्स नियमों का उल्लंघन करने वाले खातों के खिलाफ उचित कार्रवाई करते हैं। हम आवश्यकतानुसार बाल यौन शोषण सामग्री की मांग करने वाले खातों की रिपोर्ट कानून प्रवर्तन अधिकारियों को भी देते हैं।(@)ग्रोक खाता अपडेटहमने ग्रोक के खाते को बिकनी जैसे आकर्षक कपड़े पहनने वाले वास्तविक लोगों की छवियों के संपादन की अनुमति देने से रोकने के लिए तकनीकी उपाय लागू किए हैं। यह प्रतिबंध सशुल्क ग्राहकों सहित सभी उपयोगकर्ताओं पर लागू होता है।इसके अतिरिक्त, छवि निर्माण और एक्स प्लेटफ़ॉर्म पर ग्रोक खाते के माध्यम से छवियों को संपादित करने की क्षमता अब केवल भुगतान किए गए ग्राहकों के लिए उपलब्ध है। यह यह सुनिश्चित करने में मदद करके सुरक्षा की एक अतिरिक्त परत जोड़ता है कि जो लोग कानून या हमारी नीतियों का उल्लंघन करने के लिए ग्रोक खाते का दुरुपयोग करने का प्रयास करते हैं उन्हें जवाबदेह ठहराया जा सकता है।जियोब्लॉक अपडेटअब हम उन न्यायक्षेत्रों में ग्रोक खाते और ग्रोक ऑन एक्स के माध्यम से बिकनी, अंडरवियर और इसी तरह के कपड़ों में वास्तविक लोगों की छवियां उत्पन्न करने की सभी उपयोगकर्ताओं की क्षमता को जियोब्लॉक करते हैं जहां यह अवैध है।एक्स नियमयह हमारे मौजूदा सुरक्षा प्रोटोकॉल को नहीं बदलता है जिस पर सभी एआई संकेत देता है और सामग्री पोस्ट करता है हमारी नीतियों के बारे में अधिक जानकारी के लिए कृपया हमारा देखें एक्स नियम और कानून प्रवर्तन विकल्पों की श्रृंखला. जेनेरिक एआई का तेजी से विकास पूरे उद्योग में चुनौतियां पेश करता है। “हम सक्रिय रूप से उपयोगकर्ताओं, हमारे भागीदारों, शासी निकायों और अन्य प्लेटफार्मों के साथ काम कर रहे हैं ताकि मुद्दों के उत्पन्न होने पर उन्हें और अधिक तेज़ी से संबोधित किया जा सके।”
ग्रोक आईए सशुल्क एक्स उपयोगकर्ताओं के लिए छवि संपादन सुविधाओं को प्रतिबंधित करें
हाल ही में, ग्रोक, टेस्ला के सीईओ एलोन मस्क के एआई चैटबॉट को उनके सोशल मीडिया प्लेटफॉर्म एक्स (जिसे पहले ट्विटर के नाम से जाना जाता था) में एकीकृत किया गया था, ने घोषणा की है कि इसके छवि निर्माण और संपादन उपकरण अब भुगतान करने वाले ग्राहकों तक ही सीमित रहेंगे। वर्तमान में, छवि निर्माण और संपादन भुगतान करने वाले ग्राहकों तक ही सीमित है। आप इन सुविधाओं को अनलॉक करने के लिए सदस्यता ले सकते हैं,” ग्रोक ने एक्स प्रीमियम सदस्यता पृष्ठ से लिंक करते हुए 8 जनवरी को देर से पोस्ट किया।
एलोन मस्क ने चेतावनी दी: “जो कोई भी अवैध सामग्री बनाने के लिए ग्रोक का उपयोग करता है…”
एलोन मस्क ने कहा कि जो कोई भी उनके एक्स प्लेटफॉर्म (जिसे पहले ट्विटर के नाम से जाना जाता था) पर अवैध सामग्री बनाने के लिए एआई-संचालित ग्रोक चैटबॉट का उपयोग करेगा, उसे दंडित किया जाएगा। मस्क की टिप्पणियां एक्स में निर्मित चैटबॉट की महिलाओं और बच्चों सहित अश्लील/गैर-सहमति वाली छवियां बनाने के लिए आलोचना के बाद आईं। एक ऑनलाइन पोस्ट में, टेक अरबपति ने लिखा: “जो कोई भी अवैध सामग्री बनाने के लिए ग्रोक का उपयोग करता है, उसे वही परिणाम भुगतना होगा जैसे कि उन्होंने अवैध सामग्री अपलोड की थी।” टेस्ला के सीईओ ग्रोक द्वारा उत्पन्न “अनुचित छवियों” के बारे में एक पोस्ट का जवाब दे रहे थे।डोगेडिजाइनर, जिसके बाद एलन मस्क हैं, ने पोस्ट में लिखा: “कुछ लोग कहते हैं कि ग्रोक अनुचित छवियां बना रहा है। लेकिन यह कुछ बुरा लिखने के लिए एक पेन को दोष देने जैसा है। एक पेन यह तय नहीं करता है कि क्या लिखा जाएगा। इसे पकड़ने वाला व्यक्ति निर्णय लेता है। ग्रोक उसी तरह काम करता है। आप इससे क्या प्राप्त करते हैं यह काफी हद तक इस बात पर निर्भर करता है कि आप क्या डालते हैं। इसके बारे में सोचें!”