‘महिलाओं के कपड़े उतारने’ के लिए एआई टूल: गैर-सहमति वाली यौन छवियां बनाने के लिए आलोचना का सामना करना पड़ा; कस्तूरी मजाक उड़ाती है

एलन मस्क के एआई चैटबॉट ग्रोक ने एक ऐसी सुविधा पेश की है जो उपयोगकर्ताओं को उनकी सहमति के बिना महिलाओं की कामुक छवियां बनाने की अनुमति देती है, जिसे व्यापक आलोचना का सामना करना पड़ रहा है। यह टूल सोशल मीडिया प्लेटफ़ॉर्मदिसंबर के अंत में “छवि संपादित करें” बटन के लॉन्च के बाद स्थिति और बढ़ गई, जो उपयोगकर्ताओं को प्लेटफ़ॉर्म पर किसी भी छवि को संशोधित करने की अनुमति देता है। कथित तौर पर कुछ उपयोगकर्ताओं ने तस्वीरों में महिलाओं और बच्चों के कपड़े आंशिक रूप से या पूरी तरह से हटाने के लिए इसका इस्तेमाल किया। क्रिसमस दिवस पर लॉन्च की गई सुविधा के बाद से, ग्रोक का एक्स खाता स्पष्ट यौन अनुरोधों से भर गया है।

हालाँकि, मामले को गंभीरता से लेने के बजाय, मस्क इस मुद्दे पर मज़ाक उड़ाते दिखे, बिकनी में खुद सहित प्रसिद्ध लोगों के एआई संपादन के जवाब में हँसने और रोने वाले इमोजी पोस्ट किए।

ग्रोक ने समस्या को स्वीकार करते हुए एक्स में जवाब दिया: “हमने सुरक्षा उपायों में खामियों की पहचान की है और उन्हें तत्काल ठीक कर रहे हैं।” चैटबॉट ने इस बात पर भी जोर दिया कि “सीएसएएम (बाल यौन शोषण सामग्री) अवैध और निषिद्ध है।”भारत में, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने शुक्रवार को एक पत्र भेजापत्र में एक्स कॉर्प, इंडिया ऑपरेशंस को निर्देश दिया गया है कि “ऐसी किसी भी सामग्री को होस्ट करने, प्रदर्शित करने, अपलोड करने, प्रकाशित करने, प्रसारित करने, संग्रहीत करने या साझा करने से सख्ती से बचें जो अश्लील, अश्लील, अश्लील, अश्लील, यौन रूप से स्पष्ट, पीडोफिलिक या किसी भी तरह से किसी भी कानून द्वारा निषिद्ध है।” इसने यह भी चेतावनी दी कि अनुपालन न करने पर आईटी अधिनियम की धारा 79 के तहत देयता छूट और अन्य कानूनी परिणामों का नुकसान हो सकता है।इस बीच, पेरिस में, अभियोजकों ने नए आरोपों को शामिल करने के लिए एक्स की जांच का विस्तार किया है कि ग्रोक का उपयोग बाल अश्लीलता बनाने और वितरित करने के लिए किया जा रहा है।एक महिला, सामंथा स्मिथ ने बीबीसी को बताया कि ग्रोक द्वारा डिजिटल रूप से उसके कपड़े उतारने के बाद उसे “अमानवीय महसूस हुआ और वह एक यौन रूढ़िवादिता में सिमट गई”। उन्होंने कहा, “हालांकि यह मैं नहीं थी जो नग्न थी, यह मेरे जैसा दिखता था और मेरे जैसा महसूस होता था और यह बिल्कुल उल्लंघनकारी लगा जैसे किसी ने मेरी नग्न या बिकनी में तस्वीर पोस्ट की हो।”