कंपनी के बयानों के अनुसार, सैम ऑल्टमैन के नेतृत्व में ओपनएआई ने कनाडा के सबसे घातक स्कूल गोलीबारी में से कुछ महीने पहले कनाडाई ट्रांसजेंडर किशोरी जेसी वान रूटसेलेर से जुड़े एक खाते की पहचान की थी और उस पर प्रतिबंध लगा दिया था, लेकिन उस समय अधिकारियों को सतर्क नहीं किया था।आर्टिफिशियल इंटेलिजेंस फर्म ने कहा कि उसके आंतरिक निगरानी सिस्टम ने पिछले साल जून में हिंसक सामग्री से संबंधित नीतियों का उल्लंघन करने के लिए चैटजीपीटी खाते का पता लगाया था। बंदूक हिंसा से संबंधित परेशान करने वाले हिंसक परिदृश्यों के दुरुपयोग के लिए चिह्नित किए जाने के बाद खाते को बाद में प्रतिबंधित कर दिया गया था।
अधिकारियों ने कहा कि हाई स्कूल छोड़ने वाली 18 वर्षीय वैन रूटसेलेर ने इस महीने की शुरुआत में पश्चिमी कनाडाई शहर टंबलर रिज में गोलीबारी में कथित तौर पर आठ लोगों की हत्या कर दी और लगभग 25 अन्य को घायल कर दिया और अपनी जान दे दी।
OpenAI ने क्या कहा?
एपी समाचार एजेंसी ने ओपनएआई के प्रवक्ता के हवाले से कहा, “हमारी संवेदनाएं टंबलर रिज त्रासदी से प्रभावित हर किसी के साथ हैं।” उन्होंने कहा कि कंपनी ने बाद में कनाडाई अधिकारियों से संपर्क किया और जांचकर्ताओं के साथ सहयोग कर रही है।ओपनएआई ने कहा कि जब खाते को पहली बार चिह्नित किया गया था तो उसने अधिकारियों को इसका संदर्भ देने पर विचार किया था, लेकिन उस समय वास्तविक दुनिया में विश्वसनीय या आसन्न नुकसान का कोई सबूत नहीं मिला। हालाँकि, गोलीबारी के बाद, कंपनी ने जांच में सहायता के लिए रॉयल कैनेडियन माउंटेड पुलिस के साथ सक्रिय रूप से जानकारी साझा की।OpenAI के सिस्टम को इसके AI टूल के संभावित दुरुपयोग का पता लगाने और सुरक्षा नीतियों का उल्लंघन करने वाले खातों पर प्रतिबंध लगाने सहित प्रवर्तन कार्रवाई करने के लिए डिज़ाइन किया गया है। एपी समाचार एजेंसी द्वारा उद्धृत विवरण के अनुसार, “कंपनी ने हिंसक गतिविधियों के संभावित प्रचार सहित अपने कृत्रिम बुद्धिमत्ता मॉडल के दुरुपयोग का पता लगाने के लिए डिज़ाइन किए गए टूल का उपयोग करके खाते की पहचान की।”कनाडा में अधिकारियों ने पुष्टि की कि वे चल रही जांच के हिस्से के रूप में संदिग्ध की ऑनलाइन और सोशल मीडिया गतिविधि की जांच कर रहे हैं।इस घटना ने उपयोगकर्ता गतिविधि की रिपोर्ट करने की प्रौद्योगिकी कंपनियों की जिम्मेदारी और ऑनलाइन व्यवहार के आधार पर खतरों का आकलन करने की चुनौतियों के बारे में व्यापक सवाल खड़े कर दिए हैं। ओपनएआई ने कहा कि वह अपने कृत्रिम बुद्धिमत्ता प्रणालियों के दुरुपयोग को रोकने के लिए सुरक्षा उपायों को मजबूत करना जारी रखे हुए है।
