कनाडाई अधिकारियों ने इस खुलासे के बाद मंगलवार को ओपनएआई अधिकारियों को एक बैठक के लिए बुलाया कि कंपनी अधिकारियों को उस उपयोगकर्ता के बारे में सूचित करने में विफल रही, जिसका खाता 10 फरवरी को ब्रिटिश कोलंबिया में सामूहिक हत्या करने से महीनों पहले निलंबित कर दिया गया था। देश के कृत्रिम बुद्धिमत्ता मंत्री, इवान सोलोमन ने पुलिस को सूचना प्रसारित करते समय सुरक्षा प्रोटोकॉल और सीमा के बारे में स्पष्टीकरण मांगा है।सोलोमन ने कहा कि 18 वर्षीय जेसी वान रूटसेलर से जुड़ी कंपनी की कार्रवाइयों के बारे में उन्हें जो पता चला था, उससे वह “बहुत परेशान” थे, अधिकारियों का कहना है कि आत्महत्या करने से पहले ब्रिटिश कोलंबिया के टम्बलर रिज के ग्रामीण समुदाय में आठ लोगों की हत्या कर दी थी। एनवाईटी द्वारा उनके सोशल मीडिया खातों की समीक्षा के अनुसार, वैन रूटसेलेर ने बंदूकों और अत्यधिक हिंसा के प्रति आकर्षण दिखाया और मानसिक स्वास्थ्य के मुद्दों के साथ अपने अनुभवों का दस्तावेजीकरण किया। कंपनी के अनुसार, वैन रूटसेलेर द्वारा अपने चैटजीपीटी चैटबॉट पर भेजे गए संदेशों ने पिछले जून में ओपनएआई में आंतरिक रूप से अलर्ट उत्पन्न किया।कंपनी के दुरुपयोग का पता लगाने वाली प्रणाली, जो स्वचालित उपकरणों का उपयोग करती है और स्टाफ सदस्यों द्वारा जांच की जाती है, के बाद उसके खाते से संदेशों के संबंध में पता चला, वैन रूटसेलर को मंच से प्रतिबंधित कर दिया गया, कंपनी ने कहा। शूटिंग से पहले वैन रूटसेलेर द्वारा चैटजीपीटी के उपयोग की रिपोर्ट सबसे पहले वॉल स्ट्रीट जर्नल ने दी थी।ओपनएआई ने कहा कि उसने अधिकारियों को शूटर के खाते की रिपोर्ट करने पर विचार किया था, लेकिन अंततः इसके खिलाफ फैसला किया क्योंकि कंपनी ने निर्धारित किया कि उपयोगकर्ता की ओर से कोई विश्वसनीय योजना नहीं थी। OpenAI का कहना है कि वह उपयोगकर्ता की गोपनीयता की सुरक्षा के साथ सार्वजनिक सुरक्षा को संतुलित करने का प्रयास करता है। उनका कहना है कि वह चेतावनियां जारी करने में अत्यधिक आक्रामक होने से भी बचना चाहते हैं, जिससे कानून प्रवर्तन अधिकारी किसी उपयोगकर्ता के घर पर बिना बताए पहुंच सकते हैं। लेकिन अधिकारियों से संपर्क न करने के कंपनी के फैसले ने कुछ कर्मचारियों के बीच चिंता पैदा कर दी। ओपनएआई ने कहा कि कंपनी को बड़े पैमाने पर गोलीबारी की जानकारी मिलने के बाद उसने रूटसेलर की खाता गतिविधि के बारे में जानकारी के लिए रॉयल कैनेडियन माउंटेड पुलिस से संपर्क किया। पुलिस मामले में संभावित सबूतों को संरक्षित करने के लिए संबंधित डिजिटल प्लेटफॉर्म और कृत्रिम बुद्धिमत्ता कंपनियों को मजबूर करने के लिए एक आदेश की मांग कर रही है।
