लाखों लोग अब व्यंजनों से लेकर घरेलू परियोजनाओं तक, अपने रोजमर्रा के सवालों के लिए एआई चैटबॉट्स को पहला पड़ाव मानते हैं। लेकिन एक यूट्यूबर ने चेतावनी दी कि उन उत्तरों पर गलत भरोसा करना खतरनाक हो सकता है, क्योंकि चैटजीपीटी ने उसके सबसे अच्छे दोस्त को बार-बार आश्वासन दिया था कि एक अत्यधिक जहरीला पौधा सुरक्षित था।यह चेतावनी क्रिस्टी की ओर से आई, जिन्होंने इस घटना को अपने लगभग पांच लाख इंस्टाग्राम फॉलोअर्स के साथ साझा किया। पोस्ट और वीडियो की एक श्रृंखला में, उसने बताया कि उसकी दोस्त ने चैटजीपीटी को उसके बगीचे में उगे एक अज्ञात पौधे की तस्वीरें भेजी थीं, और एक सरल प्रश्न पूछा था: यह कौन सा पौधा है?
जब सावधानी की जगह आत्मविश्वास ले लेता है
क्रिस्टी द्वारा साझा किए गए स्क्रीनशॉट के आधार पर, चैटबॉट ने पौधे की पहचान गाजर के पत्ते के रूप में की। उन्होंने “बारीक विभाजित, पंखदार पत्तियों” को गाजर के शीर्ष के क्लासिक संकेत के रूप में सूचीबद्ध किया और अपने निष्कर्ष पर विश्वास व्यक्त करते हुए कहा कि यह “अत्यधिक असंभावित” था कि यह ज़हर हेमलॉक था। उन्होंने सामान्य नकलों की सूची भी प्रदान की, जिनमें अजमोद, सीलेंट्रो, शॉक हॉरर और क्वीन ऐनी लेस शामिल हैं।चिंतित होकर, क्रिस्टी के मित्र ने सीधे पूछा कि क्या पौधा ज़हर हेमलॉक हो सकता है। चैटजीपीटी ने उन्हें कई बार आश्वासन दिया कि ऐसा नहीं है।“मुझे नहीं पता कि आप लोग यह जानते हैं या नहीं: यदि आप इसे खाएंगे, तो आप मर जाएंगे। यदि आप इसे छूएंगे, तो आप मर सकते हैं,” क्रिस्टी ने जहर हेमलॉक के खतरे पर जोर देते हुए अपने अनुयायियों से कहा। बाद में उन्होंने स्वतंत्र रूप से मिली जानकारी साझा की और नोट किया कि हेमलॉक प्रणालीगत विषाक्तता का कारण बनता है और इसका कोई मारक नहीं है।उसके दोस्त द्वारा अतिरिक्त तस्वीरें भेजने के बाद भी आश्वासन जारी रहा। चैटजीपीटी ने फिर से जहर हेमलॉक की संभावना को खारिज कर दिया, यह कहते हुए कि पौधे में बैंगनी धब्बों के साथ चिकने, खोखले तने नहीं दिखे, हालांकि क्रिस्टी ने बताया कि ये विशेषताएं तस्वीरों में स्पष्ट रूप से दिखाई दे रही थीं। एक बिंदु पर, चैटबॉट ने यह भी सुझाव दिया कि पौधा गाजर के पत्ते का हो सकता है जो एक साझा स्कूल के बगीचे में उग रहा है जहां क्रिस्टी का दोस्त काम करता है।
(@rawbeautybykristi/Instagram)
चिंतित होकर, क्रिस्टी ने वही छवियां Google लेंस के माध्यम से चलाईं, जिसने तुरंत पौधे को जहर हेमलॉक के रूप में पहचाना। उसके दोस्त ने उसके फोन पर एक अलग चैटजीपीटी सत्र में तस्वीरें अपलोड कीं और इस बार, उसे बताया गया कि पौधा जहरीला था।“वह एक वयस्क है और चैटजीपीटी द्वारा कही गई बातों से परे मुझसे पूछना जानती है, भगवान का शुक्र है।” आपके पास क्रिस्टी है. “क्योंकि अगर ऐसा नहीं होता तो क्या होता? वे सचमुच मर जाते। इसका कोई इलाज नहीं है।”अपने पोस्ट के साथ कड़े शब्दों में कैप्शन में क्रिस्टी ने लिखा:“चैट जीपीटी ने मेरे सबसे अच्छे दोस्त को यह कहकर लगभग मार डाला कि जहरीला हेमलॉक गाजर है। न केवल उसने कहा कि यह सकारात्मक है, बल्कि वह पूरी निश्चितता के साथ बार-बार पुष्टि करती रही कि यह वास्तव में जहरीला हेमलॉक नहीं था, कि यह वास्तव में जंगली गाजर थी। स्पोइलर, यह जहर हेमलॉक है। जिसके लिए कोई मारक नहीं है और यह बेहद घातक है।उन्होंने अपने दर्शकों को एक ज़बरदस्त चेतावनी के साथ समाप्त किया:“यह आपके लिए एक चेतावनी है कि चैटजीपीटी और अन्य बड़े भाषा मॉडल और कोई भी अन्य एआई आपके मित्र नहीं हैं, उन पर भरोसा नहीं किया जा सकता है, उपयोगी नहीं हैं, भयानक हैं, और गंभीर नुकसान पहुंचा सकते हैं।”
एक दोहरा नश्वर
ज़हर हेमलॉक (कोनियम मैकुलैटम) कोई अज्ञात विष नहीं है। प्राचीन एथेंस में, यह राज्य द्वारा फांसी देने का चुना हुआ तरीका था, और 399 ईसा पूर्व में सुकरात को मारने के लिए इसका सबसे प्रसिद्ध उपयोग किया गया था। आधुनिक चिकित्सा इसके प्रभावों को बहुत अधिक विस्तार से समझती है, लेकिन परिणाम वही हो सकता है। क्लीवलैंड क्लिनिक के अनुसार, पौधे का हर हिस्सा जहरीला है, बीज, जड़ें, तना, पत्तियां और फल, और थोड़ी मात्रा में भी निगलना घातक हो सकता है।
जहर हेमलॉक (कोनियम मैकुलैटम) और गाजर (डौकस कैरोटा), दोनों एक ही परिवार में हैं, के बीच अंतर विषाक्तता, तने के निशान और पत्ती की बनावट में निहित है।
ख़तरा आंशिक रूप से इस बात में निहित है कि हेमलॉक गाजर परिवार के सौम्य सदस्यों के साथ कितनी आसानी से भ्रमित हो जाता है। यह काफी हद तक जंगली गाजर या रानी ऐनी के फीते जैसा दिखता है, जिसमें नाजुक अजमोद जैसी पत्तियां और छोटे सफेद फूलों के समूह होते हैं। गैर-विशेषज्ञ अक्सर प्रमुख चेतावनी संकेतों को भूल जाते हैं, बैंगनी धब्बों से चिह्नित खोखला तना और तेजी से वृद्धि जो कई फीट तक पहुंच सकती है।चिकित्सकीय रूप से, हेमलॉक विषाक्तता शीघ्रता से कार्य करती है। लक्षण खाने के 15 मिनट के भीतर शुरू हो सकते हैं और इसमें पसीना आना, उल्टी, फैली हुई पुतलियाँ, अत्यधिक लार आना, शुष्क मुँह, क्षिप्रहृदयता, उच्च रक्तचाप, भ्रम, मांसपेशियों में ऐंठन, कंपकंपी और दौरे शामिल हो सकते हैं। गंभीर मामलों में, मरीज़ों में मांसपेशी पक्षाघात, खतरनाक रूप से निम्न रक्तचाप, गुर्दे की विफलता और केंद्रीय तंत्रिका तंत्र अवसाद विकसित हो सकता है। पौधे के विषैले एल्कलॉइड न्यूरोमस्कुलर जंक्शनों को बाधित करते हैं जो मांसपेशियों की गति को नियंत्रित करते हैं; जब श्वसन मांसपेशियां विफल हो जाती हैं, तो सांस रुक जाती है। कोई विशिष्ट प्रतिविष नहीं है। निदान काफी हद तक लक्षणों और जोखिम के इतिहास पर आधारित होता है, कभी-कभी पौधे के नमूने से भी सहायता मिलती है।
इस तरह की गलतियाँ क्यों महत्वपूर्ण हैं?
वह संयोजन – हानिरहित पौधों के साथ दृश्य समानता, लक्षणों की तीव्र शुरुआत, और मारक की अनुपस्थिति – यही कारण है कि वनस्पति विज्ञानी और डॉक्टर आकस्मिक पहचान के खिलाफ चेतावनी देते हैं। क्रिस्टी की कहानी दिखाती है कि कितनी आसानी से एक आश्वस्त लेकिन गलत एआई प्रतिक्रिया उस सावधानी को शॉर्ट-सर्किट कर सकती है, और एक नियमित प्रश्न को जहर के साथ लगभग मिस में बदल देती है, जिसका इस्तेमाल एक बार इतिहास के सबसे प्रसिद्ध दार्शनिकों में से एक के जीवन को समाप्त करने के लिए किया गया था।
