विशेषज्ञों ने कहा कि जैसे-जैसे एआई-जनरेटेड इमेजिंग टूल अधिक सुलभ होते जा रहे हैं, उपयोगकर्ता यथार्थवादी और कभी-कभी त्रुटिहीन मनोरंजन बना रहे हैं, कभी-कभी झूठे दावे करने के लिए भी। उन्होंने कहा, इसका मतलब ई-कॉमर्स और फास्ट कॉमर्स सहित व्यवसायों के लिए वास्तविक वित्तीय नुकसान हो सकता है।
ऐसा ही एक मामला नवंबर में हुआ था, जब एक त्वरित वाणिज्य मंच के उपयोगकर्ता ने कथित तौर पर एक ऑर्डर के लिए धनवापसी का दावा करने के लिए टूटे हुए अंडे के साथ एक ट्रे की एआई-जनरेटेड छवि बनाई थी। इस घटना से पता चलता है कि सभी प्रकार के व्यवसाय जो किसी घटना या लेनदेन के प्रमाण के रूप में दृश्य साक्ष्य पर भरोसा करते हैं, उन्हें नुकसान हो सकता है।
डीपफेक और मैनिपुलेशन डिटेक्शन सिस्टम कॉन्ट्रेल्स एआई के सह-संस्थापक अमी कुमार ने कहा, “केवल वे प्लेटफॉर्म जो अपने विश्वास और सुरक्षा में सुधार करते हैं, धोखाधड़ी वाले हथियारों की दौड़ से बचे रहेंगे।” “अधिकांश मौजूदा समर्थन वर्कफ़्लो में डीपफेक का पता लगाना, फोरेंसिक हेरफेर, सामर्थ्य जांच या ग्राहक या विक्रेता द्वारा प्रस्तुत मीडिया की प्रामाणिकता को मान्य करने का कोई तरीका नहीं है। यह एक्सप्रेस कॉमर्स या ई-कॉमर्स के मामले में विशेष रूप से महत्वपूर्ण हो जाता है जहां एआई-प्रवर्धित रिफंड धोखाधड़ी इकाई अर्थशास्त्र को नष्ट कर सकती है।”
कंपनियां, उद्योग की परवाह किए बिना, ऐसे मनगढ़ंत दावों से आने वाले जोखिमों के प्रति सचेत हो रही हैं। यहां तक कि किसी कंपनी के साथ नियमित रूप से दावे दाखिल करना या बीमा दावे दाखिल करना भी 2026 में करीब से जांच के दायरे में आ सकता है। कुछ लोगों ने कहा कि प्रमाणन और सीलिंग की उम्र वापस आ सकती है।
एक विनिर्माण कंपनी के एक वरिष्ठ अधिकारी ने नाम न बताने की शर्त पर कहा, ”हमने डिजिटल चालान के साथ भौतिक चालान जमा करने की आवश्यकता शुरू कर दी है।” “हमने भौतिक चालान मांगना बंद कर दिया था, लेकिन हाल ही में हमारे पास कुछ घटनाएं थीं जहां कर्मचारी बने-बनाए चालान जमा कर रहे थे और हमने अब इसे एक नीति बना दी है।”
साइबर सिक्योरिटी फर्म क्लाउडएसईके के सह-संस्थापक राहुल ससी ने कहा, समस्या खुदरा क्षेत्र से कहीं आगे तक फैली हुई है, जिसने एक मुफ्त डीपफेक विश्लेषक बनाया है। उनका मानना था कि बीमा, लॉजिस्टिक्स, बैंकिंग, अनुपालन, निर्माण और यहां तक कि आंतरिक व्यय प्रबंधन क्षेत्रों को भी इसी तरह के जोखिमों का सामना करना पड़ेगा क्योंकि दृश्य “प्रमाण” का निर्माण करना सस्ता हो जाता है।
ससी ने कहा, “कंपनियां पूरी तरह से कागज पर नहीं लौटेंगी, लेकिन डिजिटल साक्ष्य में विश्वास बहाल करने के लिए मेटाडेटा जांच, उत्पत्ति और चयनात्मक मानव समीक्षा जैसे सत्यापन की परतें जोड़ेंगी।” “तकनीकी रूप से, प्लेटफ़ॉर्म को स्वचालित छेड़छाड़ का पता लगाने, जोखिम-आधारित वृद्धि, और उद्गम-जागरूक कैप्चर और अपलोड प्रवाह की आवश्यकता होती है। ऐसी दुनिया में जहां ‘देखना ही विश्वास करना’ अब मान्य नहीं है, सत्यापन एक अच्छा काम नहीं, बल्कि मुख्य बुनियादी ढांचा बन जाता है।”
यह देखते हुए कि एआई मॉडल तेजी से सीखते हैं, जब फोटोग्राफिक साक्ष्य की बात आती है तो विश्वास का क्षरण बहुत अधिक हो गया है और कुछ लोगों ने महसूस किया कि इससे केवल पुन: सत्यापन के लिए पुराने उपायों को अपनाया जाएगा।
इंडियन गवर्नेंस एंड पॉलिसी प्रोजेक्ट के संस्थापक निदेशक ध्रुव गर्ग ने कहा, “एआई ने छवि-आधारित साक्ष्य से जुड़े विश्वास की धारणा को उल्टा कर दिया है।” उन्होंने कहा, “यह व्यवसायों के लिए गंभीर वास्तविक दुनिया की चुनौतियों का सामना करता है, लेकिन अधिक महत्वपूर्ण कार्यों के लिए भी। निकट भविष्य में एआई टूल का उपयोग करके ई-केवाईसी जैसी किसी चीज़ में हेरफेर किया जा सकता है और यह एक वास्तविक चिंता का विषय है।” “हम एक ऐसे समय में प्रवेश कर सकते हैं जहां संगठनों को प्रामाणिकता सत्यापित करने के लिए पुराने-स्कूल, मानव-आधारित तरीकों को अपनाना होगा, जैसे कि बैंक किसी ग्राहक के घर या कार्यालय में एजेंटों को भेजते थे।”
हालाँकि, गर्ग को यह भी लगा कि उद्गम-आधारित प्रमाणीकरण और ब्लॉकचेन तकनीक कुछ समाधान पेश कर सकती है।
गर्ग ने कहा, “न्यायिक प्रणाली के भीतर, अभी भी नियंत्रण और संतुलन उपलब्ध हैं।” “(लेकिन) सामान्य तौर पर, जब रोजमर्रा के उपयोग के मामलों में फोटोग्राफिक साक्ष्य की अवधारणा की बात आती है, तो इससे जुड़ी विश्वसनीयता को अल्पावधि में चुनौतियों का सामना करना पड़ सकता है।”
उन्होंने कहा कि डिजिटलीकरण द्वारा हल की जाने वाली कई प्रक्रियाओं को कम से कम इस बीच अधिक मानव सत्यापन की आवश्यकता हो सकती है।
कुमार ने कहा, “सी2पीए (कंटेंट प्रोवेंस एंड ऑथेंटिसिटी के लिए गठबंधन) जैसे गठबंधन भी हैं जो एआई कंपनियों के साथ सक्रिय रूप से काम कर रहे हैं ताकि एआई-जनित सामग्री को छोटे हस्ताक्षर के साथ लेबल करने की प्रणाली लागू की जा सके।” “इस तरह के उपाय भी मदद कर सकते हैं, लेकिन अल्पावधि में, विशेष रूप से भारतीय संदर्भ में, कंपनियां मानव सत्यापन तंत्र स्थापित कर सकती हैं।”
लेकिन लंबी अवधि में, उन्होंने दोहराया कि केवल कंप्यूटर विज़न, डीपफेक डिटेक्शन टूल और अन्य प्रौद्योगिकियां ही इस समस्या का बड़े पैमाने पर समाधान प्रदान कर सकती हैं।
