ब्रिटिश प्रधान मंत्री कीर स्टार्मर का 61 सेकंड का वीडियो अगर सच है तो चौंकाने वाला होगा। पिछले छह महीनों में पोस्ट किए गए अपने हजारों टिकटॉक वीडियो में से एक में वह कहते नजर आते हैं, “ब्रिटेन हर रात 11 बजे से राष्ट्रव्यापी कर्फ्यू लागू करेगा।” “नए नियम के मुताबिक, कोई भी रात 11:00 बजे के बाद बिना आधिकारिक अनुमति के अपना घर नहीं छोड़ पाएगा।”स्टार्मर ने कभी भी ऐसी कोई नीति या घोषणा नहीं की। लेकिन एआई के लिए धन्यवाद, लघु वीडियो में प्रधान मंत्री वास्तविक की तरह भयानक लग रहे थे। नकली वीडियो ने 430,000 से अधिक बार देखा और एक्स और फेसबुक पर इसी तरह के पोस्ट को प्रेरित किया। वह वीडियो और उसके जैसे अन्य वीडियो, चीनी स्वामित्व वाली सोशल मीडिया कंपनी द्वारा हटा दिए गए प्रतीत होते हैं, जो आधिकारिक तौर पर “झूठे आधिकारिक स्रोतों या संकट की घटनाओं, या कुछ संदर्भों में सार्वजनिक आंकड़ों को गलत तरीके से चित्रित करने” पर प्रतिबंध लगाता है।“
लेकिन यह क्लिप 6,042 ऐसे वीडियो में से एक थी, जिसमें सबसे अधिक स्टारमर था, जिसे मई और दिसंबर के बीच ऑनलाइन गलत सूचनाओं पर नज़र रखने वाली कंपनी न्यूज़गार्ड द्वारा पहचाना गया था। एक रिपोर्ट में, इसने कहा कि वीडियो “बीबीबी यूके न्यूज” और “डेली ब्रिटेन न्यूज” जैसे ब्रिटिश-जैसे फर्जी समाचार संगठन नामों वाले खातों द्वारा पोस्ट किए गए थे। रिपोर्ट प्रकाशित होने पर कुल मिलाकर, खातों में 1 मिलियन से अधिक अनुयायी थे। न्यूज़गार्ड के वरिष्ठ रूसी प्रभाव विश्लेषक ईवा मैटलैंड ने कहा, “वह लगातार स्टार्मर का अनुकरण करते हैं।” “यह झूठे या निराधार दावे पेश करता है जो स्टार्मर सरकार के लिए खराब लगते हैं, और कुछ मायनों में लोगों से इस पर क्लिक करने के लिए मजबूत प्रतिक्रिया उत्पन्न करने के लिए बनाए गए हैं।”मैटलैंड ने कहा कि ये वीडियो रूस जैसे विदेशी विरोधियों या प्रधान मंत्री के घरेलू राजनीतिक विरोधियों द्वारा मतदाताओं की नजर में उन्हें नुकसान पहुंचाने के समन्वित प्रयास का हिस्सा नहीं प्रतीत होते हैं। बल्कि, उन्होंने कहा, वे संभवतः सामग्री निर्माताओं द्वारा बनाए जा रहे हैं जिनका प्राथमिक लक्ष्य वायरल होने वाले वीडियो बनाकर पैसा कमाना है।ओपनएआई के सोरा जैसे उपयोग में आसान एआई वीडियो जेनरेशन टूल को व्यापक रूप से अपनाने से टिकटॉक और अन्य सोशल मीडिया प्लेटफॉर्म पर नकली वीडियो की संख्या में नाटकीय रूप से वृद्धि हुई है। फर्जी वीडियो प्रधान मंत्री के लिए विशेष रूप से कठिन समय में आए हैं, जो पहले से ही चुनावों में बहुत कम नतीजों से पीड़ित हैं। एक वीडियो में, स्टार्मर नए ड्राइविंग लाइसेंस कानूनों की घोषणा करते हुए दिखाई देते हैं जो कई ब्रितानियों को देश में कानूनी रूप से गाड़ी चलाने की क्षमता से वंचित कर सकते हैं। एक अन्य वीडियो में स्टार्मर की नकली आवाज में यह घोषणा की गई है कि नए नियम अधिकारियों को उनके निजी डेटा के साथ-साथ किसी भी ब्रिटिश के फोन तक पहुंचने की अनुमति देंगे। 9 दिसंबर को न्यूज़गार्ड द्वारा अपनी रिपोर्ट प्रकाशित करने के तुरंत बाद के दिनों में, कई वीडियो टिकटॉक पर उपलब्ध थे। 19 दिसंबर तक ऐसा प्रतीत हुआ कि अधिकांश को मंच से हटा दिया गया था। हॉवर्ड ने कहा कि राजनीति में एआई का इस्तेमाल तेजी से बढ़ रहा है। उन्होंने कहा, “हम जानते हैं कि यह अब अंतरराष्ट्रीय स्तर पर व्यापक हो गया है।” “दुनिया भर में पांच में से चार चुनावों में अब एआई-जनित राजनीतिक कचरा है जो कि अप्रमाणित और स्पष्ट रूप से भ्रामक है।“