Дипфейк британского премьера, созданный с помощью ИИ, спровоцировал фейковые слухи о комендантском часе в TikTok

В причудливом повороте событий, вызванном передовой технологией ИИ, TikTok стал рассадником для вводящего в заблуждение видео, изображающего премьер-министра Великобритании Кира Стармера, объявляющего о вымышленном общенациональном комендантском часе. Этот скандальный 61-секундный дипфейк, который никогда не имел места в реальности, ложно передавал голос и манеры Стармера, заставляя зрителей сомневаться в его подлинности. Набрав более 430 000 просмотров, видео быстро распространилось по X, Facebook и другим платформам, прежде чем TikTok вмешался и удалил его за нарушение политики против дезинформации. Несмотря на оперативные действия TikTok, этот дипфейк оказался одним из ошеломляющих 6042 видео, имитирующих Стармера, выявленных интернет-организацией по борьбе с дезинформацией NewsGuard в период с мая по декабрь. Эти видео распространялись учетными записями, притворяющимися британскими новостными агентствами — с такими именами, как 'BBB UK News' и 'Daily Britain News', вводив в заблуждение более миллиона подписчиков. Отчет NewsGuard подчеркивает растущую проблему дезинформации, управляемой ИИ, поскольку подобный обманный контент набирает популярность и усложняет усилия по различению правды и подделки в сети. Распространение таких дипфейков подчеркивает настоятельную необходимость для платформ усилить усилия по цифровой грамотности и дать пользователям возможность выявлять манипулятивный контент. Ситуация подчеркивает необходимость повышенной бдительности и сотрудничества среди технологических компаний, СМИ и правительств для ограничения множества щупалец цифровой дезинформации, способной исказить общественное восприятие.