OpenAI закрывает подозреваемую в распространении российской пропаганды сеть

OpenAI ввела запрет на группу аккаунтов ChatGPT, идентифицированных как часть предполагаемой российской пропагандистской кампании, связанной с Международным Институтом Берка — предположительно аналитическим центром, используемым как прикрытие для тайных операций. Запрет был объявлен после расследования, которое показало, что эта операция была сосредоточена вокруг веб-сайта с плагиатом и неправильно приписываемым научным контентом, который в своем повествовании был про-российским. Описываемая как масштабная операция влияния, кампания пыталась использовать сгенерированные ИИ комментарии для продвижения своей повестки на англоязычных платформах, таких как Substack, Telegram, X, Facebook и LinkedIn. Эти комментарии часто указывали на веб-сайт института, выступая как вклад «созданного экспертного сообщества». Несмотря на заявления о независимости, доказательства указывали, что на сайте института размещались статьи, ложно приписанные уважаемым учёным, создавая видимость легитимности. Выводы OpenAI подчеркнули сложный характер этой кампании по сравнению с другими операциями, связанными с Россией, которые были нарушены после начала конфликта в Украине. С использованием виртуальных частных сетей для обхода ограничений, операторам аккаунтов удалось получить доступ к моделям OpenAI для распространения про-российских нарративов, демонстрируя, как ИИ может быть использован для дезинформации. Этот инцидент демонстрирует эволюционирующие тактики операций влияния, при которых искусственный интеллект используется не только для создания контента, но и для эффективного сокрытия его происхождения. Ключевой элемент кампании – искусственно созданный 'индекс суверенитета' – стремился возвысить Россию, подрывая западные страны. Операция влияния была в основном нацелена на привлечение трафика на веб-сайт института. Важно, что расследование показало, как технологии ИИ могут одновременно способствовать организации этих кампаний, а также облегчать их выявление. OpenAI отметила, что этот случай подчеркивает двойную природу технологий ИИ, которые могут помогать вводящим в заблуждение операторам создавать мнимую достоверность и распространять популярные нарративы, но также служат инструментами для их разоблачения и разрушения. Этот инцидент служит предостережением о последствиях злоупотребления ИИ для влияния на общественное восприятие, подчеркивая постоянную необходимость бдительности при мониторинге и устранении такого злоупотребления на цифровых платформах.