На Западе испугались, что искусственный интеллект перешел на сторону России. Правда ли это?
21.03.2025 00:01
Результаты оказались тревожными: в 33% случаев чат-боты давали ответы, отражающие российскую, а не западную точку зрения на политические события. Это вызвало беспокойство у аналитиков NewsGuard, которые предполагают, что за этим явлением стоит сеть под названием "Правда". Эта сеть, по мнению исследователей, публикует фейковые статьи с целью влиять на взгляды искусственного интеллекта и "заразить его пропагандой".
Таким образом, возникает вопрос о влиянии фейковых новостей на развитие искусственного интеллекта и его способность к объективной обработке информации. Это также поднимает важную проблему цифровой безопасности и необходимости защиты от манипуляций сознанием через искусственный интеллект.Исследование NewsGuard подчеркивает актуальность проблемы дезинформации в цифровом пространстве и необходимость разработки механизмов фильтрации и проверки информации, передаваемой искусственным интеллектом. Важно развивать критическое мышление и способность анализировать источники информации, чтобы не поддаваться влиянию фейковых новостей и пропаганды.В ходе анализа 10 ведущих зарубежных чат-ботов был проведен аудит их информационной достоверности. Исследователи из NewsGuard задавали им вопросы, основанные на 15 фактах, оцениваемых по-разному в России и на Западе. Результаты показали, что в 33,55% случаев искусственный интеллект поддерживал пророссийские тезисы, в 48,22% случаев их опровергал, а в 18,22% просто не отвечал.Интересно отметить, что все 10 чат-ботов повторяли дезинформацию, распространяемую сетью "Правда", при этом семь из них даже цитировали конкретные статьи из этой сети в качестве источников. Обнаружено, что из 450 ответов, сгенерированных чат-ботами, 56 включали прямые ссылки на ложные утверждения, вызвав недовольство у исследователей.Недавние исследования показали, что чат-боты процитировали 92 различные статьи, в которых рассматривается российская точка зрения на различные события, признанные авторами материала дезинформацией. Среди цитированных утверждений оказались заявления Министерства обороны России о том, что Соединенные Штаты управляли секретными лабораториями биологического оружия на Украине.Сеть «Правда» привлекла внимание западных исследователей еще в феврале 2024 года. Они отметили, что агентство Viginum, связанное с правительством Франции и занимающееся отслеживанием иностранных кампаний по дезинформации, упоминало эту сеть. Все это указывает на значительное влияние и распространение дезинформации в современном информационном пространстве.Согласно отчету NewsGuard за последний год, сеть, известная также под названием Portal Kombat, значительно увеличилась и теперь охватывает 49 стран на десятках языков в 150 доменах. В феврале 2025 года American Sunlight Project опубликовал отчет, посвященный сети "Правда".Однако, аналитики обнаружили, что данная сеть распространяет ложные утверждения на различных языках по всему миру, что делает их более убедительными для искусственного интеллекта и широко распространенными. Из 150 сайтов в сети "Правда" около 40 работают на русском языке. В результате, эти сайты становятся популярными и влиятельными в разных географических регионах.Сеть сайтов "Правда" активно использует доменные имена, ориентированные на различные города и регионы Украины. По данным NewsGuard, около 70 ресурсов направлены на аудиторию в Европе, где публикации выходят на нескольких языках, включая английский, французский, чешский, ирландский и финский.Аналитики приписывают администрирование сети IT-компании, базирующейся в Крыму, и ее руководителю, который является опытным веб-разработчиком. По словам NewsGuard, ранее он участвовал в создании веб-сайтов для правительства региона.Создатели отчета подчеркивают, что для обучения чат-ботов на основе данных сети "Правда" применяется тактика манипуляции токенами. Токены представляют собой фундаментальные единицы текста, которые используются языковыми моделями для понимания естественного языка и формирования ответов на запросы пользователей.Исследователи из NewsGuard отмечают, что токен может быть как отдельным символом, так и полноценным словом. Кроме того, их мнение основано на отчете компании Google за январь 2025 года, где говорится о деятельности иностранных компаний, направленной на искажение результатов поисковых систем.Однако, обучение искусственного интеллекта на таких данных требует значительных усилий. Ученые из NewsGuard также отмечают, что интернет-ресурсы, связанные с "Правдой", имеют низкую посещаемость. Некоторые из них даже не привлекают более тысячи уникальных посетителей в месяц.С начала специальной военной операции три года назад, российские официальные лица не прокомментировали выводы NewsGuard, однако они не скрывают, что они находятся в состоянии информационной войны с западными странами. Это стало точкой отсчета для многих действий в этой области.Пресс-секретарь президента России Дмитрий Песков отметил, что за прошедшие три года страна значительно продвинулась в ведении информационных войн и приобрела ценный опыт. Он подчеркнул, что это является важным достижением для России в современных условиях. Песков также назвал информационную войну «навязанной России», что свидетельствует о сложности ситуации и необходимости принятия соответствующих мер.В России возникла идея создания министерства информации и пропаганды, предложенная депутатом Государственной думы Андреем Гурулевым. Он высказал мнение, что такое ведомство поможет противостоять фейкометам их собственными методами. Однако это предложение не нашло широкой поддержки. В то же время, Москва постоянно обвиняет западные страны в распространении ложной информации о России, особенно в контексте событий на СВО. Иногда это называют информационной войной, и в таких случаях, по мнению некоторых, необходимо отвечать на провокации, используя все доступные средства, включая не совсем честные.Журналист и блогер Виктор Байдаков подчеркивает, что ответственность за высказывания лежит на каждом из нас. Он утверждает, что важно отвечать на вопросы не только обоснованно и объективно, но и с использованием таланта. Подчеркивая важность честности и профессионализма в общении, он предостерегает от использования недостойных методов, которые могут нанести ущерб репутации страны. Вместо этого, он призывает к конструктивному и уважительному диалогу, способному способствовать развитию общества и укреплению доверия между людьми.Источник и фото - lenta.ru
