Как показали исследования ученых из Оксфордского и Амстердамского университетов, российскому Агентству интернет-исследований потребовалось от 3 до 10 дней, чтобы усилить поляризацию дискуссий по хештегу #BlackLivesMatter («Жизнь чернокожих имеет значение» — лозунг движения, выступающего против насилия в отношении чернокожего населения) в Twitter.

Используя новейшие алгоритмы вычислений и статистические методы, исследователи проанализировали влияние твитов российского Агентства интернет-исследований на все обсуждения с использованием хештега #BlackLivesMatter и подтвердили, что активность кремлевских троллей оказала поддающееся измерению воздействие на реальные дискуссии в Интернете.

Агентство интернет-исследований, более известное как «фабрика троллей», снискало дурную славу за счет проведения комплексных мероприятий по распространению своего влияния, чтобы воздействовать на выборы и манипулировать общественным мнением как в России, так и за рубежом. Оно пыталось манипулировать американскими избирателями в преддверии президентских выборов 2016 года, используя существующие разногласия в обществе и межпартийные противоречия, создавая фальшивых интернет-пользователей и веб-сайты, выдавая себя за местные новостные агентства и сотрудничая с российской службой военной разведки для распространения информации, полученной в результате хакерских атак на несколько ключевых демократических групп.

Протестное движение The Black Lives Matter против насилия полиции в отношении афроамериканцев в США распространилось онлайн и офлайн, привлекая многочисленных сторонников, а также оппозицию. Расследование, проведенное под руководством специального прокурора в США, показало, что аккаунты российского Агентства интернет-исследований имитировали пользователей Twitter, выступающих как в поддержку, так и против этого движения, и распространяли провокационные сообщения, в целях поляризовать обсуждение, например, чтобы усилить антагонизм и разногласия между противоборствующими группами.

Новое исследование убедительно доказывает наличиевзаимосвязи между деятельностью Агентства интернет-исследований и эффектом поляризации в Twitter. Эффект проявлялся не сразу,а преимущественно через 3–10 дней после манипулятивных действий в отношении ведущихся дискуссий. Прежде чем вернуться к исходному значению, уровень поляризации достигал пика на 7-9 день после активного вмешательства троллей. Корреляция была наиболее выраженной в периоды наибольшей активности русских троллей, что говорит о том, что чем активнее действуют тролли, тем большее влияние они оказывают на реальные дикуссии в Интернете.

Аккаунты Агентства интернет-исследований в Twitter публиковали сообщения как в поддержку (левые), так и против (правые) движения #BlackLivesMatter. Источник скриншотов: «Исполняя заданную роль: изучение пропагандистских мероприятий в рамках дискурса #BlackLivesMatter», А. Ариф, Л. Стьюарт, К. Старберд (на английском языке).

Усилив поляризацию дискуссий в Twitter, Агентство интернет-исследований создало благоприятные условия для распространения дезинформации. Резкие разногласия между спорящими группами усиливают принятие ложной и вводящей в заблуждение информации, которая подтверждает уже существующие убеждения — это психологический феномен, известный как «склонность к подтверждению своей точки зрения». Кроме того, поляризация усиливает повторный показодной и той же неточной информации, поскольку альтернативные точки зрения эффективно удаляются из дискуссии.

Токсичные разговоры

Деятельность фабрики троллей не ограничивалась только сервисом Twitter. В 2018 году Reddit идентифицировал 944 аккаунтов Агентства интернет-исследований, создавших в этой социальной сети более 16 800 публикаций.

Исследование деятельности фабрики троллей в Reddit показало, что обсуждения («темы»), созданные аккаунтами Агентства интернет-исследований, были более токсичными, чем обсуждения, начатые реальными пользователями, и характеризовались большим количеством нападок на интернет-пользователей из-за их личностных предпочтений, например, политических взглядов, расы или принадлежности к определенной группе.

Слово «токсичность» в данном случае выбрано совершенно осознанно. С целью содействия повышению качества общения в Интернете компания Google разработала инструмент, который использует модели машинного обучения для оценки влияния комментариев на обсуждения в сети. Чем более грубым, агрессивным или неадекватным является комментарий, тем выше оценка уровня его «токсичности». Этот же инструмент также позволяет измерять степень нацеленности негативных или разжигающих ненависть комментариев на того или иного пользователя из-за его личностных качеств.

Исследователи также обнаружили свидетельства, подтверждающие причинно-следственную связь между деятельностью российского Агентства интернет-исследований и качеством общения в Интернете. Во всех исследованных обсуждениях (т. н. «подфорумах» на Reddit) вмешательство троллей привело к снижению количества различных точек зрения и сделало характер обсуждения более предвзятым и необъективным. И хотя полученные результаты требуют дальнейших исследований, они демонстрируют, что все поддающиеся измерению воздействия от деятельности российского Агентства интернет-исследований крайне негативно сказываются на качестве общения в Интернете.

Использованные источники: «Измерение воздействия пропагандистских мероприятий российского Агентства интернет-исследований на общение в Интернете», Джон Д. Галлахер, Марк У. Хирдинк, Оборонная стратегическая коммуникация, Центр передового опыта НАТО в области стратегических коммуникаций, весна 2019 г. (на английском языке).