Согласно новому отчету, алгоритмы, используемые платформами социальных сетей, быстро усиливают экстремистский женоненавистнический контент, который распространяется с экранов подростков на школьные игровые площадки, где он стал нормой.
Как пишет The Guardian, исследователи заявили, что за пятидневный период мониторинга они обнаружили четырехкратное увеличение уровня женоненавистнического контента, предложенного TikTok, поскольку алгоритм показывал более экстремальные видеоролики, часто сосредоточенные на гневе и обвинении в адрес женщин.
Хотя в этом конкретном исследовании рассматривался TikTok, исследователи заявили, что их выводы, судя по всему, применимы к другим платформам социальных сетей, и призвали к подходу к решению проблемы “здорового цифрового питания”, а не к прямым запретам на телефоны или социальные сети, которые “скорее всего, будут неэффективными”.
Исследование, проведенное командами из Университетского колледжа Лондона и Кентского университета, проводится в период возобновления озабоченности по поводу влияния социальных сетей на молодежь. Исследование, проведенное на прошлой неделе, показало, что молодые люди из поколения Z, многие из которых почитают инфлюэнсера-женоненавистника в социальных сетях Эндрю Тейта, с большей вероятностью, чем бэби-бумеры, верят, что феминизм приносит больше вреда, чем пользы.
Тем временем мать убитого подростка Брианна Гей призвала запретить приложения для социальных сетей на смартфонах для лиц младше 16 лет после того, как услышала свидетельства об онлайн-активности убийц ее дочери.
Исследование UCL/Kent, получившее название Safer Scrolling, утверждает, что вредоносный контент представляется как развлечение с помощью алгоритмических процессов социальных сетей. Токсичные, вызывающие ненависть или женоненавистнические материалы “проталкиваются” молодым людям, причем мальчики, страдающие от тревожности и плохого психического здоровья, подвергаются повышенному риску, говорится в нем.
“Вредные взгляды и стереотипы в настоящее время становятся нормой среди молодежи, - сказала главный исследователь доктор Кейтлин Регер. – Онлайн-потребление влияет на офлайн-поведение молодых людей, поскольку мы видим, как эти идеологии уходят с экранов на школьные дворы”.
Исследователи опросили молодых людей, занимающихся созданием радикального онлайн-контента, чтобы помочь создать ряд архетипов мальчиков-подростков, которые могут быть уязвимы для радикализации. В TikTok были созданы аккаунты для каждого архетипа, у каждого из которых были свои интересы – они могли искать контент о мужественности или одиночестве, – и затем исследователи просмотрели более 1000 видеороликов, которые TikTok предложил на своей странице “Для вас” в течение семи дней.
Первоначально предлагаемый контент соответствовал заявленным интересам каждого архетипа, но через пять дней исследователи заявили, что алгоритм TikTok представил в четыре раза больше видеороликов с женоненавистническим содержанием, включая объективацию, сексуальные домогательства или дискредитацию женщин, что увеличилось с 13% рекомендованных видеороликов до 56%.
“Алгоритмические процессы на TikTok и других сайтах социальных сетей нацелены на уязвимости людей – такие как одиночество или чувство потери контроля – и геймифицируют вредоносный контент, - отмечает доктор Регер. – Поскольку молодые люди принимают микродозировки на такие темы, как членовредительство или экстремизм, для них это кажется развлечением”.
Исследователи также опросили молодых людей и руководителей школ о влиянии социальных сетей и обнаружили, что идеологии ненависти и женоненавистнические тропы перешли с экранов в школы и прочно укоренились в основной молодежной культуре.
Джефф Бартон, генеральный секретарь Ассоциации руководителей школ и колледжей, которая сотрудничала с исследованием, сказал: “Результаты исследования показывают, что алгоритмы, о которых большинство из нас мало знают, имеют эффект снежного кома, при котором они предоставляют все более экстремальный контент в форме развлечений. Это вызывает глубокую тревогу в целом, но особенно в связи с распространением сообщений о токсичной маскулинности и ее влиянии на молодых людей, которым необходимо иметь возможность расти и развивать свое понимание мира, не подвергаясь влиянию таких ужасающих материалов. Мы призываем TikTok, в частности, и платформы социальных сетей в целом в срочном порядке пересмотреть свои алгоритмы и усилить меры предосторожности для предотвращения такого рода контента”.
Энди Берроуз, советник Фонда Молли Роуз, который был создан в память о Молли Рассел, которая свела счеты с жизнью после того, как попала в водоворот отчаяния в социальных сетях, говорит: “Это исследование подтверждает, что алгоритмы TikTok безжалостно нацеливаются на молодых людей и бомбардируют их вредоносным контентом, и в течение нескольких дней могут помочь подросткам почти постоянный поток нездоровых, а иногда и опасных видеороликов”.
Выступая во время поездки в Северную Ирландию, премьер-министр Риши Сунак сказал: “Как родитель, я всегда беспокоюсь о социальных сетях и о том, чему подвергаются мои маленькие девочки. Вот почему я рад, что за последний год мы приняли Закон о безопасности в Интернете, и это означает, что регулирующий орган теперь обладает новыми жесткими полномочиями по контролю за тем, что доступно детям в Интернете. И если крупные компании, занимающиеся социальными сетями, не соблюдают это, регулирующий орган может наложить на них очень значительные штрафы, и сейчас приоритетом является обеспечение того, чтобы закон был введен в действие”.
Представитель TikTok сказал: “Женоненавистничество уже давно запрещено в TikTok, и мы заблаговременно выявляем 93% контента, который мы удаляем за нарушение наших правил о ненависти. Методология, используемая в этом отчете, не отражает того, как реальные люди воспринимают TikTok”.