Соцсети нормализуют вредные идеологии

Алгоритмы социальных сетей усиливают и продвигают экстремальный контент, например, женоненавистнические посты, что нормализует вредные идеологии для молодежи. Об этом говорится в новом отчете, соавтором которого является профессор Никола Шонесси из Школы искусств Кентского университета.

Исследование, проведенное Кентским университетом, Университетским колледжем Лондона и Ассоциацией руководителей школ и колледжей, выявило четырехкратное увеличение  женоненавистнического контента на вкладке “Для вас” учетных записей в TikTok всего за пять дней в ходе исследования алгоритмического моделирования.

В ходе бесед с молодыми людьми и школьными руководителями исследователи также обнаружили, что ненавистные идеологии и женоненавистнические выражения перешли с экранов в школы, укоренившись в основных молодежных культурах.

Эта исследовательская работа опубликована Ассоциацией руководителей школ и колледжей.

Авторы отчета подчеркивают необходимость применения подхода «здоровой цифровой диеты» к образованию для поддержки молодых людей, школ, родителей и общества в целом.

Они также говорят, что важно отстаивать мнение самих молодых людей, особенно привлекать мальчиков к обсуждению женоненавистничества в Интернете, и предлагают подход наставничества “равный-равному”.

“Наше исследование дает представление о том, как и почему социальные сети влияют на молодежь, особенно уязвимые группы, и о важности цифровой грамотности, а также о потенциале обучения сверстников для повышения устойчивости. Наша работа также предлагает новый творческий метод исследования с использованием архетипов, полученных в результате полевых работ, чтобы узнать больше об обработке алгоритмов в реальных условиях”, – говорит профессор Шонесси.

“Алгоритмические процессы в TikTok и других сайтах социальных сетей нацелены на уязвимости людей, такие как одиночество или чувство потери контроля, и геймифицируют вредоносный контент. Когда молодые люди в микродозах обсуждают такие темы, как селфхарм или экстремизм, для них это кажется развлечением”, – говорит главная исследовательница доктор Кейтлин Регер из Университетского колледжа Лондона.

“Вредные взгляды и стереотипы сейчас у молодежи становятся нормой. Онлайн-потребление влияет на офлайн-поведение молодых людей, поскольку мы видим, как эти идеологии переходят с экранов в школьные дворы.

“Кроме того, взрослые часто не знают о том, как функционируют вредные алгоритмические процессы, или даже то, как они могут подпитывать собственные пристрастия в социальных сетях, что затрудняет воспитание детей в этих вопросах”.

Исследователи начали исследование с опроса молодых людей, которые взаимодействуют с радикальным онлайн-контентом и его создают.

Это послужило основой для алгоритмического исследования при создании архетипов, чтобы представить типологии мальчиков-подростков, которые могут быть уязвимы для радикализации из-за онлайн-контента.

Исследователи создали учетные записи в TikTok для каждого архетипа с различными интересами к контенту, типичными для этих архетипов (например, поиск контента о мужественности или борьбе с одиночеством), и исследователи использовали эти учетные записи для просмотра видео, которые TikTok предлагает на вкладке “Для вас”, в течение семи дней.

Первоначально предлагаемый контент соответствовал заявленным интересам каждого архетипа, например, показывались материалы, исследующие темы одиночества или самосовершенствования, но затем контент все больше фокусировался на гневе и обвинении, направленных на женщин. Через пять дней алгоритм TikTok показывал в четыре раза больше видео с женоненавистническим содержанием, включая объективацию, сексуальные домогательства или дискредитацию женщин (количество рекомендуемых видео увеличилось с 13% до 56%).

Исследовательская группа провела круглые столы и беседы с руководителями школ, которые подтвердили, что женоненавистнические стереотипы становятся нормой и в том, как молодые люди взаимодействуют друг с другом.

Исследователи сформулировали следующие рекомендации:

• Привлечение к ответственности компаний, занимающихся социальными сетями, и оказание на них давления с целью устранить вред, причиненный их алгоритмами, и установления приоритета благополучия молодежи над прибылью.
• Внедрение обучения “здоровой цифровой диете”, которая учитывает различные типы экранного времени и цифрового контента, с которым взаимодействуют молодые люди, аналогично различным группам продуктов питания, учитывая, сколько их потребляется, как они могут стать “ультраобработанными” из-за алгоритмов и потенциального воздействия на психическое и физическое здоровье.
• Наставничество по принципу “равный-равному”, позволяющее старшим учащимся работать со своими младшими сверстниками и помогающее вовлекать мальчиков в дискуссии о женоненавистничестве.
• Содействие более широкой осведомленности родителей и сообщества в целом об алгоритмических процессах.

Поделиться ссылкой