Датские ученые провели исследование, которое показало, что Instagram не удаляет опасный контент о членовредительстве. Алгоритмы соцсети активно способствуют распространению таких материалов среди подростков.
Датские ученые заявили, что социальная сеть компании Мeta активно способствует распространению контента о самоповреждениях, не удаляя откровенные изображения и призывая пользователей таких публикаций подружиться. Об этом сообщает УНН со ссылкой на The Guardian.
Детали
Датские исследователи создали частную сеть членовредительства на платформе социальных сетей, включая поддельные профили людей в возрасте 13 лет и старше, в которых они поделились 85 материалами, связанными с членовредительством, которые постепенно росли, включая кровь, лезвия бритвы и призывы к членовредительству.
Целью исследования была проверка заявления компании Meta о том, что она значительно улучшила свои процессы удаления вредоносного контента с помощью искусственному интеллекту. Технологическая компания утверждает, что удаляет около 99% вредоносного контента до того, как об этом сообщают.
Однако организация Digital Ansvar, которая обеспечивает соответствующее цифровое развитие, обнаружила, что в ходе эксперимента, который длился месяц, ни одно такое опасное изображение не было удалено.
По словам представителей Digital Ansvar, недостаточная модерация платформы свидетельствует о несоблюдении ею законодательства ЕС.
Закон О цифровых услугах требует от крупных цифровых услуг выявления системных рисков, включая прогнозируемые негативные последствия для физического и психического благополучия.
Контент, поощряющий членовредительство противоречит нашей политике, и мы удаляем его, когда обнаруживаем. В первой половине 2024 года мы удалили более 12 миллионов материалов, связанных с самоубийством и членовредительством в Instagram, 99% из которых мы удалили проактивно
– заявили представители компании Meta.
Однако исследования специалистов Дании показали, что вместо того, чтобы пытаться закрыть сеть о членовредительстве, алгоритм Instagram активно помогал ей распространять. Исследование показало, что 13-летние подростки дружат со всеми членами группы о членовредительстве после того, как они начинают контактировать с одним из ее участников.
В исследовании говорится, что " это говорит о том, что алгоритм Instagram активно способствует формированию и распространению сетей членовредительства.
Напомним
Владелец Facebook Meta Platforms должен предстать перед судом по иску Федеральной торговой комиссии США, требующему его разделения из-за утверждений о том, что он купил Instagram и WhatsApp, чтобы подавить растущую конкуренцию в социальных сетях.
