В четверг компания Instagram сообщила, что начнет предупреждать родителей, если их дети будут неоднократно искать в приложении слова, явно связанные с суицидом или членовредительством. Оповещения будут приходить только тем родителям, которые зарегистрированы в программе родительского контроля Instagram.
Instagram заявляет, что уже блокирует такой контент в результатах поиска для аккаунтов подростков и перенаправляет пользователей на горячие линии.
Это заявление было сделано на фоне того, что Meta находится в центре двух судебных разбирательств по поводу вреда, причиняемого детям. В ходе судебного процесса в Лос-Анджелесе рассматривается вопрос о том, намеренно ли платформы Meta вызывают зависимость у несовершеннолетних и причиняют им вред. В другом процессе, в Нью-Мексико, пытаются выяснить, не допустила ли Meta халатности, не защитив детей от сексуальной эксплуатации на своих платформах. Тысячи семей, а также школьные округа и государственные учреждения подали в суд на Meta и другие социальные сети, утверждая, что они намеренно делают свои платформы вызывающими зависимость и не защищают детей от контента, который может привести к депрессии, расстройствам пищевого поведения и суициду.
Руководители Meta, в том числе генеральный директор Марк Цукерберг, отрицают, что платформы вызывают зависимость. Во время допроса адвокатом истца в Лос-Анджелесе Цукерберг заявил, что по-прежнему согласен с ранее сделанным им заявлением о том, что имеющиеся научные данные не подтверждают, что социальные сети наносят вред психическому здоровью.
Оповещения будут приходить по электронной почте, в виде текстовых сообщений или в WhatsApp, в зависимости от доступных контактных данных родителя, а также в виде уведомлений в его аккаунте в Instagram.
«Наша цель — дать родителям возможность вмешаться, если поисковые запросы их детей указывают на то, что им может понадобиться поддержка. Мы также хотим избежать отправки таких уведомлений без необходимости, поскольку если их будет слишком много, они станут менее полезными», — говорится в блоге Meta.
Джош Голин, исполнительный директор некоммерческой организации Fairplay, скептически отнесся к новому инструменту, заявив, что Instagram «явно делает это сейчас, потому что компания проходит судебное разбирательство в двух штатах по обвинению в том, что она вызывает зависимость у детей и причиняет им вред».
«Meta в очередной раз перекладывает ответственность на родителей, вместо того чтобы исправить опасные недостатки в алгоритмах и платформах, — сказал Голин. — Все дети заслуживают защиты, независимо от того, зарегистрировались ли их родители в системе родительского контроля Meta и пользуются ли ею. Если продукт небезопасен для подростков и требует родительского контроля, его вообще не следует рекламировать среди подростков».
Компания Meta заявила, что также работает над аналогичными уведомлениями для родителей о взаимодействии их детей с искусственным интеллектом.
«Они будут уведомлять родителей, если подросток попытается вести с нашим искусственным интеллектом разговоры определенного типа, связанные с суицидом или членовредительством, — заявили в Meta. — Это важная работа, и в ближайшие месяцы мы расскажем о ней подробнее».
Возврат к списку