Facebook тестирует новое программное обеспечение по противодействию распространению пропаганды экстремизма и терроризма в соцсети, передает ТАСС со ссылкой на компанию.
Испытываемые технологии опираются на элементы искусственного интеллекта и позволяют реже задействовать людей для решений о том, нужно ли удалять или блокировать запрещенный контент.
«Контекст имеет первостепенное значение в тех случаях, когда мы имеем дело с визуальным изображением, касающимся терроризма… Для нас технология является важной составной частью выявления и предупреждения о появлении такого контента. При этом именно люди обладают бесценной возможностью правильно понимать контекст», — сказала начальник департамента глобальной политики управления компании Моника Бикерт.
В Facebook отметили, что новое ПО, предназначенное для поиска экстремистского контента, специалисты испытывают уже несколько месяцев. Один из алгоритмов позволяет выявлять аккаунты с таким контентом и автоматически препятствовать их появлению после блокировки. Другой механизм опирается на технологию искусственного интеллекта, обученного распознавать нюансы речи.
В компании отметили, что за счет такой автоматизации снижается количество случаев, когда требуется вмешательство модератора Facebook, чтобы принять окончательное решение об удалении учетной записи или контента.