Facebook усовершенствует систему фильтрации видеотрансляций после теракта в Крайстчерче»

Новозеландское новостное агентство www.nzherald.co.nz опубликовало письмо от исполнительного директора Facebook Шерил Сандберг, в котором она рассказывает, как компания противодействовала вирусному распространяю видеоматериалов, связанных с терактом в Крайстчерче двумя неделями ранее.

Сандберг охарактеризовала нападение как «акт чистого зла» и заверила, что компания «намерена тщательно проанализировать, что произошло», в сотрудничестве с властями Новой Зеландии. Незадолго после теракта социальная сеть Facebook сообщила, что они удалили 1,5 миллиона видеороликов о нападении загружаемых по всему миру, 1,2 миллиона из которых были заблокированы «при загрузке». В своём письме Сандберг говорит, что в то время как Facebook лишь оперативно удалил аккаунт и видео злоумышленника, компания могла бы сделать большее, и изложила три шага, которые предпримет компания, чтобы противодействовать развитию насилия и нетерпимости в любом виде.

Первым шагом является то, что в Facebook «изучают способы ограничить возможность для видеотрансляций пользователям, которые ранее нарушали стандарты о недопустимости насилия в публикуемых материалах», и что компания намерена вложить больше ресурсов в автоматические системы, которые смогут идентифицировать видео с актами насилия ещё на момент их загрузки в социальную сеть, даже если перед этим они будут каким-либо образом отредактированы. Сандберг отметила, что они нашли более 900 вариаций видео об атаке в Крайстчерч, пока Facebook делал всё возможное, что не допустить их распространение в сети.

Второй шаг — предпринять «ещё более решительные меры для устранения недопустимого контента на нашей платформе». После упомянутого теракта Facebook вскоре объявила о том, что соцсеть запрещает публикацию любых националистических и сепаратистских материалов, и будет перенаправлять людей, ищущих подобную информацию в социальной сети, на специализированные ресурсы, помогающие людям выйти из пропагандирующих насилие организаций. Сандберг сообщает о том, что в последнее время компания удалила множество тематически групп, уличенных в распространении подобной запрещённой информации, а также превентивно заблокировала возможность для «лайков» сообществ, заподозренных в этом.

Последний шаг, который описывает Сандберг, заключается в том, что компания оказывает поддержку «четырём местным организациям, занимающимся вопросами благосостояния и психического здоровья» в Новой Зеландии.

В письме Сэндберг не даёт конкретных указаний на то, что подразумевается под «улучшением системы фильтрации» для видеотрансляций в реальном времени, хотя похоже, что в своём первичном варианте ограничения будут основываться на информации о прошлом поведении пользователя в социальной сети. То есть если человек ранее нарушал стандарты для публикуемых материалов сообщества Facebook, то начать онлайн-трансляцию у него уже не получится.

Facebook усовершенствует систему фильтрации видеотрансляций после теракта в Крайстчерче"

Напомним, что ранее в этом месяце один из исполнителей нападений на мечети в Крайстчерче снимал весь акт беспрецедентной бойни в прямом эфире, а затем загрузил видеоролик в Facebook, YouTube, Twitter и Instagram с целью сделать его вирусным. В то время как первое видео посмотрели менее 200 людей, технологические компании боролись с его дальнейшим распространением. Впервые с подобной ситуацией Facebook столкнулась в недавнем прошлом, когда в 2017 году житель американского города Кливленд провел трансляцию с убийством в прямом эфире и загрузил видео на свою страницу, где оно оставалось в открытом доступе в течение нескольких часов.


Facebook усовершенствует систему фильтрации видеотрансляций после теракта в Крайстчерче»