Facebook усиливает санкции для групп, нарушающих правила, и их членов

Сегодня утром Facebook объявил, что ужесточит штрафы за нарушающие правила группы Facebook и их участников, а также внесет другие изменения, призванные уменьшить видимость потенциально опасного контента групп. Компания заявляет, что теперь удалит гражданские и политические группы из своих рекомендаций на рынках за пределами США и еще больше ограничит охват групп и членов, которые продолжают нарушать ее правила.

Изменения последовали за постоянным, но медленным и иногда неэффективным подавлением групп Facebook, которые производят и распространяют вредный, поляризующий или даже опасный контент.

В преддверии выборов в США Facebook ввел ряд новых правил, призванных наказать тех, кто нарушает стандарты сообщества или распространяет дезинформацию через группы Facebook. Эти правила в значительной степени возлагают больше ответственности на сами группы и наказывают лиц, нарушающих правила. Facebook также прекратил рекомендовать группы здоровья, чтобы подтолкнуть пользователей к официальным источникам медицинской информации, в том числе информации о Covid-19.

В январе этого года Facebook сделал более значительный шаг против потенциально опасных групп. Он объявил, что исключит гражданские и политические группы, а также вновь созданные группы из своих рекомендаций в США после восстания в Капитолии США 6 января 2021 года (ранее он временно ограничил эти группы до США. выборы.)

Как сообщает WSJ, когда эта политика стала постоянной , внутреннее исследование Facebook показало, что группы Facebook в США поляризуют пользователей и разжигают призывы к насилию, которые распространяются после выборов. Исследователи заявили, что примерно 70% из 100 самых активных гражданских групп Facebook в США имеют проблемы с ненавистью, дезинформацией, издевательствами и преследованиями, которые должны сделать их нежелательными, что привело к репрессиям в январе 2021 года.

Сегодня та же политика распространяется на глобальную базу пользователей Facebook, а не только на пользователей Facebook в США.

Это означает, что в дополнение к группам здоровья пользователям со всего мира не будут «рекомендовать» гражданские или политические группы при просмотре Facebook. Однако важно отметить, что рекомендации — это лишь один из многих способов, с помощью которых пользователи могут найти группы Facebook. Пользователи также могут найти их в поиске, по ссылкам, которые публикуют люди, в приглашениях и личных сообщениях друзей.

Кроме того, Facebook заявляет, что группы, у которых возникли проблемы из-за нарушения правил Facebook, теперь будут отображаться ниже в рекомендациях — своего рода наказание за понижение рейтинга, которое Facebook часто использует для уменьшения видимости контента новостной ленты.

Компания также увеличит штрафы против групп, нарушающих правила, и их отдельных членов посредством множества других принудительных мер.

Например, пользователи, которые пытаются присоединиться к группам, которые имеют историю нарушения Стандартов сообщества Facebook, будут предупреждены о нарушениях группы с помощью предупреждающего сообщения (показанного выше), что может заставить пользователя пересмотреть свое решение о присоединении.

Группы, нарушающие правила, будут иметь ограниченные уведомления о приглашениях, и текущие участники начнут видеть меньше контента групп в своей ленте новостей, поскольку контент будет отображаться ниже. Эти группы также будут понижены в рекомендациях Facebook.

Когда в группу входит значительное количество участников, которые нарушили политику Facebook или участвовали в других группах, которые были закрыты из-за нарушений стандартов сообщества Facebook, сама группа должна будет временно утвердить новые сообщения всех участников. И если администратор или модератор неоднократно одобряет контент, нарушающий правила, Facebook удаляет всю группу.

Это правило направлено на решение проблем, связанных с группами, которые повторно формируются после бана, только для того, чтобы возобновить свое плохое поведение без контроля.

Последнее изменение, о котором объявлено сегодня, касается членов группы.

Когда кто-то повторяет нарушения в группах Facebook, ему временно запрещается публиковать сообщения или комментировать в любой группе, ему не разрешается приглашать других присоединиться к группам, и он не сможет создавать новые группы. Facebook заявляет, что эта мера направлена ​​на то, чтобы снизить охват злоумышленников.

Новые политики дают Facebook возможность более прозрачно задокументировать плохое поведение группы, которое привело к ее окончательному закрытию. Этот своего рода «бумажный след» также помогает Facebook уклоняться от обвинений в предвзятости, когда дело доходит до принудительных действий — обвинение, которое часто выдвигается критиками Facebook справа, которые считают, что социальные сети настроены против консерваторов.

Но проблема с этими политиками в том, что они по-прежнему в конечном итоге пощечины тем, кто нарушает правила Facebook — не так уж сильно отличается от того, что пользователи сегодня в шутку называют « тюрьмой Facebook ». Когда отдельные лица или страницы Facebook нарушают стандарты сообщества Facebook, им временно запрещается взаимодействовать на сайте или использовать определенные функции. Facebook сейчас пытается воспроизвести эту формулу с изменениями для групп Facebook и их участников.

Есть и другие проблемы. Во-первых, эти правила полагаются на Facebook, чтобы фактически обеспечивать их соблюдение, и неясно, насколько хорошо он сможет это сделать. Во-вторых, они игнорируют одно из ключевых средств группового обнаружения: поиск. Facebook утверждает, что здесь он ставит под вопрос низкое качество результатов, но результаты его усилий явно неоднозначны.

Например, хотя прошлой осенью Facebook сделал широкие заявления о запрете контента QAnon на своей платформе в ходе подавления дезинформации, все еще можно искать и находить контент, смежный с QAnon, — например, группы, которые не имеют названия QAnon, но обслуживают стили в стиле QAnon. патриоты »и заговоры).

Аналогичным образом, поисковые запросы по таким словам, как «антивакс» или «ковидная мистификация», также могут направлять пользователей к проблемным группам — например, к группе людей, которые «не являются противниками вакцин в целом», но являются «просто анти-РНК», название группы объясняет; или группа «родители против вакцин»; или группа «ненавистников вакцины», которая предлагает распространять «НАСТОЯЩУЮ информацию о вакцинах». (Мы сообщили об этом во вторник, перед объявлением Facebook.)

Ясно, что это не официальные ресурсы здравоохранения, и в противном случае они не были бы рекомендованы Facebook, но их легко найти с помощью поиска в Facebook. Однако компания принимает более жесткие меры против дезинформации о вакцинах Covid-19 и Covid — она ​​заявляет, что удалит страницы, группы и аккаунты, которые неоднократно делятся опровергнутыми заявлениями, и в противном случае снижает их рейтинг.

Facebook, чтобы быть ясно, в полной мере способен использовать сильные технические средства блокирования доступа к содержимому.

Он запретил, например, «прекратить воровство» и другие заговоры после выборов в США. И даже сегодня поиск по группе «остановить кражу» просто возвращает пустую страницу, в которой говорится, что результатов не было.

Так почему же поиск по запрещенной теме, такой как «QAnon», вообще должен что-то возвращать?

Зачем нужен «обман covid»? (Смотри ниже)

Если бы Facebook захотел расширить свой список проблемных поисковых запросов и вернуть пустые страницы для других типов вредоносного контента, он мог бы это сделать. Фактически, если бы он хотел вести черный список URL-адресов, которые, как известно, распространяют ложную информацию, он мог бы это сделать. Это может помешать пользователям повторно публиковать сообщения, содержащие эти ссылки. Это может сделать эти сообщения закрытыми по умолчанию. Он может помечать пользователей, которые неоднократно нарушают его правила, или некоторые подмножества этих правил, как пользователей, которые больше не могут делать свои сообщения общедоступными … когда-либо.

Другими словами, Facebook мог бы сделать многое,  если бы действительно хотел оказать значительное влияние на распространение дезинформации, токсичности, поляризации и иного вредного контента на своей платформе. Вместо этого он продолжает постепенно вводить временные наказания и те, которые часто направлены только на «повторяющиеся» нарушения, такие как те, о которых было объявлено сегодня. Это, возможно, больше штрафов, чем было раньше, но также, возможно, недостаточно.