Facebook Papers: о чем говорится во внутренних документах и что ответил Цукерберг

Сегодня в мире обсуждают новые слитые документы и исследования, опубликованные 17 американскими СМИ по Facebook. Напомним, что материалы прессе предоставила бывший менеджер по продукту компании Фрэнсис Хауген. Например, в публикациях говорится, что алгоритмы соцсети специально продвигают посты с «недостоверной информацией и кликбейтами», а Instagram вредит самооценке подростков, вызывая суицидальные мысли. Попробуем разобраться немного подробнее, о чем идет речь в статьях.

Молодая аудитория

Facebook искусственно завышает количество пользователей среди молодой аудитории – подростков и «молодых взрослых». Отток этой аудитории идет уже несколько лет – на 26%, а соцсеть учитывает создание новых учетных записей, которые, по сути, являются дублирующимися. Facebook это опровергает.

Во внутренней презентации в начале этого года сотрудники отметили, что подростки проводят в TikTok в 2–3 раза больше времени, чем в Instagram, и что Snapchat является предпочтительным методом общения с друзьями. В итоге выдвигается предположение: «Большинство молодых людей воспринимают Facebook как место для людей от 40 до 50». Также в презентациях говорится о том, что 7% подростков сообщают, что сталкивались с издевательствами в Instagram, и что 40% всех издевательств происходили в личных сообщениях. В итоге новые зарегистрированные пользователи делают профили закрытыми. На что Facebook хочет внести «подталкивающие» изменения в продукт, чтобы побудить больше молодых пользователей сделать свои учетные записи такими.

Разжигание ненависти

Марк Цукерберг осознавал, что проблема разжигания ненависти в соцсети гораздо острее, чем они это признают публично. Из внутренних документов следует, что Facebook удаляет не более 5% ненавистнических высказываний на платформе. Соцсеть в свою очередь говорит, что эти данные искажены, и на самом деле это 97%.

В презентации от апреля 2020 года отмечается, что удаление контента из Facebook привело к сокращению общей распространенности графического насилия примерно на 19%, наготы и порнографии примерно на 17% и языка ненависти примерно на 1%. Файл от марта 2021 года еще более пессимистичен. В нем исследователи компании подсчитали, что «мы можем отреагировать всего на 3-5% ненависти и ~ 0,6% в Facebook, несмотря на то, что мы в этом лучшие в мире».

Reuters пишет, что Facebook игнорировала проблемы разжигания ненависти и экстремизма в развивающихся странах, например в Мьянме. Произошло это из-за того, что FB нанимала мало модераторов, знающих местные языки.

Алгоритмы

Документы показывают, что изучение влияния изменения алгоритма стало приоритетной задачей для многих сотрудников Facebook. В исследовании, опубликованном внутри организации в декабре 2019 года, говорится, что алгоритмы «не нейтральны», а вместо этого ценят контент, который вызовет любую реакцию, в результате чего «возмущение и дезинформация с большей вероятностью будут вирусными».

Во внутреннем сообщении в августе 2020 года исследователь Facebook раскритиковал систему рекомендаций, которая предлагает страницы и группы, которым люди могут следовать, и сказал, что она может «очень быстро привести пользователей по пути к теориям и группам заговора».

Инструменты

The New York Times утверждает, что руководство Facebook знало, что два основных инструмента соцсети – Like и Share – ускоряют распространения языка вражды. Это было указано во внутреннем исследовании FB, где эта проблема была названа «побочным ущербом». Там же говорится, что если они не исправят ситуацию, то это приведет к «дальнейшему продвижению таких видов контента».

Торговля людьми

CNN удалось обнаружить, что Facebook используют для торговли людьми. И компания не делает достаточно, чтобы такое прекращать. Даже журналистам CNN удавалось находить такие объявления — они удалялись после того, как в Facebook отправлялись соответствующие запросы.

Количество сотрудников

Исходя из внутренних документов, команда Facebook просто не может модерировать весь контент. Модерацией занимается около 15 000 человек на 70 языках. При этом Facebook предоставляет свой сервис пользователям на 110 языках, а диалектов, которые используются в постах — еще больше.

В целом документы раскрывают, что сотрудники Facebook выступали за изменения в работе социальной сети и часто обвиняли руководителей в том, что они мешают работе и исследованиям.

Что ответил Цукерберг?

Основатель платформы назвал опубликованное расследование попытками оклеветать Facebook:

«Большие компании должны проходить проверки, но происходящее сейчас похоже на скоординированные усилия по созданию ложного представления о Facebook».

Он отметил, что открытая позиция Facebook заключается в том, что они поощряют обсуждения и исследования своей работы, чтобы компания развивалась. При принятии решений им приходится учитывать конкурирующие социальные аспекты, пояснил он. Например, при уменьшении вредоносного контента принимать в расчет свободу мысли, при обеспечении конфиденциальности — оказание поддержки правоохранительным органам.

«Добросовестная критика помогает нам стать лучше. Но, на мой взгляд, то, что мы видим сейчас, это скоординированные усилия по выборочному использованию утекших документов с целью представить искаженную картину о нашей компании.

Легко заявить, что мы не разрешаем эти компромиссы, потому что мы просто сосредоточены на зарабатывании денег, но на самом деле эти вопросы касаются в первую очередь не нашего бизнеса, а баланса сложных социальных ценностей. И я неоднократно призывал к регулированию, чтобы внести ясность, потому что я думаю, что компании не должны принимать так много подобных решений самостоятельно», — подчеркнул Цукерберг.

Все статьи собраны здесь.