Антисоціальна мережа. Як компанія Марка Цукерберга перетворилась на цифрову імперію злаТа чи зможе Facebook подолати кризу, викликану публікацією досьє The Facebook Papers?Існування Facebook тісно пов’язане зі скандалами та викриттями — численні витоки даних, Cambridge Analytica та звинувачення в маніпуляції виборами , робота російської «фабрики тролів». Це лише частина проблем Facebook, про які ставало відомо широкому загалу. Попри все, соцмережа Цукерберга залишалася найбільшою соціальною платформою світу і нарощувала аудиторію та прибутки.
Проте зараз компанія переживає чи не найбільшу кризу за свою 17-річну історію. І зовсім не очевидно, що зможе її подолати без глобальних наслідків для майбутнього. Останні викриття можуть активізувати розслідування діяльності Facebook з боку антимонопольних органів і спонукати американських регуляторів до більш жорстких кроків стосовно імперії Марка Цукерберга. Все це, на фоні практично знищеної репутації компанії та старіння аудиторії соцмережі, може призвести до наслідків, які ще два роки тому було важко уявити: Facebook ризикує втратити лідерство в інтернет-світі.
The Facebook Papers: як журналісти 17 видань намагались зрозуміти Facebook Наприкінці вересня Френсіс Хоген (Frances Haugen), колишня співробітниця Facebook, оприлюднила документи, які стосувалися внутрішньої «кухні» компанії. На основі цих документів журналісти розповіли про проблеми Facebook, пов’язані з негативним впливом платформи на її користувачів та суспільство загалом. 5 жовтня Хоген давала свідчення перед Конгресом, пояснюючи, як працюють продукти Facebook.
Проте її повідомлення виявилися лише частиною секретів Facebook. Журналісти 17 американських видань об’єднались в групу, яка вивчала документи, передані їм Френсіс Хоген. Результатом їхнього аналізу стала серія публікацій під назвою The Facebook Papers.
25 жовтня медіа почали публікувати нові матеріали за результатами аналізу The Facebook Papers. Ці історії базуються не лише на даних, отриманих Хоген, але й на свідченнях та дописах співробітників компанії. Chas News проаналізував частину опублікованих матеріалів The Facebook Papers та виокремив найголовніші проблеми соціальної мережі, описані в них.
Втім, оприлюднення результатів аналізу The Facebook Papers ще триває і зрозуміти весь масштаб проблем, які супроводжували роботу соцмережі, можна буде лише згодом.
Мовні історії FacebookОднією з найбільш серйозних проблем соцмережі стала модерація контенту. Компанію часто звинувачують в тому, що вона не справляється з аналізом контенту у неангломовних версіях. Після 2017 року, коли платформу звинуватили у підтримці геноциду у М’янмі, Facebook пообіцяв тратити більше грошей на модерацію. Проте ситуація практично не змінилась.
У документах The Facebook Papers йдеться про те, що компанія має дуже мало модераторів, які володіють арабськими діалектами. Це викриття доповнив нещодавній скандал навколо того, що деякі неангломовні модератори (серед них і ті, що працюють з матеріалом українською мовою), отримують дуже невеликі гроші. Через це компанія не справляється з потоками фейків, маніпуляцій і мови ненависті в окремих країнах.
Однією з жертв такого контенту стала цьогорічна нобелівська лауреатка Марія Ресса, яка зіткнулася з потоками звинувачень, образ та погроз від найнятих тролів, з якими Facebook особливо нічого не робив, не дивлячись на її постійні скарги.
В одному з документів згадується, що 87% бюджету на розробку алгоритмів виявлення фейків та маніпуляцій компанія тратила на США і лише 13% — на алгоритми для мов інших країн.
Алгоритмічні історії FacebookДекілька документів показують, що у самому Facebook не зовсім розуміють, як працюють алгоритми відбору та рекомендації контенту. Проте в компанії знали, що «основні системи Facebook дійсно демонстрували системні упередження, що ґрунтуються на расі користувача».
У The Facebook Papers є документ дослідників, які оцінили, що Facebook реагує лише на 3-5% повідомлень про мову ненависті і на 0,6% матеріалів з елементами насилля. В цьому ж документі представники компанії визнають, що їй ніколи не вдасться подолати рубіж блокування 10-20% повідомлень з hate-speech через те, що алгоритми не можуть зрозуміти контекст повідомлення і оцінити контент, на який потрібно реагувати.
Для керівництва Facebook не було секретом і те, що кнопки Like та Share сприяли посиленню мови ненависті. У записці під назвою «Що таке побічні втрати» (What Is Collateral Damage) йшлося про те, що коли проблему з цими кнопками не виправити, вона лише посилиться в майбутньому.
Facebook та напад на КапітолійЩе одна серйозна провинність Facebook — занадто повільна реакція на маніпулятивний та фейковий контент 6 січня 2021 року, день нападу на Капітолій прихильниками Дональда Трампа.
Внутрішні документи показали, що у компанії не було чіткої схеми роботи з контентом, який делегітимізував вибори у США. Такого роду повідомлення Facebook відніс до «шкідливих, які не порушують правил» і практично не реагував на них.
У внутрішніх чатах співробітники Facebook скаржилися на те, що вони постійно рекомендували компанії, як їй краще реагувати на спірний вміст, в тому числі на насильницькі заяви прихильників Qanon. Проте керівництво або не реагувало на ці пропозиції, або стримувало надто активних працівників.
Ввечері 5 січня, перед атакою на Капітолій, фахівці з аналізу контенту бачили наростання фейкових та маніпулятивних повідомлень, пов’язаних з результатами виборів у США. Проте вони вчасно не отримали дозвіл реагувати на це, а вказівки керівництва були доволі розпливчаті.
Сіра зона контенту та політика «почекаємо й побачимо»В документах The Facebook Papers часто згадується поняття «сірої зони контенту» — тобто шкідливих матеріалів, які явно не порушують правила Facebook. Серед них були й дописи тих, хто підтримав напад на Капітолій 6 січня. Також до цієї категорії належить контент, в якому висловлюються сумніви в доцільності вакцинації.
В таких випадках Facebook часто не реагує або послуговується принципом свободи слова, залишаючи ці матеріали на платформі. Реакція на такі дописи ускладнюється ще й існуванням контексту, який може змінювати суть опублікованого або мати різне значення в різних культурах. Втім, фахівці з обробки даних попереджали компанію: «сірий контент» є серйозною проблемою, «що вимагає нових рішень».
Ще одна серйозна проблема компанії стосовно спірного наповнення — політика «почекаємо й побачимо» замість проактивної реакції на дезінформацію, про яку так любить говорити Цукерберг. Ця політика передбачає, що компанія не вирішує проблеми, поки вони не стануть дійсно серйозними. Саме такий підхід і перетворив Facebook у одну з основних платформ координації дій під час нападу на Капітолій 6 січня.
Facebook-брехня про аудиторіюВажливою проблемою, про яку стало відомо з The Facebook Papers, та про яку говорила Френсіс Хоген, стали дані стосовно використання Instagram. Саме цей продукт перетворився на флагманський у тріумвіраті Facebook-Instagram-WhatsApp і саме в його розвиток компанія активно інвестувала останнім часом. Проте, як виявилось, використання Instagram зменшується, а загалом аудиторія Facebook старішає: молоді люди вибирають альтернативні соцмережі і не хочуть користуватися платформою, яка викликає у них негативні емоції.
Instagram втрачає молоду аудиторію уже декілька років. У компанії про це знали, але замовчували статистику, обманюючи інвесторів. Facebook рапортувала про гарні показники зростання, «малюючи» результати за рахунок включення у статистику профайлів-дублікатів вже існуючих користувачів Instagram, які отримали назву Finstas — fake instagrams. Ці профайли використовувались як допоміжні або для управління іншими акаунтами.
Статистика The Facebook Papers свідчить, що у реальності з 2019 року число користувачів Instagram серед підлітків у США зменшилось на 13% і, за прогнозами, у найближчі два роки знизиться ще на 45%. Також падіння очікується серед аудиторії віком 20-30 років, щоправда, лише на 4%.
У внутрішніх документах ці дані названі серйозною проблемою і зазначено, що якщо ситуація не зміниться, то компанія може втратити ціле покоління користувачів.
Примарне майбутнє соціального гігантаЦе лише деякі з негараздів, виявлені The Facebook Papers. Журналісти знайшли докази і того, що компанія знала, що її платформи використовують для торгівлі людьми, але усвідомлювала, що обмеження деяких її функцій негативно вплине на прибуток, тому не реагувала. Підтвердилась і історія про «білий список» користувачів, яким дозволялось порушувати правила соцмережі.
Видається, що бідам компанії, заснованої в кімнаті гуртожитку студентом Марком Цукербергом, не видно кінця. Уже відомо, що Сенат активізує розслідування діяльності Facebook і чекає показань від її генерального директора.
Проте, якщо абстрагуватись від діяльності регуляторів, котрі спробують зрозуміти, як реагувати на ці викриття і що робити з соціальним монстром, виникає запитання: чи здатен Facebook взагалі змінитись і перестати бути найбільш маніпулятивним та одним з найбільш небезпечних онлайн-сервісів? Чи він перетворився на колоса на глиняних ногах, що створив світ, яким не здатен управляти?
CHAS.NEWS
