Чорна Meta: з чим пов'язана чергова атака американської влади на корпорацію Цукерберга

Версия для печати

Минулого тижня юристів Meta накрила лавина судових позовів, одночасно поданих генеральними прокурорами 41 штату США та Федерального округу Колумбія. Звинувачення у всіх випадках практично ідентичні: цифровий гігант та його головні платформи — Instagram і Facebook — навмисне використовують маніпулятивні техніки для утримання дитячої та підліткової аудиторії, завдають шкоди дітям, отримуваючи при цьому комерційну вигоду. Це не перша подібна атака на одну з найбільших американських корпорацій, але безпрецедентна за своїми масштабами.

Видання novayagazeta.eu розбирається, із чим пов'язане загострення прокурорської активності та які її можливі наслідки.

«Meta використовувала потужні технології, щоб спокушати, залучати і зрештою заманювати в пастку молодь та підлітків. […] Прагнучи максимізувати прибуток, Meta неодноразово вводила громадськість в оману щодо безпеки своїх соціальних мереж», - говорить 233-сторінковий колективний федеральний позов, поданий 24 жовтня до суду Північної Каліфорнії за підписом генеральних прокурорів Каліфорнії, Нью-Йорка, Пенсільванії та ще трьох десятків штатів. Обвинувачі також стверджують, що використання соціальних мереж Meta пов'язане з «депресією, занепокоєнням та безсонням». Інший важливий пункт звинувачення — підконтрольні Meta соцмережі, порушуючи закон, збирають дані про дітей віком до 13 років без згоди батьків. При цьому корпорація не відмовляється від використання небезпечних функцій, натомість «подвоївши зусилля щодо приховання їхнього впливу». Одночасно з колективним позовом у Каліфорнії вісім генпрокурорів штатів направили аналогічні позови до судів місцевої юрисдикції, а прокурор Флориди подав окремий федеральний позов.

У кожному випадку обвинувачі вимагають від Meta припинити використовувати «шкідливі алгоритми», які спонукають дітей і підлітків годинами безперервно сидіти в соцмережах, відмовитися від незаконного збору персональних даних дітей без батьківської згоди, а також заборонити особам молодше 13 років реєструвати свої акаунти. Коротко кажучи, успіх звинувачення в суді означатиме для корпорації не лише багатомільйонні штрафи, загальну суму яких поки що ніхто не передбачається передбачити.

Йдеться про те, щоб підірвати саму бізнес-модель Meta, засновану на утриманні аудиторії та продажу реклами.

«Цей позов спрямований на те, щоб покласти край експлуатації Meta молоді та відшкодувати збитки, які вона завдала цілому поколінню», — заявив генеральний прокурор округу Колумбія Брайан Швальб. Свій позов він супроводжував даними окружного Управління державного суперінтенданту освіти (OSSE), згідно з якими понад 70% учнів середніх шкіл округу проводять перед екранами своїх смартфонів понад три години на день, близько половини старшокласниць відчувають при цьому постійне почуття безнадійності, а 28% учнів серйозно розглядають можливість самогубства.

Представник Meta прокоментував численні звинувачення черговими фразами про те, що корпорація прагне надати підліткам «позитивний та безпечний досвід в Інтернеті», запровадивши для цього понад 30 інструментів. У той же час він нарік, що генеральні прокурори обрали шлях судового позову замість того, щоб у співпраці з компаніями галузі працювати над створенням чітких стандартів, що відповідають віку користувачів.

«Facebook розриває суспільство на частини»

Як зазначає економічний оглядач CNN Елісон Морроу, нинішня атака на Meta — частина стратегії американської влади щодо приборкання технологічних гігантів, яким роками вдавалося уникати держрегулювання та заробляти мільярди, не в останню чергу завдяки потужним лобістським можливостям. Переломний момент стався у 2021 році, коли дата-інженер Facebook Френсіс Хаген оприлюднила величезний архів внутрішніх документів компанії, включаючи результати досліджень щодо впливу соціальних мереж на підлітків. На ці документи, що стали основою для серії викривальних матеріалів у Wall Street Journal, значною мірою спирається і на нинішнє звинувачення.

Дата-інженер Facebook Френсіс Хаген. Фото: Al Drago / Bloomberg / Getty Images

Цензурні послаблення для окремих категорій високопоставлених користувачів, застосування алгоритмів, що поляризують суспільство та розпалюють ненависть, недостатню увагу керівництва компанії до широкого використання її соцмереж наркокартелями та терористичними організаціями — ось лише кілька прикладів розкритих порушень.

Facebook у найдрібніших подробицях знає, що його платформи пронизані недоліками, які завдають шкоди, причому такими способами, які повністю зрозумілі тільки компанії. Документи показують, що у Facebook знову і знову виявляли негативні наслідки використання своїх платформ, але, незважаючи на слухання в Конгресі, власні обіцянки та численні викриття не виправляли їх», — писали журналісти WSJ.

Одне з опублікованих досліджень показало, що Instagram згубно впливає на підлітків, які «усвідомлюють, що проводити в соцмережі багато часу шкідливо для їхнього психічного здоров'я, але при цьому не можуть зупинитися».

Приблизно третина дівчаток-учасниць опитування підтвердили, що коли вони погано себе почували через своє тіло, Instagram «примушував їх почуватися ще гірше».

13,5% дівчаток заявили, що Instagram посилює їхні думки про самогубство.

За словами Френсіс Хаген, проблеми почалися в 2018 році, коли Facebook і Instagram почали використовувати алгоритми, що формують стрічку з постів та повідомлень, аналогічних тим, на які користувач реагував активніше. Власні дослідження корпорації показали, що такий контент найчастіше пов'язаний із негативними емоціями: заздрістю, агресією, ненавистю. Іншими словами, соцмережі почали безпосередньо використовувати людські вади, щоб утримувати аудиторію.

«Коли ми живемо в інформаційному середовищі, повному злісного контенту, що поляризує суспільство, це руйнує нашу взаємну довіру, віру в один одного. Нинішня версія Facebook просто розриває суспільство на частини», - говорила Хаген у першому публічному інтерв'ю після своїх викриттів.

Лінія захисту

Віце-президент Facebook Нік Клегг відкинув більшу частину цих звинувачень. Він написав, що журналісти навмисно спотворили дійсність, відібравши потрібні цитати з досліджень компанії. Сам Марк Цукерберг також не залишився осторонь дискусії, що розгортається, вказавши на логічні вади в міркуваннях Хаген і авторів Wall Street Journal.

«Ми заробляємо гроші на рекламі, і рекламодавці постійно говорять нам, що не хочуть, щоб їхня реклама сусідила зі шкідливим чи викликаючим гнів контентом. […] До того ж, якби ми хотіли ігнорувати дослідження, навіщо нам створювати дослідницьку програму, що веде в галузі?» - писав засновник Facebook.

Віце-президент Facebook Нік Клег. Фото: EPA-EFE / ETIENNE LAURENT

Як приклад своїх добрих намірів він навів впроваджену в стрічку Facebook функцію «Соціально значущі взаємодії», завдяки якій користувачі бачили більше контенту від друзів та сім'ї та менше популярних вірусних роликів.

"Хіба це те, що зробила б компанія, орієнтована на прибуток, а не на людей?" - Запитував Цукерберг своїх критиків.

Як рішення він запропонував не чинити тиск на окремі компанії, а загалом переглянути галузеві правила, зокрема вік, з якого підлітки мали право користуватися інтернет-сервісами.

Втім, за даними авторів колективного позову, після скандальних публікацій керівництво Facebook не тільки нічого не зробило для зниження негативних наслідків від його алгоритмів, але спробувало заткнути рота своїм науковим співробітникам, розпустивши кілька дослідницьких груп і посиливши контроль над даними досліджень.

Гуманна цифрова інфраструктура

Дані про згубний вплив соціальних мереж, якому особливо схильні діти та підлітки, останніми роками з'являються регулярно.

Джарон Ланьє, колишній співробітник Microsoft, футуролог та автор терміна «віртуальна реальність», у бестселлері «Десять аргументів видалити свої акаунти в соціальних мережах» пояснює, як соцмережі використовують ефект випадкового підкріплення: залежність формується не винагородою, а, як в азартних іграх, його очікуванням, коли гравець не знає точно, чи отримає він цю винагороду.

«Алгоритм намагається вловити ідеальні параметри для маніпулювання мозком, тоді як мозок, щоб знайти глибший зміст, змінюється у відповідь на експерименти алгоритму […] Оскільки дії алгоритму, по суті, випадкові, мозок реагує не на щось реальне, а на вигадку. Цей процес підсаджування на невловимий міраж є залежністю», — пише Ланьє. На його думку, соціальні мережі руйнують особистість, обесмислюють все, що людина пише в інтернеті, розмивають поняття правди та позбавляють людину свободи волі.

Джарон Ланьє: «Десять аргументів видалити свої акаунти в соціальних мережах»

У гучній документальній стрічці «Соціальна дилема», що вийшла три роки тому, на соцмережі обрушується вже ціла плеяда колишніх топ-менеджерів найбільших інтернет-сервісів. Один із них, Трістан Харріс, який відповідав за етичні питання в Google і повністю розчарувався у своїй можливості щось змінити, буквально б'є на сполох.

«Якщо ви подивіться навколо, здасться, ніби світ збожеволів. Ви маєте запитати себе: “Це взагалі нормально? Чи ми всі потрапили під дію якихось злих чарів?” — каже Харріс. Через кілька хвилин він сам відповідає: «Вони [технологічні корпорації] створюють моделі, які передбачають нашу поведінку, і той, чия модель краще, перемагає. У них всього три цілі: залучити, змусити повертатися знову і знову і в результаті зробити на вас і вашій увазі якнайбільше грошей».

Через рік після виходу фільму Харріс, який залишив Google, щоб заснувати свою компанію «Center for Human Technology», дав свідчення в Сенаті США. Він закликав законодавців поставитися до загрози, що походить від соціальних мереж, не менш серйозно, ніж до ядерної.

Харріс вкотре наголосив: зовсім неважливо, скільки агресивних постів чи фейкових акаунтів на день видаляють модератори соцмереж, скільки модераторів наймають корпорації, якщо незайманим залишається сам корінь проблеми — бізнес-модель, яка ґрунтується на утриманні уваги.

«Замість того, щоб оцінювати, чи покращили мої колеги — учасники дискусії з Facebook, Twitter і YouTube свою політику щодо контенту, ми повинні з'ясувати, що в сукупності склало б гуманну західну цифрову демократичну інфраструктуру, яка б зміцнила нашу здатність протистояти цим загрозам. В результаті замість того, щоб заважати нам сконцентруватися, відволікати нас, конкурувати за нашу увагу, ці компанії конкуруватимуть за те, щоб розвинути в нас здатність до критичного мислення, до розуміння один одного та пошуку рішень, що ґрунтуються на загальних принципах», — заявив Харріс сенаторам.

«Для мене це особиста справа»

За словами генерального прокурора Колорадо Філа Вайзера, учасника міжпартійної робочої групи з розслідування ситуації навколо Meta, створеної невдовзі після викриття Френсіс Хаген, нинішні позови — результат невдалих переговорів влади та керівництва компанії. Незважаючи на негласний тиск, Марк Цукерберг і його колеги нібито відмовилися змінювати цифрові платформи таким чином, щоб кардинально знизити шкоду, яку вони завдають.

Вайзер і його колега по робочій групі генпрокурор Теннессі Джонатан Скрметті підтвердили серйозність своїх намірів, пообіцявши, що боротимуться зі згубним впливом соцмереж, так само як свого часу США боролися з тютюном та виробниками тютюнових виробів.

«Я сам батько двох підлітків, для мене це особиста справа. Ми знаємо, що діти страждають і ми повинні їх захистити», - заявив Філ Вайзер.

Прокурор також додав, що судове переслідування Meta – лише початок. Слідом влада зверне увагу на інші великі платформи — YouTube, TikTok і Snapchat.

Вгорі: головний виконавчий директор Meta Марк Цукерберг на форумі Сенату з вивчення штучного інтелекту, Вашингтон, 13 вересня 2023 року. Фото: EPA-EFE / SHAWN THEW

Переклад: «Аргумент»

На цю тему:

• LLaMA: Meta представила власну мовну модель штучного інтелекту
• ЄС наклав найбільший в історії штраф - $1,2 млрд за порушення конфіденційності
• Meta і Google банять українців через правдиве висвітлення війни: владу просять втрутитись
• Цукерберг пожертвует 99% акций Facebook на благотворительность