Всё чаще компании берут на себя роль государства или разрабатывают продукты, затрагивающие фундаментальные права. К примеру, системы распознавания лиц, которые не регулировались должным образом до того, как были разработаны и внедрены, теперь настолько широко используются, что крадут у людей приватность.

Представляем сокращённый перевод статьи MIT Technology Review о том, что демократические страны должны управлять технологиями и создавать коалицию, иначе они поиграют цифровой мир авторитарным режимам.

**

Ежедневно в соцсетях возникают вопросы вроде «следует ли Twitter цензурировать лживые посты президента, должен ли YouTube [2] бороться с дезинформацией о COVID-19 [3], а Facebook делать больше против разжигания ненависти?». Такие вопросы могут создать впечатление, что главным технологически обусловленным риском для демократии является курирование контента социальными сетями. Однако эти противоречия — только симптомы более серьёзной угрозы захвата власти над цифровым миром.

На эту тему: Цифровой мир - тотальный контроль и никакой приватности [4]

Каждая демократическая страна сталкивается с этой проблемой, но ни одна из них не может решить справиться с ней в одиночку. Нам нужен глобальный демократический альянс, чтобы установить нормы, правила и руководящие принципы для технологических компаний и согласовать протоколы для трансграничной цифровой деятельности, включающей вмешательство в выборы, кибервойну и онлайн-торговлю. Интересы людей представлены лучше, когда коалиции их стран — а не горстка руководителей компаний — определяет условия управления, а механизмы сдержек, противовесов и надзора работают.

Существует длинный список способов, как технологические компании управляют нашей жизнью без особого регулирования. От создания критической инфраструктуры и её защиты до разработки систем искусственного интеллекта и правительственных баз данных — решения, принимаемые в интересах бизнеса, устанавливают нормы и стандарты для миллиардов людей.

Всё чаще компании берут на себя роль государства или разрабатывают продукты, затрагивающие фундаментальные права. К примеру, системы распознавания лиц, которые не регулировались должным образом до того, как были разработаны и внедрены, теперь настолько широко используются, что крадут у людей приватность. Компании систематически собирают персональные данные , часто без согласия людей — и это отраслевая норма, с которой регуляторы не спешат что-то делать.

Почему следует волноваться по этому поводу? Потому что решения, которые компании принимают в отношении цифровых систем, могут не соответствовать демократическим принципам, таким как свобода выбора, честная конкуренция, недискриминация, правосудие и подотчётность. Непредусмотренные последствия технологических процессов, неверные решения или продвигаемые бизнесом правила могут создать серьёзные риски для общественной и национальной безопасности. А власть, которая не подчиняется системе сдержек и противовесов, противоречит основополагающим принципам большинства демократий.

Сегодня технологическое регулирование часто характеризуется как трёхстороннее соревнование между государственными системами в Китае и России, рыночной системой в США и ценностно-ориентированным видением в Европе. Реальность, однако, такова, что существуют только две доминирующие системы управления технологиями: приватизированная компаниями, которая применяется во всём демократическом мире, и авторитарная.

Для того чтобы подчинить себе мировые технологические компании, нам нужно нечто новое —  глобальный альянс, который ставит демократию на первое место.

Принцип невмешательства демократических правительств и их нежелание обуздывать частные компании у себя дома также проявляются на международной арене. Пока демократические правительства в основном позволяли компаниям управлять, авторитарные правительства начали формировать нормы через международные форумы. Этот неудачный сдвиг совпадает с трендом упадка демократии во всём мире, поскольку крупные демократии, такие как Индия, Турция и Бразилия, стали более авторитарными. Без продуманных и незамедлительных усилий по возвращению власти, корпоративные и авторитарные модели управления разрушат демократию повсюду.

Означает ли это, что демократические правительства должны создавать свои собственные платформы социальных сетей, центры обработки данных и мобильные телефоны? Нет. Но они должны срочно вернуть себе роль творцов правил и ограничений, которые поддерживают основные принципы демократии в технологической сфере. Пока что правительства медленно стали делать это с помощью законов на национальном уровне или, в случае Европы, на региональном уровне. Но чтобы подчинить себе технологические компании, охватывающие весь мир, нам нужно что-то новое — глобальный альянс, который ставит демократию на первое место.

Глобальная демократическая коалиция

Мировые институты, возникшие после Второй мировой войны, такие как Организация Объединенных Наций, Всемирная торговая организация и НАТО, создали основанный на правилах международный порядок. Но они не принимают во внимание полностью цифровой мир в своих мандатах и повестках дня, даже если многие из них, наконец, и начинают фокусироваться на цифровом сотрудничестве, электронной коммерции и кибербезопасности. И хотя цифровая торговля (которая требует своих собственных правил, допустим, для электронной торговли и критерии обмена данными) приобретает всё большее значение, члены ВТО не договорились о повсеместных правилах для умного производства, цифровых цепочек поставок и других действий с использованием цифровых технологий. Поэтому сейчас нам и нужна большая демократическая коалиция. В качестве альтернативы можно было бы создать D7 или D20 — коалицию, подобную G7 или G20, но состоящую из крупнейших мировых демократий.

Такая группа согласовала бы правила и стандарты в отношении технологии в соответствии с основными демократическими принципами. После этого каждая страна-член будет реализовывать их по-своему, так же, как это делают сегодня страны-члены Евросоюза с его директивами.

Какие проблемы могла бы решить такая коалиция? Она могла бы, например, принять общее определение свободы выражения мнений для компаний социальных сетей. Возможно, это определение было бы в стиле широко распространенного европейского подхода, при котором из свободы выражения мнений есть чётко определённые исключения в виде разжигания ненависти и подстрекательства к насилию.

Или коалиция могла бы ограничить практику микротаргетинга политической рекламы в социальных сетях: например, можно запретить компаниям позволять рекламодателям таргетировать рекламу на основе чьей-либо религии, этнической принадлежности, сексуальной ориентации или собранных персональных данных. Демократическая коалиция могла бы также принять стандарты надзора за цифровыми выборами.

Ещё одна задача, которую может взять на себя коалиция, — это разработка правил торговли для цифровой экономики. Допустим, участники могли бы договориться никогда не требовать от компаний передавали исходный код программного обеспечения государственным органам, как это делает Китай. Они также могут принять общие правила защиты данных при трансграничных транзакциях. Такие шаги позволили бы создать своего рода цифровую зону свободной торговли между странами-единомышленниками.

У Китая уже есть нечто подобное — торговая платформа eWTP, на которой можно беспошлинно осуществлять сделки на сумму менее миллиона долларов. Но eWTP, запущенная гигантом электронной коммерции Alibaba, управляется частными компаниями, базирующимися в Китае. Китайское правительство, как известно, через них имеет доступ к данным.

Следующая область интересов для возможной коалиции — безопасность цепочек поставок таких устройств, как телефоны и ноутбуки. Многие страны запретили смартфоны и телекоммуникационное оборудование Huawei [5] из-за опасений, что технологии компании может иметь встроенные уязвимости или бэкдоры для китайского правительства. Проактивная разработка совместных стандартов защиты цепочек поставок и продуктов создаст равные условия для участников коалиции и укрепит доверие к компаниям, которые согласятся их соблюдать.

Ещё одна достойная внимания коалиции область — кибервойна [6] и гибридный конфликт [7], сочетающий цифровую и физическую агрессию. В последнее десятилетие всё больше стран определяют гибридный конфликт как угрозу национальной безопасности. Демократическая коалиция могла бы инициировать независимый трибунал для расследования таких нападений и на основе решений трибунала решить, следует ли применять экономические и политические санкции к виновным.

Стандарты коалиции могли бы стать общемировыми, если бы её члены представляли значительную часть населения планеты. Общий регламент ЕС по защите данных показывает, как это может работать.

На эту тему: "Большой брат" как выход из карантина [8]

Если демократические правительства не перехватят власть над технологиями по мере того, как авторитарные правительства будут становиться более могущественными, цифровой мир будет всё менее и менее демократическим. Без системы сдержек и противовесов, а также механизмов независимого надзора невозможно привлечь технологические компании к ответственности. Только построив глобальную коалицию по управлению технологиями, демократические правительства смогут вновь поставить демократию на первое место.

—

(Оригинал статьи [9]).

Опубликовано в издании roskomsvoboda.org [10]

На эту тему:

• Потребление цифровых услуг стало показателем бедности [11]
• Будущее наших персональных данных [12]
• Augur, Rep, блокчейн: рынок фактов - лекарство против фейков [13]
• Цифровое сопротивление. Как уйгурки воюют с китайским государством слежки [14]
• Мы живем в компьютерной симуляции? Не знаю. Не исключено [15]