Вместо одного носителя культуры – человека, новую электронную информационную среду теперь населяют два носителя культуры: люди и боты. Чем это грозит человечеству.

«Аллергия» на качественный контент, «астма» от факт-чекинга, бото-терроризм.

Поворотным моментом в эволюции был переход от биологической (генной) эволюции к генно-культурной коэволюциию. В его процессе у наших предков развился символический язык, позволивший создать символическую культуру, сформировавшую затем наш разум [2] и общество [3].

В созданном таки образом новом мире развитие людей все меньше зависело от эволюции генов, и все больше - от нарастающего влияния эволюции мемов.

Так продолжалось несколько десятков тысяч лет, сформировав цивилизацию на Земле со всем, что люди знают и умеют. Но несколько лет назад «эпоха цивилизации людей» закончилась и начался новый переход.

В тему: Кибер-война: в атаку идут только хакеры и боты [4]

В его основе следующее.

1) Изменение информационной среды генно-культурной коэволюциии: от материальной к электронной – попросту говоря, это Интернет [5].

2) Вместо одного носителя культуры – человека, новую электронную информационную среду теперь населяют два носителя культуры: люди и боты.

Итогом названных кардинальных изменений стало то, что будущее новой «цивилизации 2-х носителей культуры» теперь зависит от результатов их сетевых взаимодействий.

По каким законам будет происходить процесс сетевых взаимодействий 2-х носителей культуры, пока никому не известно. Но ясно одно, - влияние на развитие мировой сети идей (знаний, мемов, мифов …) будут оказывать оба носителя культуры. Но это еще не все.

Грандиозным изменением расклада эволюционных сил может стать вот что:

- 1-й носитель культуры (человек) пока что воспроизводится по старинке - биологически;

- а 2-й носитель культуры вполне рукотворный, и его созданием будут заниматься кто угодно и, в том числе, преступники, тоталитарная власть, сумасшедшие маньяки …

В тему: Боты сгенерировали более половины интернет-трафика в 2016 году [6]

Это значит, что распространение новостей, формирование приоритетов популярности и важности тем, влияние на рейтинги поп-звезд и политиков … и много что еще, будет формироваться в инфосети в процессах взаимодействия людей и ботов. Причем среди обоих будут злонамеренные. Но способы воспроизводства, потенциал влияния и, главное, возможности детектирования и блокировки у людей и ботов несравненно разные. Как это будет работать, и что из всего этого получится, совершенно непонятно.

Немногие проделанный эксперименты, например, показывают следующее:

А) Вирусность распространения высококачественной и низкопробной инфы, распространяемой факт-чекинговыми и отстойными источниками, примерно одинаковая.

Б) Без ботов невозможно достичь одинаковой популярности низко- и высококачественных мемов. Однако, при наличии ботов с низкой инфильтрацией и низким уровнем обмана, вполне возможно обеспечить одинаковую популярность полярных по качеству мемов.

В) Зловредные боты [7], подобно микробам, становятся более опасны в грязной среде.

 Чем больше в инфосети грязи, тем большее влияние на людей оказывают боты. Но возможно и обратное. Также как излишнее оберегание детей от грязи и микробов может со временем обернуться для них аллергией и астмой, так и с излишней стерильностью инфосети (например, «суверенной») возможно возникновение «аллергии» на качественный контент и астмы от факт-чекинга.

Г) Инфильтрация ботов является доминирующим фактором подавления качества сетевой инфы. Когда боты оказывают влияние всего лишь на 1% людей в мире, происходит резкий переход к подавлению качества (см. рисунок). И если проникновение не ниже этого критического порога, боты даже не нацеливаются на влиятельных пользователей, а наносят максимальный урон, выбирая среди людей случайные жертвы.

Читайте также:  Российские боты вмешались в британские выборы - Times [8]

Последнее – жуткий пример «бото-терроризма», действующего по принципу «взорви доверие первого попавшегося, а остальные испугаются и сами поверят».

Жаль, что все исследования идут лишь на моделях и старой статистике. Эксперименты с влиянием ботов на реальных людей сдерживаются по этическим причинам, как и генетические эксперименты.

Но боюсь, что к Китаю это не сильно относится.

Подробней – Information Pollution by Social Bots (https://arxiv.org/abs/1907.06130v1 [9])

–

Сергей Карелов [10], опубликовано на канале  theworldisnoteasy [11]

В тему:

• Константин Корсун: «Существующая система кибербезопасности - живой труп» [12]
• На пути к сверхразуму: революция искусственного интеллекта [13]
• Темная сторона Facebook: как социальные сети сеют раздор и разжигают войны [14]
• Киберхиросима или Удивительные малвари и где они обитают [15]
• Facebook блокировал 80% групп российской «фабрики троллей» [16]