КМО — Комп’ютерно-Модифіковані Організми. Як наше життя визначають машинні алгоритми

Версия для печати

Як тотальна залежність від алгоритмів впливає на появу та розвиток візуальних трендів. Транскрипт виступу від 26.05.2018 на конференції Медії та ідентичність: Нuman Transformation in the Digital Age.

Дуже дякую організаторам за можливість виступити. Сподіваюсь, мої тези будуть достатньо спекулятивними, щоб спонукати вас всерйоз над ними замислитися.

Отже, якщо ви справді переймаєтесь питаннями, які звучать на нашій конференції, тобто, розмірковуєте над місцем людини у нашому новому чудовому світі, — без паніки, насправді все добре!

Справа у тому, що ми більше не є людьми, ми живемо у світі, який базується і підтримується за допомогою комп’ютерів та алгоритмів, вони настільки вплетені у наше життя, що вже зараз ми є симбіонтами, сумішшю живого і цифрового.

Як бачать світ нейронні мережі?

Лише декілька очевидних прикладів (наголошую, це все є вже прямо зараз!):

А. Нашими повноправними сусідами в «інформаційному полі» є запрограмовані сутності — боти (від пропагандистів), віруси (від кіберзлочинців), цифрові помічники (від корпорацій).

В тему: Онлайн-знакомства будущего: несексуально и зверски эффективно

Б. Маленькі діти, фактично від народження, формують свої «уявлення про світ» на основі відео, які створені алгоритмами і єдиною метою яких є якомога довше утримувати увагу глядачів — будь якими методами!

В. Наші способи взаємодії зі світом радикально змінилися: смартфон всього за десять років став універсальним протезом, що слугує для багатьох людей головним/новим органом чуття, є джерелом магічної сили (наприклад, він наділив нас здатністю передбачати появу транспорту, або знати, чи піде дощ у наступні декілька годин). Смартфон також став головним інструментом орієнтування в просторі, найбільшим інформаційним каналом і замінив ще 100+ функцій, які просто немає сенсу тут всі перераховувати.

Наступний крок — зробити протез частиною тіла... і це питання найближчого часу, скоріше за все, недовгого.

Г. Інтернет-корпорації люб’язно адаптували для кожного з нас інформаційні фільтри соцмереж і пошукових систем. Фільтри, які м’яко цензурують, вибирають за нас: що нам потрібно читати, бачити та слухати, а про що краще не знати.

Все що я перерахував — а це лише маленька частина значно більшої картини — вказує на те, що вже зараз ми — Комп’ютерно Модифіковані Організми (далі КМО), тимчасовий симбіоз плоті та інформ-компоненти (комп’ютерів та алгоритмів).

Відповідно, критерії оцінки того, що в сучасних трендах є доброго, а що поганого — потрібно суттєво переробити, тому що вони стосувалися людей у класичному розумінні, якими ми більше не можемо називатися.

Яке це все має відношення до візуальних трендів? Доволі суттєве, і далі я спробую це продемонструвати.

Алгоритмічний стиль

Ніхто більше не оригінальний, навіть ти (Kyle Chayka, 2018)

У нашому світі (світі КМО) алгоритми визначають, що таке стиль. Відповідно, що таке тренд — у тому числі, й візуальний. Стиль походить зі смаку — тобто, базованої на моралі властивості розрізнити істину та красу. Стиль є візуальним проявом смаку.

Однак тепер, коли важко підтвердити істинність будь чого (і визначити, що таке краса), на перший план виходять лайки з Інстаграма, хетшетги Твітера та реклама Гугла — які поширюють, а значить, і визначають зразки смаку.

Додайте сюди ботів, що прикидаються людьми, і людей, що прикидаються ботами.

Трохи грошей (і йдеться про дуже скромні суми) — і ви отримаєте небачену досі можливість вивести у тренд практично будь-який художній, візуальний, мистецький, модний, додайте_ваш_варіант стиль (звичайно, чим більша платформа, тим важче буде ваш тренд підтримувати).

Стиль не повинен бути оригінальним, і скоріше за все не буде таким — йому достатньо бути оптимізованим для відтворювання і поширення алгоритмами. Грубо кажучи, він повинен бути таким, щоб, за прикладом мемів, швидко захоплювати середовище якоїсь цифрової платформи.

Конкретні приклади впливу алгоритмів та комп\’ютерів на стиль

Отже, почнемо зі згаданого універсального протезу — смартфона.

Смартфони знову зробили всі нації найбільш читаючими у світі. Текст повернувся на головне місце чи не вперше після масового поширення радіо і телебачення в середині минулого сторіччя. Тому текстовому дизайну приділяється так багато уваги в останні роки.

Не менш радикально смартфон впливає на візуальні тренди через свій малий розмір екрану і, відповідно, через необхідність робити адаптований дизайн.

Ще один тренд — обмежена якість відео (та звуку) для того, щоб заощадити трафік. Звідси — повернення естетики ASCII та 8-бітного арту.

Практично все у 3D наразі у тренді, навіть шрифти

Закон Мура і графічні карти

Завдяки тому, що з 1970 року потужність процесорів зросла в десятки мільйонів разів, зараз у спальнях багатьох людей стоять комп’ютери з можливостями, які 20 років тому коштували мільйони доларів. Якщо не вистачає свого, можна відносно дешево купити хмарний сервіс з потужностями, які десять років тому були лише у супердержав.

Відповідно, з’явилась можливість швидко і дешево робити дуже складні речі. Наприклад, реалістичне 3D-моделювання стало доступним для всіх (дешеві і потужні графічні карти + поява десятків графічних редакторів з доступним інтерфейсом, значна частина з них — opensource, а ті що ні, є в піратських версіях).

На мою думку, саме ця доступність стала причиною того, що останні роки 3D-дизайн став настільки популярним. Подивіться на тренди 2018 року, зібрані сайтом Behance:

Анімовані 3D ретро-ілюстрації

— 3D stills

— 3D fonts

— 3D анімація в 2D (+ Baugasm)

— анімовані 3D ретро-ілюстрації

— інтерактивний 3D дизайн

— 3D-псевдо-хендмейд

— ізометричні фото/дизайн

— 3D глибина для 2D дизайну

Я попросив свою колегу, Надю Кельм, яка розповіла мені про ці тренди у дизайні, прокоментувати показані зразки. Ось що вона сказала:

На багатьох прикладах можна побачити гіпер-реалізм, покращене середовище. Кольори — неонові, неприродні, а звідси — нереальність, штучність картинки.

Часто використовують анімацію зображення або імітацію руху в сталих зображеннях, максимум кольорів та фактур — скоріше за все, це походить від нестримного бажання використати усі нові технічні можливості.

Імітація непрофесійності. Якщо раніше техніка «заточувалася» на відтворення того, що робить людина (цифрові пензлики, що імітують малювання олією чи вугіллям...), то зараз людина намагається наслідувати машинний стиль.

Алгоритмічно-згенерований контент

Величезна кількість відео для наймолодших дітей зроблена ботами, переглядається ботами і навіть коментується ботами, щоб підвищити його у рейтингу. Однак, при цьому мільйони реальних дітей, приклеєних до екранів гаджетів, знову і знову їх переглядають.

Для просування і створення відео використовують автоматично згенеровані ключові слова, які є комбінацією найбільш запитуваних тем (наприклад, Farm, Animals, Finger, Family, Colors). Алгоритми, що створюють ці комбінації, намагаються обдурити алгоритм YouTube. Ось приклад відео з подібною автоматичною назвою.

Wrong Heads Disney Wrong Ears Wrong Legs Kids Learn Colors Finger Family 2017 Nursery Rhymes.

Як виникають такі химери? Напевне, все починалося з невинного першого відео, яке стало популярним серед дітей, а потім ця тема почала зростати в рейтингах алгоритму Ютуба, поки не перетворилася на «салат» із ключових слів, який був використаний для генерації відео.

Значна кількість відео — повністю або частково автоматизовані. Стокова анімація, аудіо, комбінації за ключовими словами призводять до появи тисяч варіантів, які створюють безкінечний потік — який отримують мільйони переглядів.

Пепа у стоматолога

В тему: Люди и машинные алгоритмы предсказывают рецидивистов с одинаковой точностью

Найцікавіше, що подібна автоматизація заводить дітей у дуже темні зони — є багато випадків, коли (напів)автоматично згенеровані відео демонструють, що маленькі тварини або діти страждають, їх ображають, вони плачуть, свинку Пепу піддають тортурам у стоматологічному кабінеті, Бетмен починає їсти фекалії тощо.

Відео з темної зони

Все це відбувається вже зараз — мільйони дітей з самого народження є мішенню автоматизованого контенту, який потенційно може їх травмувати. Ці алгоритми не мають моральних обмежень, і я говорю не лише про YouTube.

Повертаючись до теми — смаки, уподобання, у т.ч. візуальна естетика десятків мільйонів дітей формуються за допомогою алгоритмів, які оптимізовані лише за одним критерієм — за будь яких умовах приносити більше грошей за перегляди.

Якщо хочете знати майбутній візуальний стиль, дивіться відео для дітей на Ютубі. Років через 10-15 вони будуть його використовувати у своїх роботах.

Параметричний / генерований дизайн

Processing, перший дійсно масовий інструмент для того, щоб створювати художні роботи за допомогою програмування, з\’явився у 2001. Відтоді подібних інструментів стало значно більше, і багато з них дозволяють працювати прямо у браузері. Відповідно, тисячі художників-програмістів створюють мистецтво за допомогою коду, і безумовно їх роботи мають серйозний вплив на візуальні тренди. Є автори настільки плодовиті, що генерують твори з частотою декілька разів на день, неначе роботи, а не реальні люди.

Генерований дизайн, один із тисяч прикладів

(Цікаво, що, навпаки, є мистецькі боти, які роблять картинки так, неначе вони живі люди)

Те, що може бути помилкою програми, може бути і мистецтвом. Відповідно, існує дуже помітний стиль-помилка, стиль Glitch. Ось лише один із тисяч прикладів.

Дизайн у стилі Глітч

DeepEverithing

Однак, напевно, найбільш страшним і захоплюючим явищем останнього часу є гігантський прорив, який стався менше ніж за 10 останніх років, у галузі алгоритмів штучного інтелекту (це непрофесійна назва, краще називати «машинне навчання» або «нейронні мережі») — особливо їх різновиду, який умовно можна назвати «глибокі нейронні мережі».

Завдяки ним вже зараз практично будь-хто може використати доступні і практичні інструменти для створення сфальшованого відео та аудіо, яке неможливо відрізнити від справжнього.

Найбільшою жертвою ШІ (штучного інтелекту) будуть не робочі місця, але остаточне і повне знищення довіри до всього, що ми бачимо або чуємо. © Олі Франклін-Валіс.

Відповідно, це загроза всім нашим системам, наприклад, демократії. Старого світу з тими інституціями, до яких ми звикли, може не стати дуже скоро.

Ось лише декілька зразків того, що вже є на сьогодні.

Face2Face — перенесення міміки, артикуляції та руху губ на реальні відео.

DeepFakes — створення реалістичних відео за допомогою переносу зображень обличчя. В кінці минулого року порносайти намагалися боротися із сотнями відео, де порноакторами і порноакторками виступають знаменитості. DeepFake — інструмент з відкритим кодом, і ви жартома можете зробити deepfake відео із своїми знайомими — щоправда, сумніваюсь, що вони гарно сприймуть такий жарт.

Image2Image — зміна стилю фото за вказаним зразком.

Синтез Обами — за вказаним звуковим записом Обами дослідники створили штучне відео з ним, де він начебто говорить слова із запису.

WaveNet — один із багатьох реалістичних синтезаторів голосу. Зараз в роботі декілька проектів, які дозволять перенести стиль реального голосу на синтезований.

Перший випадок використання DeepFake у політичній рекламі.

Люди вже зараз не можуть відрізнити, де згенерований контент, а де справжній. Люди + алгоритми можуть, але це ще більше зробить нас КМО.

А тепер — про вплив «глибоких нейронних мереж» на візуальні тренди. Як на мене, це в першу чергу нелюдська естетика зображень, які генеруються мережами, і які через мистецькі/ дослідницькі роботи потрапляють до уваги публіки.

Приклад з DeepDream

В тему: Откуда пошли фейковые новости

Ще приклади зображень з нейронних мереж:

— pix2pix

— Deep Dreams

— Мистецтво

***

Головна думка, яку я намагався сьогодні донести, поза жартами і картинками ось яка: Трансгуманізм, про який вже згадували не один раз на конференції, — це не справа майбутнього. Це здійснений факт — через симбіоз людини і алгоритмів ми вже змінилися, ми вже КМО — це відбудеться не завтра, не через 10 років — це вже відбулося, це майбутнє вже тут, вже з нами, зараз у цьому залі.

Можна спробувати втекти від цього майбутнього у «теплий аналоговий світ» — вирубати себе з соцмереж, відмовитися від смартфонів, обмежити алгоритми, використовувати лише домотканний одяг.

Однак це неефективно — не лише через обмежену кількість подібних «інфолуддитів», але й через те, що алгоритмічний підбір трендів швидко підхопить цей спосіб і зробить його частиною «загального машинно-генерованого стилю» (хоча б і на 15 хвилин).

Resistance is futile, all your base are belong to us, вітайте своїх нових алгоритмичних володарів!

Інший шлях — прийняти той факт, що ми вже не зовсім люди, але Комп’ютерно Модифіковані Організми — і бути на першому гребені цієї хвилі — тобто, досліджувати і використовувати алгоритми, займатися мистецтвом і програмуванням, генерувати тренди за допомогою ботів та соцмереж, одним словом, добре вивчити своїх нових ворогів/ друзів і використовувати їх для «користі і розваги».

Ще один шлях — зробити вигляд, що ви не почули все те, про що я сьогодні розповідав.

Що б ви не обрали, я бажаю всім гарно провести свій час!

—

Анатолій Бондаренко, опубліковано у виданні ТЕКСТИ

В тему:

• Поддельный мир
• Битва за искуственный интеллект
• SCS — «Система социального рейтинга» Китая будет определять ценность людей
• Соцсети знают о вас больше, чем друзья, родные и чем вы думаете. Почему?
• Революция смартфона