На пути к сверхразуму: революция искусственного интеллекта

Версия для печати

Интеллект, который в миллиард раз умнее нас, с легкостью сможет рассчитать положение каждого атома во вселенной в любой момент времени. Любая сила, которую приписывают всемогущему божеству, - все это будет в распоряжении сверхразума.

Обращение вспять старения, лечение любых болезней, избавление от голода и даже смерти, управление погодой - все внезапно станет возможным.

Умнейшие люди нашей планеты сходятся во мнении, что как только в мире появится искусственный сверхразум, это ознаменует появление бога на Земле.

Мы стоим на пороге перемен, сравнимых разве что с появлением на Земле человека

— Вернор Виндж

Интересно, каково это там стоять.

Какой волнующий, должно быть, момент. Но не будем забывать, что человечек на графике ничего справа от себя не видит. Для него ситуация выглядит так:

Все куда прозаичнее.

Далекое будущее не так уж и далеко

Давайте представим, что у нас есть машина времени, и мы переносимся в 1750 год. Тогда об электричестве еще ничего не знали. Чтобы с кем-нибудь связаться, оставалось либо кричать, либо стрелять в воздух из пушек, а весь транспорт работал на сене. Возьмем оттуда первого попавшегося прохожего, перенесемся обратно в 2015 год и понаблюдаем за его реакцией на привычные для нас вещи.

Современному человеку сложно себе представить, каково это впервые увидеть сверкающие капсулы, несущиеся по шоссе, встретиться с людьми, которые еще утром были на другом конце света, посмотреть матч на стадионе в тысячах километрах от него, послушать произведение, которое было исполнено 50 лет назад, покрутить в руках волшебный прямоугольник, позволяющий за одно мгновение нарисовать реалистичную картину, взглянуть на карту и увидеть там свое точное местоположение, или поговорить с человеком на другом конце страны. Для людей, живших лет 250 назад, все это — необъяснимое волшебство. Не говоря уже про интернет, МКС, Большой адронный коллайдер, ядерное оружие или общую теорию относительности.

Такой опыт не назвать ни удивительным, ни шокирующим, ни даже умопомрачительным. Как бы наш путешественник не умер от увиденного.

Но что будет, если по возвращении в свой родной 1750-й он захочет повторить наш эксперимент, сядет в машину времени, перенесется на те же 250 лет назад, заберет оттуда первого встречного и покажет ему жизнь в своем времени? Парень из 16 века многому удивится, но вряд ли будет сражен наповал: разница между 1500 и 1750 годами куда меньше, чем между 1750-м и 2015-м. Он подивится открытиям в космологии и физике, поразится масштабам имперских амбиций в европейских странах, да и карту мира ему придется пересмотреть. Но повседневная жизнь середины 18 века (транспорт, связь и т. п.) вряд ли удивит его до смерти.

Чтобы по-настоящему отвести душу, нашему знакомому из 1750 года нужно отправиться гораздо дальше — может быть, даже за 12 000 лет до н. э., до первой аграрной революции, которая привела к появлению первых городов и дала толчок к развитию цивилизации. Вот если кто-нибудь из охотников-собирателей (люди тогда в большей степени были еще одним видом животных) увидит необъятные человеческие империи 1750 года: громадные церкви, корабли, способные пересечь океан, представление о том, что можно находиться «внутри» (например, в здании), и гигантские горы коллективно накопленных знаний и открытий — то без сомнения умрет на месте.

Но что если после этого ему тоже захочется повторить наш эксперимент? Вот он переносится на 12 000 лет назад, в 24 000 год до н. э., забирает случайного человека и начинает показывать свое время. А тот смотрит на все это и говорит: «Так, и что поменялось?» Чтобы всласть позабавиться, придется перенестись назад более чем на 100 000 лет, и найти там того, кто удивится изобретению огня и появлению речи.

Чтобы человек из прошлого мог увидеть будущее и умереть, нужно отправиться так далеко, чтобы цивилизация к тому времени достигла «убийственного уровня прогресса»: то есть с некоторого момента в прошлом должна пройти единица убийственного прогресса (ЕУП). Для охотников-собирателей ЕУП составила сто тысяч лет, для общества после аграрной революции — около двенадцати тысяч. Вслед за промышленной революцией прогресс шел уже быстрее, поэтому для жителей 18 века ЕУП прошла всего за 200 лет.

Как видно, со временем человеческая цивилизация развивается все быстрее и быстрее. Футуролог Рэй Курцвейл называет это явление законом ускоряющейся отдачи. Причина в том, что у более развитого общества есть возможность развиваться быстрее, чем у менее развитого. Люди 19 века знали больше, чем люди 15 века, и обладали более совершенными технологиями. Поэтому неудивительно, что прогресс в 19 веке шел более стремительными темпами, нежели в 15-м.

Это работает и в меньших масштабах. Фильм «Назад в будущее» вышел в 1985 году, соответственно «прошлое» разворачивалось в 1955-м. Когда герой Майкла Джея Фокса попадает туда, его удивляют цены на содовую, отсутствие любви к звуку электрогитары, необычный сленг и то, что телевидение еще было в диковинку. Да, это был совершенно другой мир — но если бы фильм снимали сегодня, и в прошлом оказался бы 1985 год, разница стала бы еще более разительна, а фильм еще смешнее. Герой оказался бы во времени, когда еще не было персональных компьютеров, интернета, мобильных телефонов и социальных сетей. В 1985-м подросток, выросший в 2000-е, чувствовал бы себя не в своей тарелке сильнее, чем Марти МакФлай в 1955-м.

В тему: Битва за искуственный интеллект

Виной тому все тот же закон ускоряющейся отдачи. Средняя скорость развития технологий в период с 1985 года по 2015-й была выше, чем в период с 1955-го по 1985-ый (поскольку в первом случае сам мир был более развит), поэтому за последние 30 лет произошло больше изменений, чем за 30 лет до этого.

Таким образом, перемены становятся все радикальнее и происходят все чаще. Вот теперь будущее и правда начинает беспокоить.

Курцвейл полагает, что при темпах развития 2000 года, прогресс, сделанный за весь 20 век, можно было бы пройти всего за 20 лет. Иными словами, в 2000 году скорость развития была в пять раз выше, чем средняя скорость за весь 20 век. Он считает, что еще столько же прогресса мы добились в период с 2000 по 2014 год, и еще столько же добьемся к 2021-му — то есть всего за семь лет. Через пару десятков лет норма 20 века будет достигаться по несколько раз в год, а еще позже — всего за месяц. В конечном итоге, по закону ускоряющейся отдачи, прогресс за весь 21 век превысит прогресс 20 века в тысячу раз.

Если Курцвейл и его сторонники правы, 2030 год удивит нас не меньше, чем парня из 1750 года удивил бы наш 2015-й. То есть следующая ЕУП составит всего пару десятков лет, а мир 2050 года будет так сильно отличаться от современного, что мы едва ли его узнаем.

И это не фантастика. Так считают лучшие умы современности — люди поумнее и пообразованнее нас с вами. История только подтверждает логичность этого прогноза.

Так почему же, если вам скажут: «через 35 лет мир изменится до неузнаваемости», вы скептически пожимаете плечами? Для скепсиса по поводу экстравагантных прогнозов на будущее есть три причины:

1. Нам кажется, что история линейна. Чтобы представить, как сильно все изменится за следующие 30 лет, мы ориентируемся на прогресс предыдущих тридцати. Чтобы оценить масштабы изменений в 21 веке, мы берем прогресс за 20 век и прибавляем его к прогрессу за 2000 год. Такую же ошибку совершает наш парень из 1750-го, выбрав в качестве подопытного жителя 16 века. Мы интуитивно представляем себе линейный рост, а нужно — экспоненциальный. Логичнее предугадывать прогресс не глядя на предыдущие тридцать лет, а судя по текущим темпам развития. Тогда прогноз будет точнее, но все равно не сильно. Чтобы корректно представлять себе будущее, нужно вообразить, что мир развивается быстрее, чем сейчас.

2. Недавние события не дают нам понимания общей картины происходящего. Во-первых, при достаточном приближении даже самая крутая экспоненциальная кривая кажется прямой линией (это справедливо даже для окружности). Во-вторых, экспоненциальный рост не всегда плавный и однородный. Курцвейл считает, что прогресс движется по S-образным кривым.

S-образная кривая появляется тогда, когда мир охватывает новая парадигма. Она проходит три фазы:

1) медленный рост (ранняя фаза экспоненциального роста);

2) быстрый рост (поздняя, взрывная фаза экспоненциального роста);

3) стабилизация новой, созревшей парадигмы.

Если взглянуть на недавние события, часть S-образной кривой, в которой мы находимся сейчас, может скрывать скорость прогресса от нашего восприятия. Отрезок времени между 1995-м и 2007-м был чрезвычайно насыщенным: взрывное развитие интернета, закрепление Microsoft, Google и Facebook в массовом сознании, рождение самого феномена социальных сетей, массовое появление мобильных телефонов и позднее смартфонов. Это была вторая фаза нашей кривой. А вот период с 2008 по 2015 год был уже менее прорывным, по крайней мере на технологическом фронте. Если для оценки общего темпа прогресса взять последние пару лет, можно упустить из виду общую картину. На деле же новая мощная вторая фаза может назревать уже сейчас.

3. Личный опыт превращает нас в упертых стариков. Наше представление о мире строится на опыте, и опытом темпы роста в недавнем прошлом воспринимаются как «нормальный ход вещей». Мы ограничены и нашим воображением, поскольку для прогнозирования также требуется опыт. Однако чаще всего наши знания не позволяют нам в точности предсказать будущее. Прогнозы, которые расходятся с привычным ходом вещей, инстинктивно кажутся нам наивными. Чуть ниже я расскажу, что вы доживете до 150-250 лет, а то и вовсе не умрете, и ваша первая мысль будет «глупости, из истории ясно одно: умирают все». Так и есть: никто не доживал до таких лет. Но и на самолетах никто не летал, пока их не изобрели.

Таким образом, хотя скепсис кажется обоснованным, чаще всего он ошибочен. Если вооружиться чистой логикой и ожидать, что исторические тенденции неизменны, следует признать, что в ближайшие десятилетия должно произойти гораздо больше изменений, чем можно предположить интуитивно. Логика также подсказывает, что, если самый развитый вид на планете продолжит делать гигантские скачки вперед, набирая обороты, то в определенный момент скачок будет настолько сильный, что кардинально изменит привычный образ и саму суть человеческой жизни. Нечто подобное случилось в процессе эволюции, когда человек стал настолько умен, что полностью изменил жизнь всех остальных видов на Земле. И если немного разобраться в том, что происходит сейчас в науке и технике, начинаешь замечать признаки грядущего прорыва, который в очередной раз полностью изменит мир.

Путь к сверхразуму

Что такое искусственный интеллект?

Как и я, вы наверняка привыкли считать искусственный интеллект (ИИ) выдумкой из научной фантастики. Однако в последнее время к нему проявляет интерес немало серьезных людей, и вам непонятно: с чего это вдруг?

Люди не до конца понимают определение понятия «искусственный интеллект» по трем причинам:

1. ИИ ассоциируется с фильмами. Вспомните «Звездные войны», «Терминатора», «Космическую Одиссею 2001 года». Но как и роботы, ИИ в этих фильмах — вымысел. Поэтому в него не очень-то верится.

2. Этим термином что только не называют. И калькулятор в телефоне, и беспилотные автомобили, и неведомую штуковину, способную кардинально изменить мир в будущем. Разобраться бывает непросто.

3. Мы пользуемся ИИ каждый день, сами того не замечая. Как говорил Джон Маккарти (именно он в 1956 году ввел термин «искусственный интеллект»): «как только система начинает работать, никто больше ее искусственным интеллектом не называет». Из-за этого ИИ кажется не частью реальности, а мифом о далеком будущем или популярной затеей из прошлого, которая так и не осуществилась. По словам Рэя Курцвейла, многие считают, что от разработки ИИ отказались еще в 80-е. Он сравнивает это с утверждением, что в начале 2000-х вместе с доткомами умер интернет.

Давайте разбираться. Во-первых, надо перестать представлять себе роботов. Робот служит оболочкой для ИИ, но необязательно имитирует человеческое тело. ИИ — это компьютер внутри робота. ИИ — это мозг, а робот — тело (в тех случаях, когда тело вообще необходимо). К примеру, программное обеспечение и данные, которые отвечают за работу Siri — это искусственный интеллект, а женский голос — его персонификация, и никаких роботов в этой системе нет.

Во-вторых, вы наверняка слышали термин «сингулярность» или «технологическая сингулярность». Этот термин используется в математике для описания ситуации, когда обычные правила перестают работать. В физике он используется для описания бесконечно малой и плотной черной дыры, или точки, в которой до Большого взрыва было сосредоточено все вещество. Опять же, законы физики в такой точке не применимы. В 1993 году Вернор Виндж написал знаменитое эссе, в котором применил этот термин в отношении момента в будущем, когда интеллект наших технологий превзойдет наш собственный — и в этот момент жизнь в привычном понимании изменится навсегда, а обычные правила ее существования больше не будут работать. Рэй Курцвейл в дальнейшем всех запутал, определив сингулярность как момент, когда по закону ускоряющейся отдачи скорость развития будет стремиться к бесконечности, после чего наш мир кардинально изменится. Я заметил, что многие эксперты уже отказалась от этого термина, да и все равно он только сбивает с толку, поэтому давайте и мы не будем часто к нему обращаться (но саму идею продолжим рассматривать).

И последнее, несмотря на то, что ИИ — широкое понятие, все системы ИИ можно разделить на три категории:

1. Слабый искусственный интеллект (Artificial Narrow Intelligence). Это ИИ, который специализируется в одной области. Такая система может обыграть лучших шахматистов мира, но на этом его возможности заканчиваются. Попроси его придумать эффективный способ хранения данных на жестком диске — он впадет в ступор.

2. Сильный искусственный интеллект (универсальный ИИ, ИИ человеческого уровня, Artificial General Intelligence). Это ИИ, который соответствует уровню интеллекта человека во всех областях. Машина, способная выполнять те же задачи, что и человек. Задача создания сильного ИИ несравнимо сложнее задачи создания слабого ИИ, и нам еще только предстоит ее решить. Профессор Линда Готтфредсон описывает интеллект как «обобщенную мыслительную активность, способную среди прочего к осознанию, планированию, решению проблем, абстрактному мышлению, пониманию сложных идей, быстрому обучению и обучению на собственном опыте». Сильный ИИ будет способен делать все это так же легко, как и любой человек.

3. Искусственный сверхразум. Оксфордский философ и теоретик ИИ Ник Бостром определяет сверхразум как «интеллект, превосходящий лучшие умы человечества во всех областях, включая научную изобретательность, здравый смысл и социальные навыки». Это понятие охватывает как интеллект по всем статьям превосходящий человеческий лишь слегка, так и тот, что лучше человеческого в триллионы раз. Именно из-за сверхразума к теме растет интерес, и именно поэтому в моих постах появятся слова «вымирание» и «бессмертие».

На сегодняшний день человечество уже разработало и использует множество систем слабого ИИ. Революция искусственного интеллекта — это путь от слабого ИИ к сверхразуму через создание сильного ИИ. Этот переход мы можем не пережить, но он определенно изменит все.

Давайте более подробно остановимся на том, что думают ведущие теоретики ИИ, и почему эта революция может произойти быстрее, чем можно было бы предположить.

Текущее положение дел: миром правит слабый ИИ

Слабый искусственный интеллект — это ИИ, который по способности к выполнению определенной задачи или по эффективности выполнения равен человеческому или превышает его. Вот несколько примеров:

• В современном автомобиле достаточно часто используются системы слабого ИИ: от антиблокировочной системы до системы впрыска топлива. Google уже тестирует беспилотные автомобили, оснащенные надежными системами ИИ, способными правильно реагировать на дорожную обстановку и управлять движением автомобиля в реальном времени.

• Ваш телефон битком набит системами слабого ИИ. Каждый раз, когда вы открываете картографические сервисы, видите рекомендации в Pandora, смотрите прогноз погоды на завтра, разговариваете с Siri, — вас обслуживает ИИ.

• Спам-фильтр в электронной почте — классический пример слабого ИИ. Он уже обучен отделять спам от нормальных писем, и по мере работы подстраивает свои знания под ваши предпочтения. Умный термостат от компании Nest обучается регулировать температуру на основе ваших предыдущих действий.

• А это неуютное чувство, когда вчера искали что-нибудь в поисковике, а сегодня видите предложения услужливых магазинов на других сайтах? Или когда в социальной сети вам рекомендуют добавить интересных людей в друзья? Все это системы слабого ИИ, которые сообщают друг другу о вас и ваших предпочтениях, чтобы понять, какую рекламу вам показывать. Точно так же работает секция «Люди, купившие этот товар, также покупают...». Это тоже ИИ, задача которого анализировать поведение миллионов людей и понять, как заставить нас покупать больше.

• Google Translate — еще одна классическая система слабого ИИ, которая прекрасно справляется с единственной поставленной перед ней задачей. Распознавание голоса — тоже. Многие приложения используют эти системы в паре: произносишь фразу на одном языке и слушаешь перевод на другой.

• Когда самолет касается взлетной полосы, ИИ определяет, к какому выходу и терминалу самолет должен подъехать. Цена билетов на самолет тоже определяется не человеком, а ИИ.

• Лучшие в мире игроки в шашки, шахматы, скрэббл, нарды и реверси — это системы слабого ИИ.

• Поиск Google — это один гигантский ИИ, который использует хитроумные алгоритмы ранжирования страниц и определения результатов, релевантных для конкретного пользователя.

• И это только в потребительском мире. Сложные системы слабого ИИ широко используются в военной, промышленной и финансовой отраслях (половину акций в США продают системы алгоритмической высокочастотной торговли на основе ИИ), а также в экспертных системах: одни помогают врачам ставить диагнозы, другие накапливают знания о мире (самый известный пример — система IBM Watson, которая с легкостью одолела чемпионов телевизионной игры Jeopardy, понимая при этом речь ведущего).

В текущем виде системы слабого ИИ не представляют угрозы. В худшем случае плохо спроектированный ИИ может спровоцировать небольшую катастрофу, которая не заденет большую часть населения планеты или даже страны. Например, веерное отключение электричества, проблемы с оборудованием на ядерной электростанции или катастрофу на бирже. Примером может служить «черный четверг» 6 мая 2010 года, когда ИИ неверно отреагировал на непредвиденную ситуацию и на короткое время обвалил фондовый рынок: акции потеряли в цене триллион долларов. Лишь часть из них удалось восстановить.

Хотя слабый ИИ не имеет достаточной силы и возможностей, чтобы представлять опасность для жизни на планете, обширную и запутанную сеть относительно безвредных систем ИИ следует рассматривать как предвестника надвигающегося урагана. Дорога к сильному ИИ и сверхразуму растет с каждой новой инновацией в сфере слабого ИИ. Или как хорошо заметил Аарон Саенц, слабые ИИ сегодня подобны «аминокислотам в первичном бульоне юной Земли» — неживым компонентам всего живого, которые однажды ни с того ни сего пробудились.

Путь от слабого ИИ к сильному

Почему все так сложно?

Ничто так не раскрывает сложность человеческого интеллекта, как попытка создать компьютер, который будет так же умен. Строительство небоскребов, полеты в космос, секреты Большого взрыва не идут ни в какое сравнение с тем, чтобы повторить наш собственный мозг или хотя бы просто понять его. В настоящее время мозг человека — самый сложный объект в наблюдаемой Вселенной.

Примечательно, что сложности при создании сильного ИИ возникают в самых, казалось бы, простых вещах. Например, создать устройство, которое за долю секунды умножает десятизначные числа, не составляет труда. В то же время исключительно сложно написать программу, которая могла бы распознать, кто на фотографии: кошка или собака. Создать компьютер, который обыграет человека в шахматы? Легко! Заставить машину прочитать и понять написанное в детской книжке? Google тратит миллиарды долларов на то, чтобы решить эту задачу. Сложные вещи: интегралы и производные, выбор стратегии на финансовом рынке, перевод с языка на язык — даются компьютеру до отупения легко, а простые вещи: зрение, движение, восприятие — нет. Как выразился Дональд Кнут, «ИИ сейчас делает практически все, что требует „мышления“, но не может справиться с тем, что люди и животные делают „не задумываясь“».

Стоит поразмыслить над этим, как тут же становится понятно: навыки, которые кажутся нам простейшими в исполнении, на самом деле невероятно сложны. А кажутся они такими потому, что за сотни миллионов лет эволюции были оптимизированы в нашем организме (и в организме животных). Чтобы протянуть руку и что-нибудь взять, мышцы, суставы и кости плеч, локтей и кистей мгновенно выполняют длинные цепочки физических операций, основываясь на том, что видят глаза: это позволяет точно управлять рукой в трехмерном пространстве. Действие кажется простым, потому что за эти процессы отвечает доведенное до идеала программное обеспечение мозга. По той же причине кажется, что вредоносные боты слишком тупы: не могут даже искаженное слово разобрать при регистрации нового аккаунта. На самом деле, эта задача не из легких, просто человеческий мозг справляется с ней без усилий.

В тему: Илон Маск: искусственный интеллект - «величайшая угроза» для человечества

С другой стороны, перемножение крупных чисел и игра в шахматы — занятия для биологических существ новые, и у нас не было достаточно времени, чтобы довести их до автоматизма, поэтому компьютеру несложно нас одолеть. Ответьте, какую программу хочется написать больше: которая будет перемножать большие числа или которая мгновенно узнает букву «Б» в миллионах видов начертаний, в самых непредсказуемых шрифтах?

Один простой пример: и вы, и ваш компьютер поймете, что на картинке ниже чередуются квадратики двух разных оттенков.

Пока ничья. Но если убрать черный фон, и картинка появится целиком...

...вам не составит труда описать все цилиндры, плоскости и трехмерные углы, несмотря на прозрачность и искажения, а вот компьютер с треском провалится. Он опишет то, что видит: разнообразие двумерных форм разных оттенков, хотя в принципе, так оно и есть. Ваш мозг проделывает массу работы в попытке верно интерпретировать глубину, игру теней, освещение. А на картинке ниже компьютер увидит лишь двухмерную черно-белую картинку, в то время как человек способен понять, что это фотография черного трехмерного камня.

Все наши примеры были ограничены простейшими статичными картинками. Для того, чтобы называться сильным ИИ, компьютеру необходимо уметь распознавать выражение лица, понимать разницу между различными эмоциями и отличать хороший фильм от посредственного. Задачи непростые.

Как же нам этого достичь?

Первый шаг к созданию сильного ИИ: увеличиваем вычислительную мощность

Создание сильного ИИ невозможно без увеличения вычислительной мощности компьютеров. Если мы хотим, чтобы ИИ стал таким же умным, как человек, то и вычислительные способности его железа должны быть близки к вычислительным способностям человеческого мозга.

Чтобы определить вычислительную мощность мозга, можно подсчитать количество операций, выполняемых в секунду. Для этого надо вычислить максимальное количество операций в секунду для различных отделов мозга и сложить получившиеся показатели.

Рэй Курцвейл придумал более простой способ оценить этот показатель. Он взял примерное количество операций в секунду, выполняемое частью мозга, и отношение массы этой части к массе всего мозга, и перемножил их. Звучит немного сомнительно, но он проделал это много раз (используя данные из разных научных источников) и всегда приходил к одному и тому же числу: порядка 10^16, или 10 квадриллионов операций в секунду.

Самый быстрый суперкомпьютер в мире, китайский «Тяньхэ-2», уже превзошел этот показатель: он способен проделывать порядка 32 квадриллионов операций в секунду. Но «Тяньхэ-2» занимает 720 квадратных метров площади, потребляет 24 мегаватта энергии (наш мозг потребляет всего 20 ватт) и стоит 390 миллионов долларов. О коммерческом или широком применении речь не идет.

Курцвейл предлагает оценивать состояние компьютеров по тому, как много операций в секунду можно купить на 1000 долларов. Когда это число достигнет человеческого уровня (10 квадриллионов операций), сильный ИИ вполне может стать частью нашей жизни.

Согласно закону Мура, который выполняется на протяжении всего времени существования компьютеров, максимальная вычислительная мощность удваивается примерно каждые два года. Получается, развитие компьютерной техники, как и развитие человеческой цивилизации, растет по экспоненте. Если соотнести это с правилом тысячи долларов Курцвейла, на эту сумму мы сейчас можем себе позволить 10 триллионов операций в секунду.

Компьютеры за 1000 долларов по своим вычислительным способностям обходят мозг мыши и в тысячу раз слабее человека. Не особо впечатляет. Но не забывайте, что еще в 1985 году компьютеры были слабее человеческого мозга в триллион раз, в 1995-м — в миллиард, а в 2005-м — в миллион. К 2025 году мы должны получить доступный по цене компьютер, не уступающий по вычислительной мощности нашему мозгу.

На сегодняшний день железо уже позволяет нам создать сильный ИИ и сделать его массовым продуктом в течение 10 лет. Но вычислительная мощность сама по себе не делает компьютер сильным ИИ. Так что следующая задача — это раскрыть потенциал этого компьютера.

Второй шаг к созданию сильного ИИ: делаем его умным

Вот с этим загвоздка. По правде говоря, никто толком не знает, как сделать машину умной: мы до сих пор пытаемся понять, как создать интеллект человеческого уровня, способный отличить кошку от собаки, узнать букву «Б» в любом начертании и дать второсортному фильму соответствующую оценку. Существует горстка далеких от жизни подходов, но в один прекрасный момент один из них должен сработать. Вот три наиболее распространенных:

1. Позаимствовать принципы работы мозга

В этом случае ученые похожи на школьников, которые изо всех сил пытаются понять, как их однокласснику удается так хорошо писать контрольные. Сколько над задачами не бейся — он все равно впереди. В итоге решают так: «ну нафиг, возьмем и спишем у него ответы». Подход логичный: сверхсложный компьютер создать не выходит, зато у каждого в голове есть по рабочему прототипу.

Научный мир трудится в поте лица, пытаясь выяснить, как работает наш мозг и как эволюция создала такую сложную штуку. По самым оптимистичным оценкам, получится это у них только к 2030 году. Но как только мы поймем все секреты эффективной и мощной работы мозга, мы сможем использовать эти знания для создания ИИ. Примером компьютерных архитектур, которые имитируют работу мозга, могут служить нейронный сети. В их основе сеть из похожих на транзисторы «нейронов», которые могут принимать и передавать между собой сигналы. Эта сеть ничего не знает и не умеет — прямо как мозг новорожденного. Система «обучается», пытаясь выполнить некоторую задачу, например, распознавать рукописный текст. Поначалу нейроны сети будут активироваться случайным образом и называть написанные буквы наугад. Однако в случае правильного ответа связи между активированными нейронами укрепляются, а в случае неверного — ослабляются. Методом проб и ошибок система выстраивает эффективные нейронные связи, оптимизируя саму себя под выполнение нужной задачи. Мозг обучается похожим образом, но в куда более сложной манере. По мере его изучения, мы открываем все более изощренные способы улучшить структуру нейронных сетей.

Кроме того, можно заняться самым настоящим плагиатом и эмулировать мозг полностью. Для этого предполагается нарезать настоящий мозг на тонкие фрагменты, отсканировать каждый из них, затем точно воссоздать их трехмерную модель, а затем запустить модель мозга на мощном компьютере. Так мы получим компьютер, который сможет делать все, что может делать мозг: ему просто нужно будет собирать информацию и обучаться. А если инженеры как следует постараются, мозг получится эмулировать с такой невероятной точностью, что после загрузки в компьютер настоящая личность хозяина и его память останутся невредимы (?). После смерти сознание человека проснется внутри компьютера уже в виде ИИ человеческого уровня, и можно будет заняться его превращением в искусственный сверхразум, чему он наверняка обрадуется.

Насколько мы далеки от полной эмуляции мозга? По правде говоря, мы только-только эмулировали мозг миллиметрового плоского червя, в котором всего-то 302 нейрона. В мозгу человека их 100 миллиардов. Может показаться, что затея безнадежная, но не стоит забывать о том, что скорость прогресса увеличивается экспоненциально. Следующим шагом станет эмуляция мозга муравья, затем будет мышь, а там и до человека рукой подать.

2. Поставить себе на службу саму эволюцию

Что ж, если ответы отличника окажутся слишком сложными, и списать ничего не получится, можно попытаться повторить метод подготовки, которым он пользуется.

Что нам известно? Создать компьютер, равный мозгу по мощности, вполне возможно — эволюция нашего собственного мозга это доказала. И если мозг слишком сложен для эмуляции, можно попробовать эмулировать эволюцию. Дело в том, что даже если мозг получится воссоздать, это будет сродни попытке построить самолет, повторяющий движения крыльев птицы. Чаще всего при создании механизмов лучше использовать свежий машинно-ориентированный подход, чем в точности копировать биологические процессы.

Так как же имитировать эволюцию, чтобы получить сильный ИИ? Существует метод под названием «генетический алгоритм». Работает он примерно так: раз за разом выполняет некоторую задачу и получает оценку результатов (в ходе эволюции «оценкой» живого существа служит возможность передать свои гены потомству). Группа программ будет выполнять задачи, а самые успешные из них будут «скрещиваться» — отдавать по половине своего кода программе-потомку. Менее успешные будут уничтожены. Через много-много итераций такая селекция позволит вывести программы, все более подходящие для решения задачи. Сложность заключается в создании и автоматизации циклов оценки и скрещивания, чтобы процесс эволюции шел сам по себе.

Недостаток имитирования эволюции в том, что на нее уходят миллиарды лет, а нам хотелось бы провернуть все лет за 20-30.

Но в отличие от эволюции, у нас есть масса преимуществ. Во-первых, у нее нет дара предвидения, она работает случайно (скажем, бесполезных мутаций образуется больше, чем полезных), а мы можем контролировать процесс в рамках поставленных задач. Во-вторых, у эволюции нет цели, в том числе и стремления к интеллекту. А иногда в окружающей среде некоторый вид выигрывает не за счет интеллекта (потому что последний потребляет больше энергии). Мы же, с другой стороны, можем поставить целью именно развитие интеллекта. В-третьих, чтобы отбирать программы по интеллектуальному уровню, эволюции необходимо произвести ряд сторонних улучшений (например, переделать систему производства энергии в клетках), мы же можем просто убрать лишнее и использовать электричество. Вне всяких сомнений, мы справимся быстрее эволюции — но опять же, непонятно, сможем ли ее превзойти.

3. Предоставить компьютеры самим себе

Если ученые совсем отчаются, им остается только попытаться запрограммировать систему на саморазвитие. Однако этот метод может оказаться самым перспективным из всех.

Идея в том, чтобы создать компьютер, у которого будет два основных навыка: исследовать искусственный интеллект и вносить изменения в свой собственный код. Это позволит ему не только больше узнавать, но и улучшать собственную архитектуру. Можно сделать компьютеры инженерами и обучить саморазвиваться без посторонней помощи. Их основной задачей будет выяснить, как стать умнее. Подробнее об этом мы еще поговорим.

Все это — дело ближайшего будущего

Стремительное развитие аппаратного обеспечения и эксперименты с программами происходят параллельно, и сильный ИИ может появиться быстро и неожиданно по двум основным причинам:

1. Экспоненциальный рост идет интенсивно, и черепашьи шаги могут в одночасье превратиться в семимильные прыжки. Идею хорошо иллюстрирует вот эта гифка:

Объем озера Мичиган (в жидких унциях) равен объему нашего мозга (в операциях в секунду). Вычислительная мощь удваивается каждые 18 месяцев. При таком темпе, результатов долгое время не будет видно, как вдруг — раз, и все уже случилось.

2. В части программного обеспечения развитие может казаться медленным, но одно открытие может резко изменить ситуацию (пытаясь описать движение небесных тел в геоцентрической системе, наука топталась на месте, но когда люди взяли за основу гелиоцентризм, все стало намного легче). Так же и с саморазвивающимся компьютером. Еще вчера казалось, что он очень далек от сильного ИИ, но одна «мутация» в его программном обеспечении может сделать его в тысячу раз эффективнее, и вот он уже на пороге человеческого уровня.

Путь от сильного ИИ к сверхразуму

Когда-нибудь мы обязательно создадим ИИ человеческого уровня. Как хорошо, компьютеры и люди будут сосуществовать в мире и равенстве.

А может, и нет.

Дело в том, что ИИ с таким же уровнем интеллекта и вычислительной мощности, что и человек, будет по-прежнему иметь значительные преимущества перед людьми.

Аппаратное обеспечение

• Скорость. Максимальная частота нейронов мозга — около 200 Гц, в то время как современные процессоры (которые значительно медленнее тех, что мы получим к моменту создания сильного ИИ) работают с частотой 2 ГГц, в 10 миллионов раз быстрее наших нейронов. А передача сигнала между отдельными частями мозга осуществляется со скоростью 120 м/с, поэтому мозг существенно уступает возможности компьютеров передавать данные со скоростью света.

• Размер и память. Мозг ограничен размером черепа, и он не может стать больше. В противном случае при скорости 12 м/с сигналу потребуется слишком много времени, чтобы добраться от одной структуры до другой. У компьютеров такого ограничения нет: они могут быть практически любого размера и иметь в своем арсенале куда больше вычислительной мощности. Это же справедливо и для памяти, как оперативной, так и физической.

• Надежность и долговечность. И дело не только в том, что память компьютеров гораздо точнее человеческой. Компьютерные транзисторы точнее биологических нейронов и вряд ли станут работать хуже (если что, их можно заменить или починить). Мозги людей быстрее устают, компьютеры же могут работать без остановки 24 часа в сутки 7 дней в неделю.

Программное обеспечение

• Возможность модификации, обновления, более широкий спектр возможностей. В отличие от человеческого мозга, компьютерную программу можно легко обновлять и исправлять, с ней можно экспериментировать. В то же время программы можно улучшать и в тех областях, в которых человеческий мозг показывает слабые результаты. Программное обеспечение человека, отвечающее за зрение, устроено великолепно, а вот способность разрабатывать сложные инженерные системы — довольно низкого качества. Компьютеры могут сравняться с человеком как в области обработки визуальной информации, так и в сфере инженерии.

• Коллективный разум. Человечество обошло все другие виды животных в том, что касается взаимодействия между отдельными особями. Это началось с создания языка и формирования крупных общин, потом эта способность была усилена изобретением письменности и печати, а в недавнее время, с развитием интернета, получила огромный толчок в своем развитии. Но компьютеры все равно будут лучше. Благодаря интернету ИИ смогут синхронизировать свои данные, и таким образом каждый из них будет иметь доступ ко всем знаниям, полученным любым из ИИ. Также они смогут эффективнее людей работать над одной задачей, так как у них не бывает разногласий, проблем с мотивацией и эгоизма, свойственных человеку.

Для ИИ, который, вероятнее всего, станет сильным посредством программного самосовершенствования, «интеллект человеческого уровня» не будет важной вехой — эта веха важна только для нас. У него не будет никаких причин останавливаться на этом сомнительном уровне. А учитывая те преимущества, которыми он будет обладать уже на человеческом уровне, становится понятно, что он задержится на нем ненадолго, и тут же рванет к невиданным ранее высотам.

Такое развитие событий может нас весьма и весьма удивить. На то есть две причины:

а) единственный критерий, который позволяет нам определять качество интеллекта, — это интеллект животных, а он по умолчанию ниже нашего;

б) умный человек нам кажется на порядок умнее глупого человека.

Мы смотрим на это примерно так:

То есть пока ИИ стремительно подбирается к нашему уровню развития, мы смотрим на него свысока и думаем: «Молодец, умнеет». Когда он доберется до первого человеческого уровня (Ник Бостром использует термин «деревенский дурачок»), мы будем в восторге: «Ух ты, прямо как человек, только туповат». Правда, на спектре человеческого интеллекта между деревенским дурачком и Эйнштейном разница невелика — поэтому преодолев уровень дурачка и став сильным ИИ, он внезапно станет умнее Эйнштейна. Мы и глазом моргнуть не успеем.

А что будет дальше?

В тему: Искусственный интеллект может вступить в конфликт с человеческой расой

Взрывное развитие ИИ

Надеюсь, вам понравилась «нормальная» часть статьи, потому что сейчас обсуждаемая нами тема выходит за рамки нормального и начинает не на шутку пугать. Сделаю коротенькое замечание: все, что я скажу, — реальные научные факты и прогнозы на будущее, высказанные самыми выдающимися теоретиками и учеными. Просто имейте в виду.

Как мы обозначили выше, во всех современных моделях искусственный интеллект становится сильным за счет самосовершенствования. И даже если сильный ИИ будет создан другим способом, его ума хватит, чтобы начать самосовершенствоваться (если он того захочет).

Здесь в игру вступает очень интересное понятие: рекурсивное самосовершенствование. Вот как это работает.

Некая система ИИ на определенном уровне (того же деревенского дурачка) запрограммирована на улучшение собственного интеллекта. После каждого улучшения система умнеет (скажем, выходит на уровень Эйнштейна) и теперь развивается быстрее, а скачки в развитии становятся больше. В результате она становится еще умнее — это позволяет делать скачки еще больше и быстрее. После очередного скачка уровень интеллекта резко увеличивается и в скором времени достигает сверхразума. Этот процесс называется взрывным развитием интеллекта, и это ярчайший пример закона ускоряющейся отдачи.

Ученые спорят о том, как быстро ИИ достигнет человеческого уровня. На вопрос, когда мы сможем создать сильный ИИ, половина опрошенных ученых ответила «раньше 2040 года», половина — «позже». Две тысячи сороковой год всего через 25 лет. Кажется, не так уж много. При этом многие теоретики считают, что переход от сильного ИИ к сверхразуму произойдет крайне быстро. Можно представить следующий сценарий.

Развитие до нижней границы интеллекта человеческого уровня займет у ИИ десятилетия. Компьютер способен понимать мир вокруг как четырехлетний ребенок. Внезапно, буквально через час после достижения этого уровня, система выдает великую теорию, которая объединит общую теорию относительности и квантовую механику, чего с уверенностью не смог сделать ни один человек. Через полтора часа ИИ становится сверхразумом, в 170 000 раз умнее любого из людей.

Сверхразум такого масштаба для нас будет столь же непостижим, как кейнсианство для шмеля. В нашем мире быть умным значит иметь IQ выше 130, быть глупым значит иметь IQ порядка 85, а вот для IQ 12 952 у нас даже нет названия.

История человечества говорит нам ясно и четко: вместе с интеллектом приходит могущество. Это значит, что когда мы создадим искусственный сверхразум, он будет самым могущественным созданием в истории жизни на Земле, и все живые существа, включая человека, будут всецело в его власти. И случиться это может уже лет через 30.

Если наши скудные мозги были в состоянии придумать Wi-Fi, то интеллект, который в сто, тысячу, миллиард раз умнее нас, с легкостью сможет рассчитать положение каждого атома во вселенной в любой момент времени. Все, что можно назвать магией, любая сила, которую приписывают всемогущему божеству, — все это будет в распоряжении сверхразума. Создание технологии, обращающей вспять старение, лечение любых болезней, избавление от голода и даже смерти, управление погодой — все внезапно станет возможным. Как и немедленное уничтожение всей жизни на Земле. Умнейшие люди нашей планеты сходятся во мнении, что как только в мире появится искусственный сверхразум, это ознаменует появление бога на Земле. Остается лишь один животрепещущий вопрос: Будет ли он добрым?

—

Автор: Тим Урбан

Оригинал: Wait But Why

Озвучил: Тарасов Валентин

Переводил: Александр Иванков (с использованием элементов перевода Kh_artem и Ильи Хеля)

Источник: Newочём

В тему:

• Искусственный интеллект сделает работу человека «надсмотрщиком» востребованной - The Economist
• Созданная искусственным интеллектом картина продана на аукционе за $432,5 тысячи (ФОТО)
• Старение вспять и будущее человечества. Прогноз от влиятельнейшего генетика нашего времени
• Націоналізм і штучний інтелект: Чому технології машинного навчання призведуть до глобальної нестабільності
• Ушел из жизни Стивен Хокинг: ученый, изменивший наше представление о Вселенной