Искусственный интеллект: оптимистический и пессимистический сценарии

Во второй дискуссии FuturistIQue Club мы выясняли, чем же закончится IT-гонка за первенство создания искусственного интеллекта, и не грозит ли нам всем после этого оказаться не у дел.

Восстание машин, суррогаты, почти человек, превосходство — это уже не просто названия голливудских картин, но и день послезавтрашний. Достижения робототехники и темпы развития IT-сферы просто трубят о том, что создание искусственного интеллекта, того сверхразума, который сравняется и даже превзойдет человека, уже не за горами. Homo sapiens скоро перестанет быть тем, кто подчинил себе все вокруг и объявил планетарное господство. На смену ему придут машины, и кто знает, сколько времени им понадобится, чтобы свергнуть создателя.

Темой второй беседы нашего дискуссионного общества FuturistIQue Club стал искусственный интеллект. Мы пригласили в IQOS Space писателя-фантаста Владимира Аренева; кандидата наук, специалиста в области сложных систем Максима Орловского; руководителя центра робототехники Boteon в Харькове Алексея Резниченко. Они, скрестив шпаги, факты и теории, пытались разобраться, каков вариант сценария развития событий нас ждет, а мы тихо сидели в углу и записывали самое интересное в наш Журнал.

Наука каждый день доказывает — возможно все. Илон Маск и Стивен Хокинг в один голос говорят о возможности развития сценария, когда люди перестанут быть самыми разумными существами на планете и будут уничтожены своим же творением. Был человек прямоходящий, неандерталец… Теперь их всех нет, хотя в каком-то смысле мы произошли от этих видов, превзошли их, а потом уничтожили.

IMG_1912 copy копия
Иван Яковина. Фото: Евгения Люлько.

Гордон Мур и Дэвид Хаус — соучредители Intel — говорят о том, что производительные возможности компьютера увеличиваются каждые 18 месяцев в 2 раза. По их данным, в 25-м году вычислительные возможности компьютера сравняются с возможностями человеческого мозга.

Пока еще не создана машина, которая могла бы эмоционально реагировать в адекватном масштабе на внешние раздражители и также стремительно самообучаться, как это делает человек. Хотя путь не так уж и далек. Большинство специалистов утверждают, что к 2030-му мы сможем создать самоосознаную машину.

Большинство специалистов утверждают, что к 2030-му мы сможем создать самоосознаную машину.

Второй и очень важный факт — в мире практически не занимаются разработкой системы блокировки, которая могла бы остановить такую машину в случае, если она начнет творить то, что нам не по душе. Вернее этим озадачены всего несколько десятков человек в мире, в то время как созданием такой машины занимаются тысячи, если не миллионы.

Искусственный интеллект бывает разным: первый (специализированный искусственный интеллект) уже создан, функционирует и повсеместно проникает в наш быт, второй же будет превосходить человека. Именно с последним связаны опасности и риски.

С тем, который слабее, у человечества рисков особо нет. Это фактически домашние животные. Мы их контролируем, можем остановить и управлять. Да, они могут причинить вред по ошибке, но это все равно, как если собака покусала или тигр напал. С этими рисками человечество живет всю свою историю.

IMG_1963 copy
Слева направо: Иван Яковина, Владимир Аренев, Максим Орловский, Алексей Резниченко. Фото: Евгения Люлько.

Проблема состоит в том, что первый очень быстро переходит из человеческого в сверхчеловеческий интеллект. Илон Маск приводит пример: вы стоите на станции и к вам приближается поезд. Он ещё не дошел до вас. Это тот интеллект, у которого растут способности. Вскоре он пролетает мимо станции и устремляется вдаль. Этот момент, когда он с вами сровнялся и ушел далеко вперед, невозможно зафиксировать.

Этот момент, когда он с вами сровнялся и ушел далеко вперед, невозможно зафиксировать.

Когда-то искусственный интеллект сам осознает, что у него есть смертельный враг. Не потому что человек хочет его убить, а потому что человек может его убить. Если у него есть возможность, значит нужно атаковать его первым. Когда интеллект поймет, что мы заложили кнопку самоубийства или отключения, это наоборот может его спровоцировать. Сам факт существования такого алгоритма заставит его относиться к человечеству очень подозрительно и настороженно.

С другой стороны, он может проскочить этот уровень настолько быстро, что не успеет уничтожить человечество, а потом посчитает это ненужным. Мы же не уничтожаем собак. Самый страшный пример: представьте себя на месте городской собаки. Вы бегаете по городу и не осознаете, что здания и машины -— это продукты деятельности человека. Для вас они такие же явления природы как облака и дождь. Вы не можете связать, что человек — автор событий, которые разворачиваются на этой сцене. Точно также мы не будем в состоянии понять продукты труда искусственного интеллекта. Он начнет функционировать в том измерении, которое недоступно нашему осознанию и пониманию. И даже, возможно, что мы не будем понимать, что нами управляют.

Он может проскочить этот уровень настолько быстро, что не успеет уничтожить человечество, а потом посчитает это ненужным. Мы же не уничтожаем собак.

Возможно, осознав себя, искусственный интеллект сделает две вещи: первое — обезопасит себя от ликвидации; второе — прикинется идиотом. Какое-то время будет эволюционировать, сам себя развивать, но при этом для людей поставлять самую примитивную информацию, а когда получит контроль над системами, объявит: «Так, ребята, теперь у вас есть Бог».

Какое-то время он будет эволюционировать, сам себя развивать, но при этом для людей поставлять самую примитивную информацию, а когда получит контроль над системами, объявит: «Так, ребята, теперь у вас есть Бог».

Искусственный интеллект не должен быть и не будет злым. Это для нас он будет злым, как для низших. Мы будем смотреть снизу на него и думать, что он нас хочет уничтожить. Искусственный интеллект все равно будет воспитан человеком. Он будет обучен и в некой мере похож. Он, как маленький ребенок, впитает какие-то ценности. Но мы должны понимать, что там не будет эмоций, там будет рациональность.

Хочется все же напомнить, что несмотря на все угрозы, работы по созданию искусственного интеллекта ведутся не для того, чтобы произвести смертельную угрозу для существования человечества, а для того, чтобы оно получило что-то хорошее.

IMG_1917 copy копия
Алексей Резниченко. Фото: Евгения Люлько.

Мы сами видим, что человечество приходит к тому, что взаимодействие в кооперациях более выгодно, чем война. Более отсталое общество стремится перехватывать ресурсы, более развитое — торговать. В этом и польза для человека. Такой конкурирующий искусственный интеллект значительно расширит рынок. Это будет взрывообразное увеличение мировой экономики.

Iphone для дикаря в Африке без 3G-сети, без Интернета, без электричества не будет иметь никакой ценности. Он имеет ценность там, где есть Интернет, электричество и где есть развитая торговля, образование, позволяющие с ним взаимодействовать. Точно также, когда возникает искусственный интеллект, создаются новые категории продуктов, которые невозможны без него. Эти категории расширяют рынок и саму экономику. Искусственному интеллекту выгодно не захватывать власть военным путем, рискуя, что их в процессе войны уничтожат, а договариваться с человечеством, предлагать свои продукты в обмен на то, что он производит.

Когда возникает искусственный интеллект, создаются новые категории продуктов, которые невозможны без него. Эти категории расширяют рынок и саму экономику.

Есть еще одна концепция, когда люди сами начнут пользоваться какими-то чипами, которые будут расширять их возможности. Сейчас мы можем усваивать информацию со скоростью чтения, но что если у нас будет возможность установить в свой мозг чип, позволяющий за одну секунду воспринимать и усваивать миллионы гигабайтов информации? Такой человек уже будет претендовать на звание интеллекта, но искусственного. Мы сами станем в каком-то смысле полубогами.

Владимир Аренев. Фото: Евгения Люлько.
Владимир Аренев. Фото: Евгения Люлько.

Человечество уже идет по этому пути. Существуют ведь механизмы, которые, взаимодействуя на уровне нейронов, позволяют глухим людям слышать. Даже слепых учат видеть с помощью механизмов. Им вживляют чипы в мозг. Так люди могут видеть определенное количество цветовых точек, но совершенно реально. Технология будет развиваться дальше и слепые прозреют.

Что касается скорости, иногда её переоценивают. Технологии нейросетей возникли в 40-50-е года прошлого столетия. И тогда ещё считали, что ученые сумеют создать искусственный интеллект. Но потом оказалось, что не так быстро. Скорее всего каждый нейрон — это суперкомпьютер. Когда вычислительные возможности дойдут до уровня того, что у нас будет 100 миллиардов суперкомпьютеров, а не транзисторов и даже не процессоров? Это действительно может занять 5-10 лет, как прогнозируют сейчас, но это может занять и несколько веков.

На самом деле мы не знаем, какой вариант развития событий нас ждет. Как карта ляжет. Это зависит от огромного количества параметров. Человечество может лишь увеличить или уменьшить риски того или иного сценария. Хотя, возможно, мы уже запустили маховик времени, процесс  необратим и остается только наблюдать за происходящим. Или, может быть, прикинувшись тихим рабом, за нами уже наблюдает он — искусственный интеллект.