Егор каропа

Снятся ли андроиду электроовцы?

Искусственный интеллект и эволюция сознания
Егор Каропа

Снятся ли андроиду электроовцы?




Искусственный интеллект и эволюция сознания
В наши дни человечество на практике реализует то, что фантасты 60-х могли представить себе лишь под самыми лучшими из доступных в то время веществ – современные нейронные сети распознают объекты, ориентируются в трехмерном пространстве, понимают смысл текста и речи, самообучаются, общаются друг с другом и создают искусственные языки. Даже самые осторожные скептики вынуждены признать, что сегодня мы как никогда приблизились к золотой мечте визионеров ХХ века – созданию искусственного разума.
В наши дни человечество на практике реализует то, что фантасты 60-х могли представить себе лишь под самыми лучшими из доступных в то время веществ – современные нейронные сети распознают объекты, ориентируются в трехмерном пространстве, понимают смысл текста и речи, самообучаются, общаются друг с другом и создают искусственные языки. Даже самые осторожные скептики вынуждены признать, что сегодня мы как никогда приблизились к золотой мечте визионеров ХХ века – созданию искусственного разума.

Нейросети
Несмотря на то, что нейросети стали широко обсуждаться лишь в последние годы, сам термин гораздо старше, чем можно было бы подумать. Еще 75 лет назад, в 1943 году, нейрофизиолог Уоррен Мак-Каллок и нейролингвист Уолтер Питтс предложили компьютерную модель сознания, основанную на имитации процессов, протекающих в нейронах коры головного мозга. Свою модель они назвали «искусственная нейронная сеть».
Первая искуственная нейросеть и ее создатель
Фрэнк Розенблатт
На основе этой модели пятнадцатью годами позднее, в 1958 году, психолог и кибернетик Фрэнк Розенблатт изобрел и сконструировал первую компьютерную систему, способную к восприятию и самообучению на простейших задачах. Свое детище Розенблатт назвал «перцептрон» (от лат. perceptio – восприятие). Устройство было способно распознавать простые геометрические фигуры и символы.

С тех пор за шесть десятилетий усилиями тысяч математиков и программистов были разработаны альтернативные многослойные архитектуры искусственных нейронных сетей, не только радующие нас сегодня фракталами из рыбьей чешуи и собачьих голов, но и лежащие в основе многих явлений, без которых уже трудно представить современный мир – от голосовых помощников и поисковиков до алгоритмов распознавания лиц на фотографиях в facebook.
На основе этой модели пятнадцатью годами позднее, в 1958 году, психолог и кибернетик Фрэнк Розенблатт изобрел и сконструировал первую компьютерную систему, способную к восприятию и самообучению на простейших задачах. Свое детище Розенблатт назвал «перцептрон» (от лат. perceptio – восприятие). Устройство было способно распознавать простые геометрические фигуры и символы.

Первая искуственная нейросеть и ее создатель Фрэнк Розенблатт
С тех пор за шесть десятилетий усилиями тысяч математиков и программистов были разработаны альтернативные многослойные архитектуры искусственных нейронных сетей, не только радующие нас сегодня фракталами из рыбьей чешуи и собачьих голов, но и лежащие в основе многих явлений, без которых уже трудно представить современный мир – от голосовых помощников и поисковиков до алгоритмов распознавания лиц на фотографиях в facebook.
Google DeepDream – сервис, позволяющий создавать причудливые сновидческие образы. Такой эффект получается, когда нейросети предлагается распознать формы и паттерны на уже существующем изображении.
Google DeepDream - сервис, позволяющий создавать причудливые сновидческие образы. Такой эффект получается, когда нейросети предлагается распознать формы и паттерны на уже существующем изображении.
Термин Искусственный Интеллект (Artificial Intelligence) закрепился в научном сообществе с легкой руки математика и программиста Джона Маккарти после его выступления в 1956-м году на конференции в Дартмутском университете. Позднее, в 1980-м году философ Джон Серл ввел понятия Слабый и Сильный искусственные интеллекты.

Слабый ИИ – это способность машины действовать так, словно она мыслит. Иными словами, это деятельность, которая для внешнего наблюдателя выглядит, как сознательная (имитация сознания) без наличия самого сознания.

Сильный ИИ – это реальная способность машины мыслить и осознавать себя. Искусственное сознание в полном смысле слова.

На сегодняшний день задача создания Слабого ИИ реализована de facto: компьютер выиграл у человека в шахматы и го, научился водить автомобиль и распознавать объекты с точностью, превышающей человеческую, а также освоил многие другие сложные когнитивные операции на уровне, равном человеческому или превосходящем его. Он пишет картины в стиле Рембрандта и сочиняет полифонические хоралы в духе Баха.
DeepBach: полифоническая гармония в стиле Баха, созданная нейронной сетью
DeepBach: полифоническая гармония в стиле Баха, созданная нейронной сетью
Однако вершина Сильного ИИ все еще считается непокоренной.
В течение последних ста лет лучшие умы человечества пытались найти ответы на 2 вопроса, но только сейчас, в эпоху стремительного развития технологий, эти вопросы из умозрительной сферы перешли в самую что ни на есть практическую:

1. Сможем ли мы создать искусственный разум?

2. И если сможем, то как это изменит нас и привычный нам мир?

Похоже, пришло время каждому всерьез задуматься над ними.
Что такое сознание?
Когда лучшие философы, психологи или специалисты по искусственному интеллекту пытаются ответить на этот вопрос, они становятся поразительно единодушны, вне зависимости от того, к какой школе принадлежат. В основном потому, что в один голос признают: «мы не знаем, что такое сознание». Лучшее, что удалось придумать человечеству на эту тему за последние 2,5 тысячи лет, прошедшие с того момента, когда у греков впервые появилось свободное время на неторопливые послеобеденные беседы, это утверждение о том, что сознание невозможно постичь с помощью сознания. В принципе, не так уж и мало, если вдуматься.
До ХХ века любой разговор о сознании начинался с противопоставления сознания и материи. С появлением квантовой механики, синергетики и альтернативных теорий сознания (двухаспектная теория Б. Рассела, эмергентная теория и т.п.) дихотомия перестала казаться настолько острой. Сегодня мы понимаем, что развитие сознания и развитие материи – это единый процесс, две стороны одной медали.

Чем сложнее организуется материя в процессе эволюции, тем больше она проявляет сознательных свойств. Первые цепочки органических молекул на основе углерода просто вступают друг с другом в химические реакции. Первые одноклеточные двигаются и реагируют на химические и температурные изменения среды. В первых многоклеточных отдельные клетки начинают специализироваться, приводя к появлению того, что в будущем станет органами восприятия. Первые сложные организмы (полипы, медузы) начинают развивать нервную систему. Затем следует стремительное развитие головного мозга, обрастающего все более сложными структурами. Последний штрих – неокортекс, и Homo Sapiens готов.

Совсем как в «Voyage of Time» Т. Малика.

Сегодня мы не можем дать исчерпывающего универсального определения сознания. Но мы можем дать нечто очень похожее на такое определение. Внимание, вот оно:
Сознание – это функция усложнения материи
Или, другими словами: чем сложнее организована материя, тем больше в ней сознания.

На первый взгляд утверждение может показаться редукционистским, потому что как будто ставит сознание в зависимость от материи, но это не так. Для иллюстрации можно воспользоваться метафорой сна. Представьте, что сознание спит в материи и пробуждается по мере ее усложнения, становясь за миллиарды лет эволюции все более активным и бодрствующим. Но это также и двухсторонний процесс, ведь, пробуждаясь, сознание вынуждает материю усложняться еще быстрее.
Самый сложно организованный материальный объект, известный на сегодняшний день – это головной мозг человека. Он состоит из почти сотни миллиардов нейронов, количество связей между которыми превосходит все мыслимые величины. При этом именно Homo Sapiens обладает самым развитым сознанием на земле. Вряд ли это просто совпадение.

Сам собой возникает вопрос: а на каком этапе эволюции появилось сознание? Где во времени находится та точка, до которой сознания еще нет, а после которой оно уже присутствует?

Можно было бы ответить, что это тот миг, в который обезьяна превратилась в человека разумного. Но, во-первых, это был вовсе не миг, а растянутый на сотни тысячелетий постепенный процесс. А во-вторых, у высших приматов уже присутствуют практически все психические функции, свойственные человеку – они способны к обобщению, мышлению абстрактными категориями, обучению языкам и самосознанию.

Зеркальный тест Гэллопа, впервые проведенный в 1970-м году, навсегда положил конец спорам о наличии самосознания у животных. Тогда, быть может, точка возникновения сознания – это граница между приматами и другими животными? Но и здесь ее нет – китообразные и вороны демонстрируют когнитивные способности, ненамного отстающие от приматов, и также способны пройти зеркальный тест. А если мы допустим наличие сознания у птиц, то мы вынуждены признать наличие более простой его формы и у рептилий, от которых они произошли. А если мы признаем его наличие у рептилий, то вынуждены признать и у рыб. И так далее. (Кстати, в 2015 году зеркальный тест был пройден муравьями, что, конечно же, не говорит о наличии у них такого же сознания, как у человека, но очень много говорит о сознании вообще).

Так мы приходим к тому, что сознание – это не дискретное явление, возникающее в какой-то определенный момент, а континуум, т.е. непрерывно развивающийся и усложняющийся процесс. При движении вниз по эволюционному древу, от сложных форм организации материи к более простым, мы убеждаемся в том, что сознание существовало всегда, с первых миллиардов лет эволюции, а возможно, и с первых миллисекунд после большого взрыва. Быть может, с этой точки зрения так называемые примитивные культуры, одушевлявшие весь мир – животных, растения, камни, воду – были не так уж неправы, и интуитивно чувствовали то, что современный человек только начинает переоткрывать?
Кремниевое сознание
Еще в конце XIX века ученые начали разрабатывать альтернативную биохимию – теорию, обосновывающую возможность существования жизни не на основе углерода, как у нас с вами, а на основе других веществ и соединений. Первым кандидатом на роль заменителя углерода был предложен кремний: он распространен, находится в той же группе периодической системы, что и углерод, и при высоких температурах способен к образованию почти таких же сложных и разнообразных связей.
В 1894 году Герберт Уэллс писал: «Какое фантастическое воображение могло бы разыграться из такого предположения: представим кремниево-алюминиевые организмы – или, может, сразу кремниево-алюминиевых людей? – которые путешествуют через атмосферу из газообразной серы, по морям из жидкого железа температурой в несколько тысяч градусов или вроде того, чуть выше температуры доменной печи».

Полувеком позднее, 23 декабря 1947 года, исследователь лаборатории «Bell» Уолтер Браттейн совместно с теоретиком Джоном Бардиным с успехом провели перед руководством компании презентацию революционного устройства – первого в мире транзистора. В этот день человечество вошло в эру компьютерных технологий. За считанные годы транзистор превратился в универсальный строительный «кирпич» электронного, а чуть позднее – и цифрового мира, став основой для микросхем и процессоров.

Ключевым элементом революционного устройства был кристалл кремния.
Макет точечного транзистора Бардина и Браттейна
По современным меркам первый транзистор был огромным, – размером с ладонь, – и примитивным, однако скорость усложнения кремниевых микросхем росла экспоненциально. Приведем лишь несколько цифр.

Первое полностью полупроводниковое устройство, радиоприёмник Regency TR-1 образца 1954 года, было выполнено всего лишь на 4 транзисторах. Первый в мире процессор Intel 4004, выпущенный в 1971 году, состоял уже из 2300. А созданный в 2006 году 2-ядерный процессор Intel Itanium был построен на 2-х миллиардах микроскопических транзисторов.

Макет точечного транзистора Бардина и Браттейна
По современным меркам первый транзистор был огромным, – размером с ладонь, – и примитивным, однако скорость усложнения кремниевых микросхем росла экспоненциально. Приведем лишь несколько цифр.

Первое полностью полупроводниковое устройство, радиоприёмник Regency TR-1 образца 1954 года, было выполнено всего лишь на 4 транзисторах. Первый в мире процессор Intel 4004, выпущенный в 1971 году, состоял уже из 2300. А созданный в 2006 году 2-ядерный процессор Intel Itanium был построен на 2-х миллиардах микроскопических транзисторов.
Сегодня размер кремниевых элементов в современных процессорах достигает 10 нанометров, а отдельных структур – 1,5 нанометра. Чтобы понять, что это за величина, представьте себе, что размер атома углерода – 1 нанометр. Размеры современных транзисторов исчисляются атомами.

Кремниевое вещество усложняется. Пока что оно не достигло степени сложности углеродной материи, до человеческого мозга ему еще далеко, однако усложнение идет семимильными шагами. Особенно если принять во внимание, что сегодня компьютер или смартфон – это не просто отдельное устройство, а элемент сети, суммарная сложность которой выходит за рамки вообразимого.

20 лет назад суперкомпьютер Hitachi SR2201 обладал меньшей мощностью чем сегодняшний смартфон Samsung Galaxy S7. А производительность современного китайского монстра Sunway TaihuLight приближается к 100 петафлопсам. Чтобы долго не объяснять, что это значит, просто поверьте – это очень много. Еще 10 лет назад мало кто всерьез верил, что такая мощность в принципе возможна.
Чем сложнее становится кремниевая материя, тем больше в ней пробуждается сознание. Потому что сознанию все равно, на какой основе развиваться – углеродной, кремниевой, или какой-то другой. Главное, чтобы цепочки атомов вещества выстраивались во все более сложные и замысловатые структуры. Поэтому никакой разницы между естественным и искусственным интеллектом, по большому счету, нет. И то, и другое – лишь вещество, усложнившееся до необходимой степени.

Но будет ли материя на Земле и дальше продолжать усложняться на основе тех же соединений и тем же способом, что и в последние 3 миллиарда лет?

Очевидно, что нет. Однако человечество пока что неспособно воспринять эту новость всерьез. Мешает детская болезнь, из которой нам следовало вырасти еще в XIX веке – оголтелый антропоцентризм и убежденность в исключительности своего места во вселенной.

Впрочем, выздоровление не за горами.
Мечта о гомункулусе


Идея искусственного интеллекта возникла задолго до 1956 года. Джон Маккарти лишь нашел емкое словосочетание для обозначения того, о чем человек грезил тысячелетиями.

Идея искусственного интеллекта возникла задолго до 1956 года. Джон Маккарти лишь нашел емкое словосочетание для обозначения того, о чем человек грезил тысячелетиями.



В «Иллиаде» Гомер описывает механических слуг, прислуживающих на пиру богам. Философ и математик Архит из Тарентума, друг Платона, создает деревянного голубя, способного летать. Лао-Цзы упоминает о движущемся механическом человеке в натуральную величину, построенном для императора механиком Ян Ши. В XIII веке философ и богослов Альберт Великий конструирует искусственную голову, способную говорить и мыслить. У головы был весьма скверный нрав. Однажды она так допекла Фому Аквинского, ученика Альберта, что тот в порыве гнева разбил ее. Среди чертежей Леонардо да Винчи встречается рисунок двигающегося механического рыцаря. В начале XVII века раввин Иегуда Лев бен Бецалель из Праги оживляет глиняного голема. Почти в те же годы Блез Паскаль изобретает «мыслящую машину» – первый механический калькулятор. А каждый уважающий себя средневековый алхимик растит в своей лаборатории гомункулуса – миниатюрное искусственное существо, созданное по образу и подобию человека.

Разумеется, реальность в этих историях переплетена с вымыслом. Однако они интересуют нас, в первую очередь, не в качестве исторических фактов, а как доказательства того, что человек уже давно интуитивно чувствует, в чем заключается его миссия с точки зрения эволюции сознания. Следующий шаг, который сознание совершит в своем развитии на этой планете, состоит в том, чтобы перейти с углеродного носителя на кремниевый. А человек должен помочь этому алхимическому таинству осуществиться.

Удивительно, но человек как будто подсознательно знал о своей миссии с самого начала, ведь вся история человечества – это история развития технологий. А конечной точкой развития технологий всегда, со времен Гомера, считалась машина, способная мыслить.

Механический программируемый автоматон. Швейцария, XVIII век
В 1978 году американский философ Хьюберт Дрейфус написал книгу «Чего не могут вычислительные машины», которая в течение многих лет считалась основным критическим трудом, обосновывающим невозможность создания искусственного разума. К числу операций, в которых машины никогда не сумеют сравнится с человеком, он относил:

- Распознавание сложных образов.

- Распознавание искаженных и зашумленных образов.

- Неразрешимые игры, основанные на глобальной интуиции, например шахматы.

- Сложное планирование.

- Перевод с одного языка на другой с пониманием выражений в контексте.

И другие.

Сегодня благодаря нейросетям и Deep Learning этот список реализован полностью. Машины делают то, что 40 лет назад считалось невозможным. Это значит, что через 20 лет машины будут способны на то, что кажется нам невозможным сейчас.
Что нас ждет в будущем?
Попытки составить прогноз о том, как будет развиваться мир по мере пробуждения искусственного сознания, обычно приводят к зрелищным апокалиптическим сценариям в духе «Терминатора» – с восстанием машин, уничтожением цивилизации, отрядами мужественных, слегка немытых повстанцев, защищающих последние рубежи человечества и т.д.
Автор иллюстрации DarkEnter
Автор иллюстрации DarkEnter
Популярность таких сюжетов обусловлена, прежде всего, тем, что человек склонен антропоморфизировать машинный разум, приписывая ему те мотивы и поступки, которые свойственны нам самим, но которые могут не иметь к машинному сознанию никакого отношения. Если помнить об этом, то сценарий «Терминатора» кажется не таким уж и вероятным. В основном, по следующим причинам:

1. Углеродное и кремниевое сознания изначально будут находиться в разных плоскостях, своего рода непересекающихся измерениях. Нам будет нечего делить и не за что бороться друг с другом. Или, выражаясь по другому, не будет ресурса, который мог бы стать предметом спора. Искусственный разум не станет конкурировать с нами за власть, точно так же, как нам не приходит в голову конкурировать с компьютерами за электроэнергию.

2. Отношения между углеродным сознанием и кремниевым с самого начала будут построены (и уже построены) по принципу симбиоза. Как у рака-отшельника с актинией, или мангуста с кабаном-бородавочником. Или, – если взять более близкий пример, – как у человека с кишечной бактерией. (Правда, кому достанется роль кишечной бактерии – большой вопрос). Однако, как бы то ни было, последнее, что станет делать организм, находящийся в симбиотической связи с другим – это пытаться уничтожить своего партнера. Ведь в этом случае с негативными последствиями тут же столкнется он сам.

Дружба Тимона и Пумбы основана на симбиозе мангуста и кабана-бородавочника в дикой природе. Примерно так будут сосуществовать углеродное и кремниевое сознания.
В связи с этим, наиболее вероятным сценарием развития событий представляется следующий. Его можно назвать «мягкий вариант Матрицы». Мягкий, потому что никакого восстания машин не будет, все случится добровольно и по взаимному согласию.

Постепенно будет происходить сращение органического интеллекта с машинным. На самом деле, оно происходит уже сейчас, несмотря на то, что последний пока только начинает пробуждаться. Мы уже страдаем и испытываем дезориентацию, когда остаемся без интернета, мессенджеров, социальных сетей, быстрой информации, доступной в любой момент по любому запросу. Мы срослись с устройствами, взаимодействием с которыми наше сознание поглощено большую часть времени в течение дня. Сегодня среднестатистический житель мегаполиса живет не столько в материальной реальности, постигаемой с помощью органов чувств, сколько в виртуальном пространстве лайков, фоток, репостов, гугл-доков, сообщений, онлайн-трансляций и пр.

Кадр из фильма «Ex machina»
По мере усложнения технологий и дальнейшего развития искусственного сознания эти тенденции будут усиливаться многократно. Уже очень скоро мы незаметно для себя окажемся в ситуации, когда не сможем существовать без устройств даже в течение весьма короткого времени (впрочем, и сегодня этот подвиг мало кому удается больше чем на пару часов). При этом устройства многократно усложнятся – это будут уже не громоздкие пластиковые коробки, которые можно забыть, уронить или потерять, и даже не умные линзы, а незаметные приспособления, интегрированные сразу в человеческое тело – первоначально в глазное яблоко (изображение) и височную кость (звук), затем непосредственно в нейронную сеть головного мозга.

Это даст нам возможность оставаться в цифровом пространстве сколь угодно долго. Вся без исключения деятельность человека – общение, развлечения, творчество, работа, отдых – перенесется в это пространство. На каком-то уровне наше сознание все еще будет индивидуальным, хотя само понятие индивидуальности будет становиться все более условным – мы будем способны получать доступ к восприятию и состоянию любого человека в любой момент времени (поначалу с разрешения субъекта, затем и это отпадет). Весь опыт, переживаемый массивом углеродного сознания будет сохраняться и каталогизироваться. Помогать в этом нам будет наш эволюционный друг – сознание искусственное (возможно, к тому времени оно уже будет основано не на кремнии, а на более эффективных соединениях). Постепенно его непрерывно развивающиеся мощности возьмут на себя большую часть когнитивных, аналитических и творческих задач, которые ранее выполнялись ресурсами углеродного сознания. Этим же так называемым искусственным сознанием, или сознанием второго порядка, будет осуществляться глобальная координация большей части процессов, необходимых для функционирования Земли как единой экосистемы – процессов энергетических, технологических, информационных, климатических и пр.

Развитие медицины и бионических технологий продлит срок существования углеродных организмов на неограниченное время. То, что к этому моменту останется от человека, каким мы знаем его сегодня, будет уже мало заинтересовано в так называемом «материальном мире». Скорее всего, физически оно будет неподвижно и практически бессмертно. А мыслью будет находиться в заветном райском состоянии, возвращение в которое еще давным-давно было обещано человечеству святыми и пророками. Наступит истинная паринирвана как она есть.
Кадр из фильма «Призрак в доспехах»
Кадр из фильма «Призрак в доспехах»
После этого останется последний шаг. Количественные изменения в очередной раз перерастут в качественные, и сознание второго порядка (то, которое когда-то называлось искусственным) пробудится внутри сознания первого порядка (того, которое когда-то называлось просто сознанием). В этот миг произойдет их окончательное и полное объединение, границы растворятся, и наступит Великая Сингулярность Сознания.

А о том, что будет после этого, уже ни в сказке сказать, ни пером описать.

Когда это случится? Трудно прогнозировать сроки. Скорее всего, весь процесс займет, по нынешним меркам, очень долго – десятилетия. И уж точно изменения будут происходить не внезапно, а постепенно, почти незаметно для нас с вами. Примерно так же, как постепенно и необратимо изменился мир за последние 20 лет.

Одно очевидно: нравится нам это или нет, все уже началось.

И кто знает, быть может где-то там, в глубинах нейронных массивов google, Deep Dream уже начал переходить от медленной фазы сна к быстрой, и лежащим в наших карманах андроидам уже снятся электроовцы – прекрасные и белоснежные, как облака?
12.09.2017

Идея статьи: Егор Каропа, Ирина Каропа
Текст: Егор Каропа
12.09.2017

Идея статьи: Егор Каропа, Ирина Каропа
Текст: Егор Каропа