Джефф Хокинс: «Тысяча мозгов. Новая теория интеллекта»

Автор книги Джефф Хокинс — предприниматель и в прошлом основатель компаний Palm Computing и Handspring по разработке карманных компьютеров.

С 2002 года занимается нейронауками и основал центр теоретической неврологии Редвуда, где пытается создать биологическую математическую модель памяти и сознания. Также он разработал технологию искусственного интеллекта называемую «Иерархической Временной памятью», от англ. Hierarchical Temporal Memory или HTM. Она основана на взаимодействии пирамидальных нейронов в неокортексе мозга млекопитающих, включая человека. Модель имеет открытый исходный код, который есть на Github и который разработан компанией Numenta. Автор книги и есть ее основатель. Основная цель Numenta — это разработка теории о том, как работает неокортекс, а второстепенная цель — как эту теорию мозга можно применить к машинному обучению и машинному интеллекту.

На русский книгу официально еще не перевели, но ее можно найти на Amazon: Jeff Hawkins — A Thousand Brains: A New Theory of Intelligence (2021). Если все же хочешь погрузиться в любительский перевод в формате аудиокниги, то послушай плейлист от Альбина Albus на Youtube.

• 1. Как думает человек
• 1.1. Суть теории Хокинса: как мозг предсказывает будущее
• 1.2. Как нейроны голосуют и принимают коллективные решения
• 2. Как мог бы думать искусственный интеллект
• 2.1. Как понять, когда у машины появилось сознание
• 3. Как мы должны думать о будущем
• 3.1. Каким будет человек будущего
• 3.2. Что останется после нас
• 3.3. Три пути выживания человечества
• 4. Заключение

Как думает человек

Наш мозг состоит из нервных клеток, которые называются нейронами. У всех людей количество нейронов примерно одинаково — около 86 миллиардов.

Нейрон состоит из дендрита, аксона и синапсов. Между собой они соединяются через синапсы и дендриты, а общаются с помощью нейромедиаторов. При некоторых условиях нейроны, которые находятся рядом друг с другом, могут общаться и с помощью электрических импульсов через щелевое соединение. Но это детали, проще говоря через синапсы проходит электрохимический сигнал, который и связывает два нейрона, так образуется связь.

Ум и личность человека определяет не общее количество нейронов, а качество и количество связей между ними. Когда мы что-то припоминаем, то как бы посылаем сигналы по «нейронным дорожкам» и связи между этими нейронами крепнут. Если связь задействуется редко, то она постепенно распадается.

В ходе эволюции мозг усложнялся и наслаивался друг на друга. Упрощенно выделяют три слоя, начнем с самого глубокого:

Рептильный мозг, включая мозговой ствол и мозжечок. Основа, на которую все наслаивается. Отвечает за базовые функции жизнедеятельности: мышечные сокращения, дыхание, сон, кровообращение и другие.

Лимбическая система. Это скопление разных структур из конечного, промежуточного и среднего мозга. Они отвечают за эмоции, воспоминания, аппетит, поведенческие реакции, настроение, мотивацию, ощущение боли и удовольствия, раздражители и т. д.

Неокортекс. Самый верхний слой полушарий мозга. У млекопитающих он тоже существует, но только у человека смог максимально развиться. Именно он в большинстве случаев отличает нас от животных. Неокортекс ответственен за высшие сознательные функции, мышление, речь. Причем толщина этого слоя всего 2.5 мм, за которыми скрыты все мы.

Хотя различные области коры головного мозга выполняют весьма разнообразные функции, их анатомическая организация поразительно схожа. В неокортексе нейроны группируются в вертикальные или кортикальные колонки. Таких колонок около 150 тысяч, а каждая из них делится еще на несколько миниколонок, расположенных слоями, в каждом из которых присутствуют определенные типы нейронов и схемы их соединения.

Нейроны можно сравнить с армией клонов из фильма «Звездные войны». Хоть они и похожи, но их специализация зависит от того, к каким рецепторам (зрительным, обонятельным и т. п.) они «подключены».

Суть теории Хокинса: как мозг предсказывает будущее

Мозг создает модель окружающего мира на основе ежесекундных предсказаний, сделанных на основе опыта. Причем не только испытываемого лично, ведь получить опыт можно что-то прочитав, услышав или увидев. Этой информации будет достаточно для предсказания. Но если что-то идет не так, как ожидалось, то на этой обратной связи мозг корректирует картину мира и обучается.

Мозг формирует свою модель мира наблюдая за тем, как изменяются его входные сигналы с течением времени. Другого способа обучения не существует. В отличие от компьютера, мы не можем просто загрузить файлы в мозг. Единственный способ для него научиться чему-либо — это изменение входных сигналов. Если бы они были статичными, то есть никогда не менялись, то и невозможно было бы что-то узнать.

Раньше считали, что мозг просто отражает то, что происходит в реальности в силу своих органов чувств. То есть начинает с простого образа реальности и постепенно усложняет и детализирует его. Но Хокинс предложил сравнить это не с постепенным дорисовыванием, а со сборкой пазла. Она назвал это «теорией тысячи мозгов». Именно так и мыслит каждое живое существо, обладающее неокортексом. Просто у тех же собак неокортекс намного меньше человеческого, поэтому их картина реальности имеет другую структуру.

Хокинс считает, что каждая из кортикальных колонок создает свою модель кусочка реальности, запоминая весь контекст и создавая свою систему координат. Например, как работает рука, когда пьешь кофе, что ощущают губы при соприкосновении с жидкостью, какой у нее вкус, запах и т. п. Весь этот контекст объединяется и получается модель, отражающая ту реальность, где ты пьешь кофе.

Кстати, процесс обучения — это не просто запоминание информации, а тоже встраивание новых знаний в уже имеющуюся систему координат. Если системы нет, то мозг просто не усвоит информацию. Это словно дать пятикласснику решить задачу по математическому анализу. Он не сможет это сделать, потому что его картина мира, основана только на знаниях начальной алгебры.

Даже процесс создания чего-то всегда опирается на уже известную информацию. Невозможно создать что-то из того, чего никогда не было и о чем не знал. То есть процесс созидания это такой же сбор известной информации, который переосмыслен и превращен в новую модель реальности.

Как нейроны голосуют и принимают коллективные решения

Рассмотрим такой пример. Глазные яблоки человека ежесекундно совершают микродвижения, называемые саккадами. А рассматриваемому объекту нужна одна пятая секунды, чтобы добраться в мозг по зрительным нервам. Тем не менее картинка перед глазами выглядит плавной и никаких задержек нет. И фактически мы видим мир не таким, какой он есть прямо сейчас, а таким, какой он должен быть спустя одну пятую секунды. Но откуда мы знаем как будет выглядеть мир спустя одну пятую секунды?

Хокинс объясняет это тем, что множество кортикальных колонок взаимодействуют между собой и как бы «голосуют» за тот вариант, который с высокой вероятностью можно увидеть через одну пятую секунды, исходя из накопленного опыта.

Тоже самое происходит, когда мы смотрим на вазу Рубина или другие двойственные изображения. В этот момент мозг стремится к консенсусу. Кортикальные колонки не могут определить, какой из объектов правильный. Это как если бы у них были две карты для двух разных городов, но в каких-то частях они были идентичны. То есть «карта города ваз» и «карта города лиц» похожи. Голосующий слой хочет прийти к единому мнению и не позволяет двум объектам быть активными одновременно. Именно поэтому он выбирает лишь один из двух вариантов. Вы можете воспринимать лицо или вазу, но не оба объекта одновременно.

Конечно же «голосование» просто метафора. Она нужна для описания того, как нейроны взаимодействуют и принимают коллективные решения. Когда один нейрон активируется, он может передать свой сигнал другим нейронам, которые могут «проголосовать» за передачу сигнала дальше. Процесс «голосования» нейронов включает в себя суммирование входящих сигналов и принятие решения о том, будет ли сигнал передан дальше через синапсы или нет. Это решение зависит от того, достаточно ли сигналов, поступающих от других нейронов, для того чтобы активировать следующий нейрон. Если сумма входящих сигналов достаточно высока, то нейрон решает «проголосовать» за передачу сигнала дальше. Это упрощенное описание происходящих процессов, но его достаточно, чтобы понять метафору.

Как мог бы думать искусственный интеллект

Ценность интеллекта в том, что за счет постоянного обучения человек справляется с невероятной сложностью и изменчивостью окружающего мира. Компьютер так пока не может. В отличие от человека он не гибок и в большинстве случаев заточен под решение узких задач.

Чтобы компьютер действительно обзавелся интеллектом нужно сделать его универсальным и гибким. Чтобы он умел решать максимально широкий спектр задач и как человек мог формировать свои картины реальности. Хокинс считает, что создать универсальную машину сложная, но неизбежная задача. Потому что чем глубже технологии встраиваются в нашу реальность, тем более универсальными они должны быть.

Что нужно, чтобы у машины появился интеллект?

1. Машина непрерывно самообучается и сама может изучить новую область знаний, без помощи человека. Сейчас же корпорации тратят огромные деньги на обучение того же СhatGPT;
2. Машина обучается не на статических готовых данных, а может взаимодействовать с миром, чтобы строить свои модели реальности. Ведь в большинстве случаев обучение требует взаимодействия с изучаемым объектом, иначе не будет обратной связи;
3. Машина имеет дело со множеством моделей реальности. Как и кортикальные колонки человека, в которых общая картина мира складывается из суммы всех отдельных микромоделей реальности;
4. Машина может распознавать разные объекты окружающего мира и тем самым понимать их. Для этого необходимо уметь ориентироваться в пространстве. А не как сейчас, когда подобие ИИ умеет распознавать только те объекты, на которые их натренировали.

Хокинс считает, что в человеке за то, насколько качественно он может изучать мир отвечает неокортекс. Понимание его работы сильно облегчит задачу по созданию универсального искусственного интеллекта.

Как понять, когда у машины появилось сознание

Хокинс убежден, что суть сознания человека заключается в осознанности. То есть должно быть ощущение присутствия в мире и понимание того, какое место ты в нем занимаешь. Если бы память каждый раз обнулялась, то о сознании не было бы и речи. Но благодаря синаптическим связям мы можем окунаться в воспоминания и менять свое поведение учитывая весь прожитый опыт. Если компьютер сможет также, то нет причин отказывать ему в праве на сознание.

Но этично ли отключать такую машину от питания? Будет ли это равносильно смерти? Нет, потому что за такие вещи у человека отвечает лимбическая система, а не неокортекс. Люди ничего не могут с этим поделать, это наследство долгого периода эволюции человека. А специально учить машину страху смерти, печали или еще каким-либо присущим человеку состояниям нет необходимости. Все это мешает познаванию мира и рациональному решению поставленных задач.

Если коротко, то не надо пытаться технически воссоздать лимбическую систему. Во-первых это сложно, так как там неочевидные координации и взаимодействия разных структур мозга. А во-вторых не нужно, как уже пояснил выше. Гораздо проще воспроизвести работу неокортекса, ведь это не что иное, как множество копий кортикальной колонки. Если удастся ее воссоздать не из белка, а из кремния, то половина пути к настоящему ИИ уже будет пройдено.

Нужно сделать 3 вещи, чтобы создать кремниевый мозг:

1. Сенсорное восприятие. У нашего мозга для получения информации о внешнем мире есть датчики, выполняющие роль осязания, обоняния, зрения, слуха и вкуса. Машина должна иметь такой же доступ к внешнему миру, но не обязательно повторять несовершенство человека. В нее можно вставить то, что недоступно нам: эхолокация, инфракрасное зрение или что угодно еще;
2. Аналог древних отделов мозга, без которых нельзя обойтись. Да, эмоции и страх смерти не нужны, но машине полезно иметь представление о безопасности, инстинкте самосохранения, мотивации и целеполагании. У человека за это отвечают архаичные структуры мозга со всеми их недостатками и противоречиями, но в машину можно вложить только то, что нужно для эффективной работы;
3. Продвинутый неокортекс. Человеческий неокортекс ограничен биологией: низкая скорость обработки данных, вместимость всего около 150 000 колонок, а процесс старения не дает образоваться новым связям так же эффективно, как в молодом возрасте. Более того, нужен длительный период обучения, чтобы младенец вырос и сформировал картину мира. Машина же будет превосходить каждый из этих параметров: скорость обработки быстрее, вместимость больше, мозг не стареет, а вместо длительного обучения можно использовать копирование.

Самый большой риск при появлении такой машины — оказаться в руках злодеев. Мысль об убийстве человечества может появиться в электронных мозгах только если сам человек это заложит.

Миф о том, что мы не поспеем за открытиями ИИ также надуман. Все открытия сделанные учеными легко встраиваются в единую систему знаний и уже через несколько лет появляются в школьных учебниках. Замени ученых на машину и все останется также.

Так что опасности, связанные с тем, что машина что-то там передумает и поступит плохо являются фантазиями. Наибольшая угроза, как это было всегда — сам человек. Ведь опасен не сам инструмент, а то, в чьих руках он находится.

Как мы должны думать о будущем

Размышляя о том, какой должен быть искусственный интеллект важно не забывать насколько несовершенен человек. То, что мы видим вокруг не является таковым на самом деле, ведь это лишь продукт нашего мозга. Точно также, как небо не голубое, а деревья не зеленые. Мы видим цвет из-за того, что в человеческий глаз поступает часть излучения, отраженная от поверхности предмета.

Мозг хорошо умеет нас обманывать. Вспомним о фантомных болях — это когда части тела нет, но она болит. Или о синдроме Котара, когда человек искренне верит, что он мертв или бессмертен. Все это говорит о том, что объективная реальность и то, как человек ее воспринимает в силу своей ограниченности разнятся. И это никогда не надо забывать.

Отсюда вытекают два главных риска:

1. Ментальные ошибки человеческого интеллекта. Чтобы их обойти нужно всегда стремиться искать доказательства, противоречащие собственным убеждениям. Чем их больше, тем сложнее и реалистичнее будет картина мира;
2. Человеческий мозг имеет недостатки. Он заточен на удовлетворение базовых инстинктов и потребностей. А мотивация сводится к выживанию, сексу и власти. Это то, что досталось нам от наших предков. Когда-то такой подход отлично работал, но теперь он противоречит современной культуре и укладу жизни.

Раскрою детальнее первый риск. Под моделью реальности подразумевается не только информация о мире и опыте взаимодействия с ним, а еще идеи и убеждения человека. Модель мира, создаваемая мозгом, может быть неточной, а ложные убеждения могут сохраняться, несмотря на противоположные доказательства.

Вот три основных причины почему так происходит:

1. Невозможность прямого опыта. Ложные убеждения почти всегда касаются вещей, которые мы не можем напрямую испытать. Если мы не можем непосредственно что-то наблюдать, услышать, потрогать или увидеть сами, то нам приходится полагаться на то, что говорят другие люди. То, кого мы слушаем определяет то, во что мы верим;
2. Игнорирование противоположных фактов. Чтобы сохранить ложное убеждение нужно отвергать доказательства, противоречащие ему. Большинство ложных убеждений сами определяют модели поведения и причины игнорирования противоположных доказательств;
3. Вирусное распространение. Вирусные ложные убеждения предписывают поведение, которое способствует распространению убеждений среди других людей.

Посмотрим, как эти признаки применимы к двум распространенным убеждениям, которые почти наверняка являются ложными.

Убеждение № 1 — прививки вызывают аутизм.

• Невозможно непосредственно ощутить — ни один человек не может ощутить вызывают ли вакцины аутизм. Для этого требуется контролируемое исследование с большим количеством участников.
• Игнорирование противоположных доказательств — вы должны игнорировать мнение сотен ученых и медицинских работников. Обоснование может заключаться в том, что эти люди скрывают факты ради личной выгоды или что они сами не знают истины.
• Вирусное распространение —вам говорят, что распространяя это убеждение вы
  спасаете детей от тяжелого заболевания. Поэтому у вас есть моральная обязанность убедить других людей в опасности вакцин.

Вера в то, что прививки вызывают аутизм, даже если она приведет к смерти детей, не является экзистенциальной угрозой для человечества. Однако есть другое распространенное ложное убеждение, представляющее экзистенциальную угрозу — это вера в загробную жизнь.

Убеждение № 2 — загробная жизнь существует.

• Невозможность непосредственного опыта — никто не может наблюдать загробную жизнь. Она по своей природе ненаблюдаемая.
• Игнорирование противоположных доказательств — в отличие от других ложных убеждений нет научных исследований, которые показали бы, что это не так. Аргументы против существования загробной жизни основаны на отсутствии доказательств. Поэтому верующим легче игнорировать утверждения о том, что ее не существует.
• Вирусное распространение — вера в загробную жизнь часто носит вирусный характер. Например, вера в рай говорит о том, что ваши шансы в него попасть увеличатся, если вы постараетесь убедить в этом других.

Вера в загробную жизнь сама по себе является безвредной. Например, вера в реинкарнацию является стимулом для более внимательного отношения к жизни и не несет никаких экзистенциальных рисков. Угроза возникает, если вы считаете, что жизнь после смерти важнее настоящей жизни. В крайних случаях это приводит к убеждениям, что уничтожение Земли или нескольких крупных городов и миллиардов людей поможет вам и вашим единомышленникам достичь желаемой загробной жизни. То есть это крайне радикальный взгляд. В прошлом это могло привести к разрушению и сожжению одного или двух городов. Сегодня это может привести к эскалации ядерной войны, которая может сделать Землю непригодной для жизни.

Каким будет человек будущего

Еще вчера ты гулял на площадке и грыз свежую корку хлеба, а теперь уже не расстаешься со смартфоном и компьютером. Технологии развиваются быстро и стали частью каждого человека. Если максимально экстраполировать эту тенденцию, то человечество движется к слиянию с машинами.

Хокинс видит 2 сценария:

Загрузка сознания в компьютер. Да, это сложная задача и не факт что реализуемая. Тем не менее тело быстро изнашивается, а свое «Я» хотелось бы сохранить.

Но даже если все получится, то возникнут другие проблемы. Если перенести сознание в машину, то что будет с исходным телом? Вас уже двое: один в машине, другой в исходном теле. Кого теперь считать настоящим?

Да и что будет ощущать человек, чье сознание скопируют во всемирную сеть? Ведь огромная часть нашей жизни завязана на теле, эмоциональных реакциях, взаимосвязи разной химии и прочем. А мозг всего лишь один из органов тела. Хоть в нем, вероятно, и содержится сознание, но без связи с телом это будет совершенно другой опыт, если не другая личность. Диапазон ее электронных органов чувств будет настолько расширен, что не ясно как это повлияет на сознание. В общем остается много вопросов.

Тело дополнено компьютерными примочками. Это уже происходит там, где исследуют и разрабатывают нейроинтерфейсы или биопротезы. Суть в том, что биологическое тело дополнено возможностями компьютеров и взаимодействует с ними посредством каких-либо гаджетов. Такой симбиоз машины и человека нивелирует слабости друг друга и по сути появится новый вид с неочевидными способностями.

Что останется после нас

Независимо от того, каким будет будущее нужно подготовиться к наихудшим развитиям событий на Земле — ядерной войне, климатической катастрофе, смертельной эпидемии или любому другому виду апокалипсиса. И единственной разумной подготовкой можно считать сохранение и передачу накопленных знаний тем, кто останется после нас:

1. Это могут быть наши потомки, чей уровень технологий из-за катастрофы сильно снизился. Либо очередной разумный вид, который рано или поздно появится после исчезновения людей. Ведь время есть, так как до момента уничтожения планеты Солнцем осталось около 5 миллиардов лет;
2. Либо это могут быть разумные обитатели других планет.

Чтобы осуществить передачу знаний Хокинс предлагает 3 варианта:

1. Отправить информацию в открытый космос, как это уже неоднократно делалось зондами;
2. Построить маяк в космосе, который может транслировать сигнал в глубокий космос на протяжении тысячелетий;
3. Создать обновляемую базу знаний на орбите планеты. По сути орбитальная «Википедия».

Три пути выживания человечества

Переселение на другие планеты. Для этого необходимо развивать робототехнику, чтобы роботы могли выполнять опасную работу за нас.

По сути это диверсификация человеческого вида. Если что-то случится на Земле, то наши потомки останутся на других планетах. Хотя саму суть человека с его зависимостью от лимбической системы и инстинктов это не изменит. Путешествие на другие планеты мало чем отличается от времен великих географических открытий. Все также будут войны за территорию, а жажда наживы и власть будет застилать глаза.

Генная модификация человеческого вида. Возможно это позволит избавиться от неизлечимых болезней, но вряд ли решит предыдущую проблему — хрупкость и недолговечность человеческого тела, подверженного страстям.

Создание самостоятельных разумных машин. Самый благоприятный вариант, который позволил бы отправлять машины с ИИ к другим планетам для изучения и исследований. Такие машины смогут чинить сами себя и передавать знания на Землю.

Также такие технологии позволили бы ассимилироваться человеку с машиной, что еще сильнее ускорит технологический прогресс. Но каким на самом деле способом произойдет слияние мы пока не знаем.

Заключение

В конце книги автор говорит о том, что размышления о масштабах Вселенной и уникальности интеллекта, который ее познает — это одна из причин, по которой он решил изучать мозг. Но помимо этого разгадка того, как работает мозг принесет пользу всем сферам общества также, как это сделали компьютеры. Он говорит, что человек — самый разумный вид. И если мы хотим понять, кто мы такие, то нужно разобраться как мозг создает интеллект.

Последние слова книги звучат как напутствие всему человечеству:

Мы — Homo sapiens, мудрые люди. Надеюсь, мы будем достаточно мудрыми, чтобы понять, насколько мы особенные. Достаточно мудрыми, чтобы сделать выбор, который обеспечит нашему виду выживание на Земле. И достаточно мудрыми, чтобы сделать выбор, который обеспечит сохранение интеллекта и знаний как на Земле, так и во всей Вселенной.