Естественный AGI

Человек как спонтанно возникший общий интеллект на белковом субстрате

Научно-философское эссе. Это не доказательство и не научная работа в строгом смысле — это попытка собрать разрозненные объяснения в одну связную рамку и посмотреть, что из неё следует.

I. Парадокс сходства

Человек и шимпанзе совпадают по геному примерно на 98–99%. Это число известно всем и почти всегда используется неправильно — как повод либо принизить человека, либо возвысить обезьяну. На самом деле оно ставит вопрос, а не отвечает на него.

Вопрос такой: если различие в исходном коде исчисляется процентом, почему одна ветвь до сих пор колет орехи камнем, а другая строит ускорители частиц и спорит о природе собственного сознания? Разрыв в результате несопоставим с разрывом в причине. Что-то в этой пропорции не сходится.

Стандартных реакций две, и обе неудовлетворительны. Первая — объявить разрыв мнимым: мол, у шимпанзе тоже есть орудия, культура, политика, обман, зачатки понимания чужих намерений. Всё это правда, и всё это не отменяет того, что одна ветвь вышла в космос. Вторая реакция — объявить разрыв чудом, требующим внешнего вмешательства: искры, дара, замысла. Это не объяснение, а его отсрочка.

Тезис этого эссе третий. Разрыв реален, но он не в объёме — он в режиме. Человек не «умнее на несколько процентов». Человек — система, у которой изменился способ накопления информации: с наследственного на передаваемый. И это изменение даёт не арифметический прирост, а качественно другой класс поведения.

Если сформулировать сразу и целиком:

Человек — самоорганизующаяся система общего интеллекта, реализованная на белковом многоклеточном субстрате, чья архитектура задана эволюционным отбором, а содержание — обучением внутри культурной среды, воспроизводящей себя независимо от генома.

Дальше эта формулировка разбирается по частям.

II. Три уровня возникновения

Прежде чем говорить о человеке, стоит заметить, что структура его появления не уникальна. Вселенная проделывала похожий фокус минимум трижды: возникновение материи и структуры из горячего однородного состояния, возникновение жизни из химии, возникновение разума из жизни. Общего в этих трёх переходах больше, чем принято думать, и общее это — структурное, а не поэтическое.

Первое: «ничто» никогда не пусто. Квантовый вакуум — не отсутствие, а поле с флуктуациями и ненулевой энергией. Добиологическая химия — не пустота, а среда с готовым набором реакций, градиентов и автокаталитических циклов. Досоциальный примат — не чистый лист, а животное с развитой памятью, эмоциями и социальным счётом. Каждый раз переход выглядит творением из ничего только потому, что предшествующее состояние плохо описано.

Второе: порядок возникает через нарушение симметрии. Ранняя Вселенная однородна; остывая, она проходит фазовые переходы, симметрия ломается, и появляются различённые силы и частицы — то, чего в описании прошлого состояния не было. Жизнь и разум возникают событием того же типа: система вдали от равновесия проходит порог, и появляется устойчивая форма, не выводимая простым продолжением предыдущей.

Третье: пороговость вместо постепенности. Ниже порога — ничего, выше — качественно другой режим. Отсюда и общее ощущение резкости, которое так соблазняет объяснять вмешательством.

Глубже всех эту логику продвинул Илья Пригожин с идеей диссипативных структур. В системах, через которые течёт энергия, порядок возникает из-за роста энтропии, а не вопреки ему. Звезда, ураган, конвекционная ячейка, клетка, мозг — все они суть способы быстрее рассеивать градиент. Порядок здесь не аномалия и не долг, который придётся вернуть, а инструмент.

В такой рамке человек перестаёт быть исключением из космоса. Расширяющаяся Вселенная непрерывно создаёт перепады; перепады создают структуры; структуры усложняются — и на некотором уровне сложности появляются те, что начинают моделировать сами себя. Разум — не то, что случилось со Вселенной вопреки её устройству, а то, что случается, когда оптимизация переходит с энергетического уровня на информационный.

Здесь важно сразу отметить и границу аналогии, чтобы не выдавать её за большее, чем она есть. У биологической эволюции есть репликация и наследуемая память — храповик, который удерживает удачные решения. У возникновения Вселенной этого нет: оно произошло однажды и без отбора. Существует спекулятивная попытка натянуть отбор и туда — космологический естественный отбор Ли Смолина, где чёрные дыры порождают дочерние вселенные с чуть смещёнными константами. Красиво, но проверяемость близка к нулю. Так что общее у трёх переходов — не механизм, а тип события: переход, при котором из состояния без свойства возникает состояние со свойством, и свойство не вносится извне.

III. Архитектура и содержание

Теперь к главному различению, на котором держится вся конструкция.

Геном кодирует не знания, а способность к их усвоению. Он задаёт архитектуру: сколько будет нейронов, как долго они будут делиться, какие области с какими соединятся, сколько лет продлится период пластичности. Он почти ничего не говорит о том, чем эта архитектура наполнится.

Отсюда сразу закрывается распространённое заблуждение, что интеллект пропорционален объёму генетической информации. У человека около трёх миллиардов пар оснований. У амбистомы — порядка тридцати двух миллиардов. У обычного репчатого лука — в несколько раз больше, чем у нас. Размер генома не коррелирует со сложностью организма практически никак; это давно известно как парадокс величины генома. «Больше данных в прошивке» — не то, что произошло с человеком.

Что произошло — это изменения в регуляции. Различия человека и шимпанзе сосредоточены не столько в самих белках, сколько в том, когда, где и как долго гены включаются. Быстро эволюционировавшие участки человеческого генома (human accelerated regions) — в основном регуляторные. Дупликации вроде NOTCH2NL и SRGAP2C удлиняют деление нейронных предшественников и замедляют созревание синапсов. Результат: кора разрастается, а период, в течение которого мозг лепится опытом, растягивается на десятилетия.

Это и есть первый ключевой принцип: малое изменение инструкции даёт большое изменение результата. Не потому что инструкция волшебная, а потому что она управляет процессом с обратной связью. Сдвиньте на несколько делений момент остановки роста коры — и получите не «чуть больше мозга», а другой объём того, что в этот мозг успевает записаться за жизнь.

И здесь же надо снять образ, который портит всю рамку, если его не убрать заранее. Собака и шимпанзе — не предыдущие версии человека. Это параллельные ветви, отделившиеся примерно 95 и 6–7 миллионов лет назад, и они эволюционировали ровно столько же времени, сколько мы. Собака — не Homo 0.8, а другой продукт под другую задачу: обоняние на порядки тоньше нашего, социальная кооперация с чужим видом — способность, которой нет у нас. Правильная метафора — дерево ветвей, а не лестница релизов. Всякий раз, когда рамка «человек как более развитая модель» соскальзывает в лестницу, она становится наивной и перестаёт объяснять.

IV. Смена режима обучения

Итак, архитектура изменилась немного. Откуда тогда результат?

Ответ: изменился способ, которым система получает содержание.

Есть два принципиально разных режима накопления информации о мире.

Режим первый — обучение через отбор. Информация записывается в геном. Итерация занимает поколение, а осмысленное изменение — тысячи поколений. Ошибка стоит жизни носителя. Ничего, выученного за жизнь, не передаётся дальше. Это чрезвычайно медленный, но чрезвычайно надёжный способ: всё, что записано, проверено смертью.

Режим второй — обучение через передачу. Информация записывается вне генома — в поведение, речь, орудия, институты, тексты. Итерация занимает одно поколение или меньше. Ошибка стоит эксперимента, а не жизни. И главное — накопленное не теряется при смене носителя.

Второй режим существует не только у людей: у шимпанзе, ворон, китов есть локальные традиции. Но у них он почти не даёт накопления. Шимпанзе в каждом поколении фактически заново изобретает свой способ колоть орехи. У человека же работает то, что Майкл Томаселло назвал эффектом храповика: знание не откатывается назад, каждое поколение получает готовое состояние и добавляет к нему немного своего.

Почему храповик держит именно у нас — вопрос отдельный, и здесь у Томаселло есть сильный кандидат: совместная интенциональность, способность удерживать общую цель и общее внимание. Годовалый ребёнок показывает пальцем просто чтобы разделить наблюдение с другим. Шимпанзе указывает, чтобы получить. Разница выглядит мелкой и является решающей: без разделённого внимания нельзя учить, можно только подражать.

Второй необходимый компонент — рекурсивный язык. Не сигнальная система («опасность», «еда»), а способность вкладывать смысл в смысл: «я думаю, что он знает, что мы вчера решили». Рекурсия даёт возможность говорить о том, чего здесь нет — о прошлом, будущем, гипотетическом, чужом внутреннем состоянии. В терминах рамки этого эссе язык — протокол передачи, а культура — распределённый обучающий корпус, переживающий каждого отдельного носителя.

Отсюда следствие, которое стоит проговорить прямо: ни один человек не способен изобрести смартфон. И телефон, и стекло, и электричество, и алгебру изобрели тысячи поколений, а конкретный инженер добавил свой процент. Универсальность человеческого интеллекта — свойство не индивида, а системы «индивид + корпус». Изъятый из корпуса человек архитектурно остаётся человеком и функционально им не становится.

И здесь же снимается ощущение резкости, с которого началось эссе. От расхождения с шимпанзе прошло 6–7 миллионов лет. От первых каменных орудий — около трёх миллионов. От контролируемого огня — порядка миллиона. Быстро только последние десять тысяч лет, и это уже не биология: геном за это время практически не изменился, изменился объём накопленного корпуса. Резкость — иллюзия перспективы. Мы смотрим на график в логарифмическом масштабе и удивляемся вертикальной стенке в конце.

V. Почему «искусственный» — и почему нет

Теперь можно вернуться к слову, вынесенному в заголовок.

Идея, что мышление есть обработка информации, а субстрат вторичен, не нова и вполне респектабельна: вычислительная теория сознания в версии Патнэма и Фодора, позже Деннет. Ричард Докинз описывает организм как «машину выживания», построенную генами для копирования самих себя — то есть формально как систему, устроенную не собой и под чужую целевую функцию. Дэвид Дойч утверждает, что человек отличается от животных не количественно, а переходом порога универсальности — как машина Тьюринга отличается от калькулятора. Генетические алгоритмы в машинном обучении списаны с биологии буквально.

Так что параллель между эволюцией и оптимизацией — не натяжка, а рабочий язык. Но термин «искусственный интеллект» тянет за собой проектировщика, а его в механизме нет. Эволюция — оптимизация без цели, без представления о результате и без критерия, заданного заранее: критерий здесь — само выживание, то есть тавтология, работающая как фильтр.

Поэтому предлагаемый термин — естественный AGI. Это сознательный оксюморон, и он полезен именно тем, что удерживает оба полюса. «AGI» — потому что речь идёт об общем, не специализированном интеллекте, реализованном на носителе, чья природа для функции вторична. «Естественный» — потому что он возник без замысла.

Главное содержание этого термина — не игра слов, а утверждение: общий искусственный интеллект уже построен однажды. Просто не нами и не намеренно.

VI. Вопрос о проектировщике

Здесь необходимо остановиться, потому что вопрос неизбежен, и отмахиваться от него нечестно.

Мифы о творении универсальны — они есть во всех известных культурах. Это факт, требующий объяснения. Но объяснять его наличием творца — не единственный и не самый экономный путь. Когнитивная наука о религии предлагает несколько механизмов, и они хорошо документированы.

Гиперактивный детектор агентности (Джастин Барретт): для животного дешевле сто раз принять шорох за хищника, чем один раз ошибиться в обратную сторону. Отбор настроил нас приписывать намерение всему подряд. Телеологический уклон (Дебора Келеман): дети спонтанно, без обучения, объясняют мир через цели — «горы, чтобы лазить», «дождь, чтобы поливать». Взрослые подавляют это лишь частично и первыми теряют под когнитивной нагрузкой. И наконец, простая проекция: единственная известная нам причина сложных вещей — чьё-то намерение, и непонятное мы моделируем по образцу знакомого.

Вывод из этого строгий: универсальность мифа доказывает, что человеческий мозг устроен определённым образом. Она не доказывает, что миф верен. Универсальность страха темноты не доказывает, что в темноте кто-то есть.

Дальше — три довода против того, чтобы делать проектировщика несущей опорой.

Регресс. Если сложное требует создателя, то создатель, будучи сложнее созданного, требует своего. Либо цепочка бесконечна, либо мы где-то допускаем самовозникновение сложности — но тогда логичнее допустить его сразу и сэкономить шаг.

Нулевая предсказательная сила. Из посылки «есть сверхразум» не выводится ни одного различимого следствия. Гипотеза, совместимая с любым наблюдением, ничего не запрещает — а значит, ничего и не объясняет.

Смешение уровней. Предлагаемая модель описывает механизм: архитектура из генома, содержание из культуры. Проектировщик отвечает на другой вопрос — почему вообще существует механизм и почему константы таковы, что он возможен. Это разные этажи, и смешение их лишает проверяемости нижний, ничего не давая верхнему.

Но отсюда не следует, что вопрос надо закрыть. Он выносится явной аксиомой:

Природа первопричины не определена. Данная модель описывает механизм реализации, а не источник существования.

Это сильнее отрицания. Конструкция, опирающаяся на недоказуемую посылку, рушится вместе с ней. Конструкция, где посылка объявлена открытой, стоит независимо и остаётся совместимой с любым будущим ответом — включая утвердительный.

Заметим, что у «проектировщика» существуют и слабые, потенциально проверяемые формы, и они лежат внутри науки, а не за её пределами: направленная панспермия Крика и Оргела (1973), гипотеза симуляции Бострома, аргументы тонкой настройки констант. У них есть хотя бы гипотетические следы — изотопные аномалии, статистика распределения параметров, странности в структуре генетического кода. Об этом можно спорить эмпирически. О сильной форме — нельзя в принципе: если проектировщик оставил мир неотличимым от самоорганизующегося, отличить одно от другого невозможно по построению.

VII. Проверяемые следствия

Рамка становится гипотезой, а не метафорой, только если из неё что-то следует. Из этой следует три вещи.

1. Различия в интеллекте между видами должны сидеть в регуляции и сроках развития, а не в объёме генетической информации. Статус: проверяется и подтверждается. Парадокс величины генома, локализация человеческих отличий в регуляторных участках, роль дупликаций, влияющих на длительность нейрогенеза.

2. Изоляция от культурной среды должна обнулять универсальность интеллекта при полностью сохранной архитектуре. Статус: проверяется и, к сожалению, подтверждается — случаями тяжёлой депривации и данными о критических периодах усвоения языка. Архитектура без корпуса не даёт общего интеллекта. Это прямое следствие разделения «архитектура/содержание» и, пожалуй, самое жёсткое из трёх.

3. Другой субстрат с функционально эквивалентной архитектурой должен давать сопоставимый общий интеллект. Статус: открыт. И в нём вся ставка.

Третий пункт — единственная реальная ценность всей конструкции. Он переформулирует старый спор. Вопрос «может ли машина мыслить» уходит в философию и не имеет процедуры разрешения. Вопрос «насколько архитектура отделима от носителя» — эмпирический, и на него отвечают прямо сейчас, в реальном времени, инженерными средствами.

VIII. Заключение: второй заход

Если изложенное верно хотя бы в общих чертах, то нынешние работы по искусственному интеллекту — не создание чего-то беспрецедентного, а второй заход на задачу, однажды уже решённую. Первый раз решение нашлось перебором, вслепую, за четыре миллиарда лет, и результат работает на белке. Второй раз задача решается зряче, с доступом к готовому образцу, на кремнии, и на несколько порядков быстрее — потому что теперь оптимизацией занимается система, которая сама является продуктом оптимизации. Храповик добрался до собственного механизма.

Честная оговорка в конце обязательна. Слабое место всех рассуждений о происхождении разума в том, что мышление не окаменевает. Мы располагаем орудиями и черепами, но не содержанием голов. Поэтому спор о том, был ли «когнитивный взрыв» пятьдесят тысяч лет назад реальным событием в мозге или просто моментом, когда следы стали заметны в археологии, до сих пор не решён. Всё изложенное — рамка для интерпретации, а не доказанная последовательность событий.

Но у рамки есть форма, к которой сходятся все три перехода — космический, биологический и когнитивный. Она же и есть итоговая формулировка:

Переход, при котором из состояния без свойства возникает состояние со свойством, и свойство не вносится извне.

Материя не была внесена в пустоту. Жизнь не была внесена в химию. Разум не был внесён в жизнь. Каждый раз система, через которую течёт энергия, проходила порог — и оказывалась способна на то, чего не было в описании её предыдущего состояния.

Человек — не исключение из этого ряда и не его вершина. Он — тот случай, когда процесс впервые обзавёлся моделью самого себя. И, судя по всему, собирается воспользоваться ею, чтобы пройти порог ещё раз.