Искусственный интеллект и границы возможного

Кажется, тут должна работать очень простая логика.

Если у тебя есть сотни миллиардов долларов, лучшие инженеры мира, доступ к самым свежим исследованиям и огромные центры обработки данных, то ты обязан подойти очень близко к машине, которая понимает почти всё. Не обязательно к «электронному богу», но хотя бы к системе, которая видит мир глубже любого отдельного человека. Тем более что OpenAI объявила проект Stargate с горизонтом вложений 500 млрд долларов за четыре года, из них 100 млрд — сразу, а Международное энергетическое агентство оценивает мировые инвестиции в дата-центры в 2024 году примерно в полтриллиона долларов. (OpenAI)

И всё же «всезнающий ИИ» не появляется.

Почему?

Потому что деньги отлично покупают масштаб, но гораздо хуже покупают снятие пределов.

Коротко

Если совсем сжать мысль до одной фразы, она будет звучать так:

большие деньги позволяют быстрее искать решение, но не отменяют внутренних противоречий самой задачи.

Это и есть главный сюжет всей современной технологической гонки — не только в ИИ, но и в батареях, энергетике и большой науке.

Где ошибается наша интуиция

Мы привыкли думать так: больше ресурсов — меньше ограничений.

Во многих сферах это действительно работает. Больше денег — быстрее стройка. Больше людей — больше сделанной работы. Больше вычислительной мощности — больше расчётов. С искусственным интеллектом тоже есть такой эффект: в работе OpenAI о законах масштабирования было показано, что при росте размера модели, объёма данных и вычислений качество улучшается по достаточно устойчивым зависимостям. (OpenAI)

Но здесь есть тонкий подвох.

Из этих зависимостей не следует, что достаточно бесконечно наращивать мощность — и однажды ты «пробьёшь потолок мира». Из них следует только более скромная вещь: какое-то время рост ресурсов действительно даёт рост качества. А потом ты начинаешь упираться уже не в нехватку денег, а в устройство самой задачи.

ИИ растёт очень быстро. Но не становится безграничным

Чтобы это не звучало как абстрактная философия, посмотрим на сухие цифры.

По данным Epoch AI, вычислительные затраты на обучение заметных моделей ИИ после 2010 года росли примерно в 4,5 раза в год, а для передовых языковых моделей после 2020 года — примерно в 5 раз в год. Там же оценивают крупнейший известный дата-центр для ИИ как эквивалент около 600 тысяч NVIDIA H100. При этом стоимость обучения передовых языковых моделей, по оценке Epoch, растёт примерно в 3,5 раза в год. (Epoch AI)

То есть рост идёт по-настоящему промышленный.

Но сами разработчики самых сильных моделей говорят куда осторожнее, чем обычно пишут заголовки. На странице GPT-4 OpenAI прямо указывает, что модель всё ещё не полностью надёжна, галлюцинирует факты и совершает ошибки в рассуждении, а в ряде реальных задач остаётся слабее человека. Иными словами: прогресс большой, но пределов это не отменило. (OpenAI)

И вот здесь полезно сделать шаг в сторону — к батареям.

Не потому, что статья вдруг «не про ИИ».
А потому, что на батареях намного легче увидеть тот же самый механизм в наглядной, почти бытовой форме.

Почему батареи — это хороший пример для разговора об ИИ

Когда мы спорим об искусственном интеллекте, разговор очень быстро уходит в туман: архитектуры, обучение, данные, сложность модели, ошибки в рассуждении, окна контекста, стоимость вывода. Для неподготовленного читателя это часто звучит слишком абстрактно.

А батарея — вещь понятная всем.

Телефон разряжается. Электромобиль теряет запас хода. Аккумулятор стареет. Тут не нужно долго объяснять, что такое реальность инженерии.

И вот именно на батареях хорошо видно правило, которое затем переносится и на ИИ:

огромные ресурсы не отменяют внутренних конфликтов системы.

Что такое «деградация батареи» — без инженерного тумана

Когда инженер говорит «деградация батареи», это звучит грозно, но смысл очень простой.

Новая батарея работает хорошо:

• держит заряд долго,
• заряжается как надо,
• не перегревается без причины.

Потом проходит время — и она начинает работать хуже:

• заряда хватает на меньшее время,
• нагрев становится сильнее,
• характеристики становятся менее предсказуемыми.

У телефона это выглядит как путь «раньше хватало на день — теперь до вечера — теперь до обеда».
У электромобиля — как постепенное снижение реального запаса хода.
У большой системы хранения энергии — как потеря эффективности и рост расходов на эксплуатацию.

То есть деградация — это просто внутреннее старение системы.

И почти вся борьба в батареях сводится к одному вопросу: как сделать так, чтобы батарея старела медленно не только в идеальной лаборатории, но и в настоящей жизни.

Почему идеальную батарею до сих пор не сделали

Потому что батарея — это не «коробочка с энергией». Это узел конфликтующих требований.

Очень грубо:

• хочешь больше запасти энергии — растёт химическая напряжённость и нестабильность;
• хочешь очень быструю зарядку — чаще получаешь ускоренный износ;
• хочешь удешевить производство — рискуешь потерять часть характеристик;
• хочешь максимальную безопасность — обычно чем-то жертвуешь по плотности энергии.

Именно поэтому красивые новости о «почти готовом прорыве» так часто не превращаются в массовый продукт.

Например, CATL заявляла для натрий-ионной батареи 160 ватт-часов на килограмм, заряд до 80% за 15 минут и сохранение более 90% ёмкости при −20 °C. QuantumScape показывала для твердотельных элементов 301 ватт-час на килограмм, 844 ватт-часа на литр и зарядку 10–80% менее чем за 15 минут в определённых условиях. На языке презентации это звучит почти как победа. (Energytrend)

Но когда открываешь документы глубже, картина меняется.

QuantumScape сама пишет, что для промышленного выхода нужно улучшать надёжность элементов, выход годной продукции и производительность оборудования. А Fraunhofer указывает, что на старте производства батарей доля брака в первые годы может составлять 15–30%, а даже через пять лет оставаться около 10%. Красивый результат в лаборатории — это ещё не рынок. Это только пропуск в следующую, гораздо более тяжёлую стадию. (Fraunhofer FFB)

И вот здесь связь с ИИ становится совсем ясной

С искусственным интеллектом происходит очень похожая история.

Снаружи мы видим:

• всё больше денег,
• всё больше вычислительной мощности,
• всё больше данных,
• всё больше впечатляющих демонстраций.

И отсюда возникает соблазнительная мысль: если продолжать в том же духе, ограничения просто растворятся.

Но если смотреть внимательнее, у ИИ появляются свои версии той же проблемы, что и у батарей.

Например:

• модель может прекрасно выглядеть в демонстрации, но ошибаться в длинной нестандартной задаче;
• может быть сильнее предшественников, но слишком дорогой в работе;
• может расти по возможностям, но расти ещё быстрее по цене инфраструктуры;
• может давать впечатляющие ответы, но оставаться ненадёжной там, где нужна проверяемость.

То есть и здесь рано или поздно встаёт не вопрос «можно ли сделать ещё мощнее», а вопрос «во что это упрётся дальше».

Ещё один предел, который часто недооценивают: энергия

Чем сильнее ИИ превращается в промышленность, тем сильнее он становится зависим от энергетики.

МЭА оценивает потребление электроэнергии дата-центрами в 415 ТВт·ч в 2024 году — это около 1,5% мирового потребления электроэнергии. По базовому сценарию к 2030 году показатель может вырасти примерно до 945 ТВт·ч. В другой разбивке того же агентства объём электроэнергии, необходимый для питания дата-центров, оценивается как рост от 460 ТВт·ч в 2024 году до более чем 1000 ТВт·ч в 2030 году. Разница в цифрах связана с тем, какие именно категории включаются в расчёт, но сам тренд очевиден: это уже не фоновая статья расходов, а новая энергосистема внутри мировой экономики. (IEA)

То есть интеллект сегодня всё сильнее становится не только программой, но и инфраструктурным объектом.

А у инфраструктуры всегда есть пределы:

• по энергии,
• по стоимости,
• по срокам строительства,
• по надёжности,
• по поставкам оборудования.

Термоядерный синтез показывает ту же схему — только жёстче

Если хочется увидеть тот же узор совсем без скидок, достаточно посмотреть на термояд.

На Национальной зажигательной установке в США в декабре 2022 года удалось получить 3,15 мегаджоуля термоядерной энергии при 2,05 мегаджоуля, доставленных лазером на мишень. В 2023 году этот результат улучшили до 3,88 мегаджоуля при той же энергии лазера. Это реальный научный прорыв, без всяких кавычек. (annual.llnl.gov)

Но между «получили выдающийся физический результат» и «сделали дешёвую, массовую, устойчивую энергетику» лежит огромная дистанция.

Почему? Потому что недостаточно доказать принцип. Нужно сделать систему:

• повторяемой,
• надёжной,
• доступной по цене,
• пригодной для постоянной работы,
• способной жить в промышленном ритме.

То есть деньги опять дают возможность подойти к границе быстрее. Но не стирают саму границу.

Что же тогда на самом деле дают большие деньги?

Очень многое.

Было бы нелепо утверждать, что большие вложения бесполезны. Именно они позволяют:

• быстрее перебирать варианты,
• строить лучшие модели,
• ускорять исследования,
• раньше замечать рабочие направления,
• быстрее отделять бесперспективное от перспективного.

Искусственный интеллект именно так и продвинулся.
Современные батареи именно так и продвинулись.
Большая наука именно так и продвигается.

Но здесь нужен один очень важный поворот мысли:

деньги хорошо покупают скорость поиска.Но они плохо покупают отмену внутренних противоречий.

Можно купить больше попыток.
Нельзя купить мир без ограничений.

Самая неприятная мысль во всей этой истории

Мы обычно спрашиваем так:

«Сколько ещё нужно денег и вычислительной мощности, чтобы решить задачу?»

Но всё чаще правильный вопрос другой:

«Эта задача вообще решается простым наращиванием ресурсов — или внутри неё есть конфликт, который лобовой атакой не убрать?»

Это два совершенно разных мира.

Если задача упирается только в объём усилий — тогда да, у самых богатых будет огромное преимущество.

Но если задача упирается в устройство системы — в конфликт между скоростью и точностью, мощностью и ценой, плотностью и устойчивостью, масштабом и управляемостью — тогда даже триллионы не дают безграничности.

Они лишь позволяют быстрее понять, где находится стена.

Может быть, зрелый интеллект — это не всеведение?

И вот тут начинается самый интересный поворот.

А что, если зрелый интеллект — не тот, который снимает все ограничения?

Что, если зрелый интеллект — это тот, который раньше и точнее других видит форму ограничений?

Тогда всё встаёт на место.

Тогда ИИ нужен не для того, чтобы отменить реальность.
А для того, чтобы:

• не биться об неё вслепую,
• быстрее отличать ложный путь от рабочего,
• понимать, где предел временный, а где он встроен в саму задачу.

Это звучит уже не как мечта о всезнающей машине.
Но, возможно, именно это и есть более взрослая форма силы.

Вывод

Даже самый богатый человек на Земле не может просто сказать своим инженерам:

«Сделайте мне интеллект без ограничений».

Ему могут сделать:

• больше вычислительной мощности,
• больше памяти,
• больше данных,
• больше экспериментов,
• более мощную инфраструктуру,
• более быстрый поиск решений.

Но ему не могут сделать мир, в котором больше нет физических пределов, внутренних конфликтов и цены ошибки.

И, возможно, главный дефицит будущего — это уже не деньги и не микросхемы.

Главный дефицит — это способность отличать:

• временный барьер от фундаментального,
• красивую демонстрацию от настоящего решения,
• локальный рекорд от жизнеспособной системы.

А вы как думаете:
мы действительно движемся к машине, которая однажды «поймёт всё»,
или же самый реалистичный предел ИИ — не всеведение, а всё более точное понимание того, где именно заканчивается возможное?