Издание The Information сообщило, что Google разрабатывает серверный чип под кодовым названием Frozen («замороженный»). Название может навести на мысль о жидком азоте и экстремальном охлаждении, но смысл совсем в другом. Речь не о температуре, а о том, что сама нейросеть в таком чипе буквально «застывает» в кремнии.
Обычные ускорители исполняют модель как программу: считывают её параметры из памяти, прогоняют через вычислительные блоки и выдают результат. Замороженный чип устроен иначе: модель перестаёт быть загружаемым набором чисел и становится частью физической структуры микросхемы.
Это не единичная идея Google, а целый класс технологий. Более того, Google здесь не лидер: по крайней мере в плане готового железа её уже опередили.
Канадский стартап опередил гигантов
В феврале 2025 года канадская компания Taalas представила чип, в который физически встроена открытая модель.. По заявленным данным, он способен выдавать до 17 000 токенов в секунду. Для сравнения: ускорители Nvidia на той же модели обычно дают одному пользователю лишь несколько сотен токенов в секунду. Разница — почти на порядок и больше.
На первый взгляд это выглядит слишком хорошо, чтобы быть правдой, но у такого отрыва есть понятное физическое объяснение. Чтобы его понять, нужно разобраться в главной проблеме современных ИИ-ускорителей.
Главная проблема современных ускорителей: «стена памяти»
Почти все вычислительные системы построены на архитектуре фон Неймана: память отдельно, вычислитель отдельно. Данные нужно постоянно переносить из памяти в вычислительные блоки и обратно.
Десятилетиями это работало нормально, но с нейросетями ситуация изменилась. Когда языковая модель генерирует даже один токен, чипу приходится читать огромные массивы весов из памяти, перемещать их по кристаллу, выполнять операции, а затем повторять всё заново для следующего токена.
В результате значительная часть энергии уходит не на математику, а на доставку чисел к месту вычисления. Тысячи вычислительных ядер часто просто ждут очередную порцию данных.
На физическом уровне это очень дорого. Передача одного бита из HBM-памяти в вычислительное ядро требует больше энергии, чем сама базовая операция умножения с накоплением. В масштабах серверов получается парадокс: львиная доля мощности расходуется не на вычисления, а на перемещение данных. Для GPU оценки доходят до 93–95% энергозатрат только на движение весов между памятью и вычислителем.
Именно этот предел и называют «стеной памяти».
Почему проблему не удаётся просто «залить железом»
Индустрия давно пытается пробить эту стену: появляются новые стандарты памяти вроде HBM4, растёт пропускная способность, усложняются архитектуры ускорителей. Но быстрее становится только сама «труба» — необходимость гонять данные туда-сюда никуда не исчезает.
Проблема усугубляется тем, что модели растут быстрее, чем ускоряется память. Каждый новый миллиард параметров — это ещё больше данных, которые нужно хранить и перемещать. Отсюда и гигантские расходы.
Alphabet, по данным на 2025 год, тратила на инфраструктуру десятки миллиардов долларов за квартал, а на 2026 год закладывала ещё более масштабные капвложения. И даже таких бюджетов оказалось недостаточно: вычислительных мощностей не хватает, а крупным клиентам облаков уже приходится ограничивать доступ к ресурсам.
У этого бума есть и побочный эффект для обычных пользователей: крупнейшие операторы дата-центров заранее выкупают огромные объёмы высокоскоростной памяти, из-за чего дефицит и рост цен постепенно расползаются по всему рынку.
Радикальная идея: а если веса вообще не перемещать?
Замороженный чип предлагает не ускорять доставку данных, а убрать саму необходимость доставки. Если веса модели неизменны, почему бы не сделать их частью аппаратуры?
К этой идее индустрия пришла не сразу. До неё были промежуточные подходы.
Подход Cerebras: разместить всё на одном гигантском чипе
Компания Cerebras решила проблему за счёт масштаба: если обращение к удалённой памяти дорого, нужно разместить как можно больше памяти прямо на кристалле. Их WSE-3 хранит модель во внутрикристалльной памяти объёмом 44 ГБ, а внутренняя пропускная способность достигает 21 ПБ/с.
Плюс очевиден: не нужно постоянно обращаться к внешней памяти. Минус тоже очевиден: это работает только до тех пор, пока модель помещается в доступный объём. Для действительно огромных моделей такой подход быстро упирается в физические пределы.
Подход Groq: убрать хаос и сделать всё предсказуемым
Компания Groq пошла другим путём. Обычные процессоры и GPU тратят часть ресурсов на планирование, выбор инструкций, работу кэшей и распределение задач на лету. Groq отказалась от этой универсальности и заранее определяет маршруты движения данных ещё на этапе компиляции.
Это резко снижает стоимость передачи бита: примерно до 0,3 пикоджоуля против около 6 пикоджоулей у HBM. Но даже здесь чип остаётся программируемым процессором, который всё ещё исполняет модель.
Следующий шаг: модель как часть железа
Логика замороженного чипа проста: веса обученной модели не меняются от запроса к запросу. Если так, то зачем снова и снова таскать их из памяти в вычислитель? Почему бы не превратить сами веса в элемент физической схемы? Именно это делает Taalas.
Как устроен HC1 от Taalas
Первый чип компании называется HC1. Это огромный кристалл площадью около 850 мм², произведённый по техпроцессу TSMC 6 нм, с 53 миллиардами транзисторов.
Главное в HC1 — даже не то, что в нём есть, а то, чего в нём нет:
- нет HBM-памяти;
- нет сложных межчиповых интерфейсов;
- нет привычной архитектуры ускорителя с постоянной перекачкой весов.
По сути, остаётся только то, что нужно для ввода промптов и работы с контекстом, например PCI Express. В сравнении с обычным ИИ-ускорителем это выглядит так, будто из автомобиля убрали бак, бензонасос и топливопровод, а он всё равно едет.
Где в таком чипе хранятся веса
Веса модели записываются в масочное ПЗУ. В обычной памяти информация хранится как электрический заряд, который нужно поддерживать или регулярно обновлять. В HC1 веса представлены иначе: как наличие или отсутствие микроскопических металлических соединений в верхних слоях кристалла.
Иными словами, знания модели существуют не как файл и не как заряд в ячейке памяти, а как геометрия металла. Модель буквально становится узором проводников внутри чипа.
Как удалось избежать полного перепроектирования под каждую модель
Логичный вопрос: если под каждую модель нужен свой рисунок проводников, не придётся ли каждый раз делать новый чип с нуля?
В этом и состоит главный инженерный трюк. Базовая кремниевая подложка остаётся универсальной и выпускается массово. Меняются только два верхних металлических слоя, где и задаётся конкретная модель. То есть из многих слоёв кристалла специализированными становятся лишь последние.
Это всё ещё дорого, но уже не так радикально, как полное перепроектирование всей микросхемы.
Как происходят вычисления
В обычных GPU умножитель универсален: ему можно подать любые два числа. Но за эту универсальность приходится платить транзисторами, энергией и сложностью.
В HC1 веса известны заранее и жёстко квантованы до 3 бит, то есть у каждого веса всего 8 возможных значений. Поэтому вместо полноценного умножения используется более дешёвая схема multiply-select-add:
- входная активация заранее умножается на все 8 возможных значений веса;
- система выбирает нужный вариант;
- результат отправляется на суммирование.
То есть чип не столько «вычисляет», сколько выбирает готовый вариант, соответствующий зафиксированному в металле весу. Умножение как универсальная операция фактически заменяется селекцией.
Что происходит с контекстом
Разумеется, не всё в диалоге можно зашить в металл. Контекст разговора постоянно меняется, и его нужно где-то хранить. Для этого на кристалле остаётся обычная SRAM, где размещаются:
- KV-кэш текущего диалога;
- служебные данные;
- вспомогательные операции вроде нормализации и активаций.
Граница очень чёткая: всё постоянное — в металле, всё изменяемое — в памяти.
Как решается проблема кастомизации под бизнес
Ещё одно очевидное возражение: компаниям редко нужна «голая» базовая модель. Им нужны версии, дообученные под юридические тексты, медицину, документооборот и другие прикладные задачи.
Здесь помогает LoRA. Базовая модель остаётся зафиксированной в кремнии, а небольшие адаптеры размером в десятки или сотни мегабайт загружаются в перезаписываемую память. Благодаря этому один и тот же чип может быстро переключаться между специализированными сценариями, не меняя фундаментальную основу.
Почему это так впечатляет
Заявленные характеристики HC1 выглядят очень агрессивно:
- 250 Вт энергопотребления;
- обычное воздушное охлаждение;
- 16–17 тысяч токенов в секунду.
Для сравнения, H100 на той же модели даёт около 150 токенов в секунду и потребляет 300–400 Вт, причём без полного учёта затрат на HBM и охлаждение. Даже если относиться к цифрам осторожно, разрыв всё равно выглядит огромным.
Ещё показательнее метрика джоули на токен. Универсальные системы на H100 тратят примерно 10–30 Дж на токен. У Groq это около 1 Дж. У HC1 — порядка 0,1 Дж. То есть выигрыш уже не просто в скорости, а в фундаментальной энергоэффективности.
Насколько велик теоретический запас
С точки зрения физики это ещё далеко не предел. Существует фундаментальная нижняя граница энергозатрат на изменение одного бита — принцип Ландауэра. Современные вычислительные системы всё ещё работают на много порядков выше этого порога.
Иными словами, нынешние серверы для ИИ по эффективности всё ещё находятся очень далеко от физического минимума. На этом фоне замороженные чипы выглядят не просто инженерной хитростью, а попыткой приблизиться к более естественной форме вычислений.
Практический плюс: простота внедрения
Если убрать из ускорителя HBM, 3D-упаковку, сложные межчиповые интерфейсы и жидкостное охлаждение, получается устройство, которое гораздо проще ставить в обычные дата-центры.
Именно поэтому идея так привлекательна: вместо экзотической инфраструктуры можно получить PCIe-карту на 250 Вт, которая не требует радикальной переделки стойки, питания и охлаждения.
История проекта Google
У Google у этой идеи есть внутренняя история. Её связывают с Джеффом Дином, одним из ключевых архитекторов инфраструктуры машинного обучения в компании.
Первая версия проекта Frozen была даже радикальнее подхода Taalas: предполагалось жёстко печатать в кремнии не только структуру сети, но и сами веса Gemini. Это дало бы максимум эффективности, но руководство проект не одобрило. Причина понятна: новые версии модели появляются слишком быстро, и чип рисковал устареть ещё до массового запуска.
Frozen V2: компромисс между жёсткостью и гибкостью
После этого появился Frozen V2 с идеей Flexible Hard Coding. В этой версии в кремнии фиксируют не сами веса, а архитектурный каркас модели: вычислительный граф, маршруты данных, специализированные блоки под механизмы внимания. А сами веса остаются обновляемыми.
Это позволяет выпускать новые версии Gemini без полной замены железа — но только если базовая архитектура модели не меняется слишком сильно.
Именно здесь и скрыт главный риск: чип окажется полезным лишь до тех пор, пока отрасль и сама Google продолжают использовать примерно тот же фундаментальный подход.
Ограничения Frozen V2
У такого компромисса есть серьёзные ограничения:
- чип не сможет запускать сторонние открытые модели;
- он будет привязан к определённому семейству архитектур;
- если произойдёт серьёзный прорыв и рынок уйдёт от нынешних трансформеров, специализированный кремний может быстро устареть.
По данным из утечек и публикаций, первые кластеры с Frozen V2 могут появиться около 2028 года, но внутри самой Google дискуссия, похоже, ещё не закончена. Компания пытается найти баланс между максимальной эффективностью и риском слишком раннего устаревания.
Frozen не заменит TPU и GPU полностью
Важно понимать: Frozen V2 не рассматривается как универсальная замена традиционным ускорителям. Скорее, это сопроцессор для узкого класса задач — прежде всего для быстрой генерации токенов на стабильной архитектуре Gemini.
Всё нестандартное, экспериментальное и меняющееся останется на обычных TPU и других программируемых чипах. Frozen — это ставка на те участки вычислений, где поведение модели уже достаточно предсказуемо, чтобы его было выгодно зашить в железо.
Четыре серьёзных недостатка технологии
1. Потеря точности
Чтобы уместить огромную модель в один кристалл, веса приходится жёстко сжимать. Основная масса кодируется 3 битами, критичные параметры — 6 битами. Это очень агрессивное квантование.
Проблема в том, что ниже 4 бит часто начинается так называемый accuracy cliff — резкий обрыв качества. Особенно страдают сложные задачи: длинные рассуждения, математика, программирование. Для простого разговора деградация может быть умеренной, но на интеллектуально тяжёлых сценариях она становится заметнее.
2. Низкий выход годных
HC1 — это очень большой кристалл, почти на физическом пределе литографии. Чем больше площадь, тем выше вероятность дефекта.
В памяти дефекты часто обходят резервными строками и столбцами. В масочном ПЗУ с жёстко заданной топологией это сделать намного труднее: если повреждён участок с критической логикой модели, кристалл может оказаться бесполезным. Значит, производство таких чипов потенциально дорогое и капризное.
3. Ограничение по размеру модели
Модель на 8 млрд параметров ещё можно вместить в один кристалл. Но более крупные модели, например на 70 млрд параметров, уже придётся разрезать на несколько кристаллов.
А вместе с этим возвращается та самая проблема, от которой технология пыталась уйти: межчиповый обмен данными. Он всё равно дешевле обращения к внешней памяти, но это уже не тот идеальный случай, где ничего никуда не перемещается.
4. Риск быстрого устаревания
Разработка заказного чипа занимает годы, а ИИ меняется почти ежемесячно. Если через пару лет индустрия перейдёт на принципиально новую архитектуру, замороженный кремний может устареть быстрее, чем успеет окупиться.
Именно поэтому универсальные ускорители по-прежнему сохраняют огромную ценность: они медленнее и менее эффективны, зато переживают смену поколений моделей.
Почему универсальность всё ещё важна
Можно возразить: не проще ли оставить всё на универсальных GPU и TPU? Их главный плюс как раз в том, что они способны адаптироваться под любой новый алгоритм. Появится новая архитектура — они её тоже запустят, пусть и без максимальной эффективности.
Поэтому вопрос не в том, нужна ли специализация вообще. Вопрос в том, сколько гибкости рынок готов отдать в обмен на выигрыш в энергии и цене вычислений.
Что будет, если технология приживётся
Если замороженные чипы станут массовыми, себестоимость ИИ-вычислений может упасть на порядки. Это откроет путь к более дешёвым и даже бесплатным сервисам на базе мощных моделей, не превращая обслуживание в бездонную статью расходов для облачных платформ.
Агенты и машинное взаимодействие
Человеку не нужны десятки тысяч токенов в секунду — мы просто не успеем их прочитать. Но такая скорость нужна машинам, которые обмениваются сообщениями друг с другом.
Если один агент ставит задачу второму, второй проверяет третьего, а затем вся цепочка возвращает результат пользователю, то внутренняя коммуникация должна укладываться в доли секунды. Здесь сверхбыстрые специализированные чипы особенно полезны.
Локальные модели в смартфонах
Если такие архитектуры научатся делать компактными и холодными, часть больших языковых моделей сможет перебраться прямо в пользовательские устройства — смартфоны, ноутбуки, бытовую электронику. Тогда ИИ будет работать локально: без облака, без задержек, без постоянной подписки и без отправки данных наружу.
Итог
Замороженные чипы — это радикальный отход от классической архитектуры фон Неймана. Они превращают нейросеть из программы в физическую структуру, тем самым устраняя фундаментальную проблему современной ИИ-инфраструктуры — дорогую и прожорливую перевозку данных между памятью и вычислителем.
Taalas уже показала рабочий пример такого подхода. Google разрабатывает собственную версию Frozen V2, рассчитывая развернуть первые системы примерно к 2028 году. Если идея выстрелит, она может заметно изменить экономику ИИ и весь подход к серверным вычислениям.
Но у технологии есть и серьёзные слабые места: потеря точности из-за жёсткого квантования, сложность производства, ограничения по размеру моделей и риск быстрого устаревания на фоне стремительной эволюции архитектур.
Дойдут ли замороженные чипы до массовых серверов? Появятся ли когда-нибудь в смартфонах? Пока неясно. Но одно уже видно: в энергоэффективности ИИ мы всё ещё в начале большого пути, и потенциал улучшений здесь колоссальный.
