Ноутбук для локального ИИ: сколько памяти, GPU и NPU нужно на самом деле

Модели ИИ на своём ноутбуке — это приватность данных, работа офлайн и ноль затрат за каждый запрос. Но для этого важны совсем не те характеристики, что обычно.

Главное ограничение — память

Модель должна поместиться в память. Грубое правило для 4-битных квантованных моделей — обычного формата для локального запуска: около 0,6 ГБ на миллиард параметров, плюс запас на контекст:

Два способа получить эту память

• Дискретная видеокарта (NVIDIA RTX): очень быстро, но всё упирается в VRAM — например, 8 ГБ у ноутбука с RTX 5060 и 16–24 ГБ у топовых моделей.
• Общая память (Apple M-series, AMD Ryzen AI Max): CPU и GPU делят один большой объём. Токены генерируются медленнее, чем на топовой видеокарте, зато можно загружать гораздо более крупные модели. Машина с 64–128 ГБ общей памяти запускает модели на 70B, которые не потянет ни одна ноутбучная видеокарта.

Где пригодится NPU

NPU — например, в ПК Copilot+ с производительностью от 40 TOPS — эффективны для небольших фоновых задач: размытия фона, живых субтитров и маленьких моделей на устройстве. Для больших языковых моделей большинство инструментов сегодня всё ещё использует GPU.

Что покупать

• Просто попробовать: 16 ГБ ОЗУ хватит для моделей на 7–8B.
• Серьёзное хобби или разработка: 32 ГБ общей памяти или RTX с VRAM от 12 ГБ.
• Большие модели: 64–128 ГБ общей памяти.

Также обратите внимание на быстрый SSD от 1 ТБ — каждый файл модели весит несколько гигабайтов — и на хорошее охлаждение: долгая генерация сильно нагружает ноутбук. Бесплатные инструменты вроде LM Studio или Ollama позволят начать за пару минут.