Что такое модели ИИ с открытыми весами и чем они не open source

Когда компания говорит, что выпустила «открытую» модель ИИ, обычно имеется в виду одно: веса можно скачать. Это важно, потому что модель тогда можно запустить на своём компьютере или сервере, не отдавать никому свои данные и настроить её под свои задачи. Но «открытые веса» и «open source» не одно и то же, и разница существенна, если вы собираетесь что-то на этом строить.

Разбираемся, что такое веса, чем открытые модели отличаются от закрытых и от настоящего open source, на какие условия лицензии смотреть и какое железо нужно, чтобы запустить модель самому.

Что такое веса модели

Большая языковая модель по сути представляет собой огромный набор чисел, которые называют параметрами или весами. Во время обучения эти числа миллиарды раз корректируют, пока модель не научится хорошо предсказывать следующий фрагмент текста. Готовый файл весов и есть модель: вместе с небольшим кодом, описывающим архитектуру, это всё, что нужно для генерации ответов.

Размер модели указывают в параметрах: «7B» означает около 7 млрд, «70B» около 70 млрд. Крупные флагманские модели насчитывают сотни миллиардов и даже триллионы параметров. Многие построены по схеме mixture-of-experts, где для каждого токена работает только часть сети («активные» параметры): так модель быстрее, но места на диске и в памяти занимает не меньше.

Открытые веса против закрытых моделей

В закрытых моделях, вроде тех, что работают в ChatGPT, Claude или Gemini, веса никогда не покидают серверов компании. Вы отправляете запрос через приложение или API и получаете текст. Заглянуть внутрь, запустить офлайн или изменить обучение не получится.

Разработчик открытой модели публикует веса, обычно на Hugging Face, и любой может их скачать. Известные семейства таких моделей: Llama от Meta, модели Mistral, Qwen от Alibaba, DeepSeek, Gemma от Google, gpt-oss от OpenAI и Kimi от Moonshot. Самый свежий пример: Kimi K3.1 Pro, веса которой Moonshot обещает до 4 ноября.

Почему открытые веса ещё не open source

В программировании open source означает, что вы получаете исходный код и свободу использовать, изучать, изменять и распространять его. Для ИИ организация Open Source Initiative в 2024 году опубликовала Open Source AI Definition. Согласно ей, действительно открытая модель должна поставляться с весами, кодом для обучения и запуска, а также с такой информацией об обучающих данных, чтобы специалист мог воспроизвести по сути равноценную систему.

Большинство релизов с открытыми весами этой планке не соответствуют. Компании публикуют финальные веса и код для запуска, но не обучающие данные (там могут быть лицензированные или собранные из сети материалы) и не полный конвейер обучения. Модель можно использовать и дообучать, но нельзя полностью воспроизвести или проверить, как её создали. Поэтому многие исследователи и говорят именно «открытые веса».

Лицензии: мелкий шрифт, который важен

«Можно скачать» не значит «можно всё». Лицензии условно делятся на три группы:

• Свободные лицензии, такие как Apache 2.0 или MIT, разрешают коммерческое использование, изменения и распространение с минимумом условий. Их используют ряд моделей Qwen, Mistral, DeepSeek и gpt-oss.
• Собственные «community»-лицензии разрешают широкое использование, но добавляют правила. Например, лицензия Llama от Meta требует от очень крупных компаний (свыше определённого числа пользователей в месяц) отдельной лицензии и содержит правила допустимого использования.
• Исследовательские или некоммерческие лицензии позволяют экспериментировать, но не делать платный продукт.

Прежде чем запускать что-то в продакшн, прочитайте лицензию именно для этой версии модели, проверьте ограничения по сферам или пользователям и требования к указанию авторства.

Зачем выбирают модели с открытыми весами

• Приватность: запросы и документы не покидают ваш компьютер или серверы компании.
• Работа офлайн: локальная модель работает в самолёте или в закрытой сети без интернета.
• Контроль расходов: после покупки железа нет оплаты за токены; при больших объёмах свой сервер может быть дешевле API.
• Настройка: модель можно дообучить на своих данных или применить небольшие адаптеры (LoRA) для стиля или отрасли.
• Прозрачность и исследования: учёные могут изучать поведение моделей, тестировать защитные механизмы и сравнивать результаты.

Есть и минусы. Лучшие модели часто до сих пор закрыты, за обновления и безопасность отвечаете вы, а ограничения безопасности может убрать любой, кто дообучит веса. Поэтому некоторые разработчики заранее урезают рискованные навыки: Moonshot, например, говорит, что убрала из обучения Kimi K3.1 Pro данные о кибератаках.

Какое железо нужно

Главное здесь память. Каждый параметр занимает 2 байта при 16-битной точности. Квантование это уменьшает: при 8 битах около 1 байта на параметр, при 4 битах около полубайта, с умеренной потерей качества для большинства чат-задач. Плюс немного памяти на контекст.

Больше всего значит память видеокарты (VRAM) или общая память, как в Mac на Apple Silicon; обычная ОЗУ тоже подходит, но работает медленнее. Подробнее в наших гидах как выбрать ноутбук для локального ИИ и сколько нужно оперативной памяти, а с небольшими моделями на устройстве помогают NPU.

Как попробовать модель с открытыми весами

1. Выберите программу. Бесплатные Ollama, LM Studio и llama.cpp скачивают модели и запускают их с чатом или локальным API.
2. Начните с малого. 4-битная модель на 7–8B работает на большинстве ноутбуков с 16 ГБ и хорошо подходит для черновиков, кратких пересказов и помощи с кодом.
3. Обратите внимание на формат. Локальные программы обычно используют квантованные файлы GGUF, Python-фреймворки работают с safetensors.
4. Прочитайте карточку модели. Там указаны лицензия, назначение, языки и известные ограничения.
5. Переходите на модели крупнее только при необходимости. Они умнее, но медленнее и требуют гораздо больше памяти.