Що таке моделі ШІ з відкритими вагами і чим вони не open source

Коли компанія каже, що випустила «відкриту» модель ШІ, зазвичай мається на увазі одне: ваги можна завантажити. Це важливо, бо модель тоді можна запустити на своєму комп'ютері чи сервері, не віддавати нікому свої дані й підлаштувати її під власні задачі. Але «відкриті ваги» і «open source» не одне й те саме, і різниця суттєва, якщо ви плануєте щось на цьому будувати.

Розбираємося, що таке ваги, чим відкриті моделі відрізняються від закритих і від справжнього open source, на які умови ліцензії зважати і яке залізо потрібне, щоб запустити модель самому.

Що таке ваги моделі

Велика мовна модель по суті є величезним набором чисел, які називають параметрами або вагами. Під час навчання ці числа мільярди разів коригують, доки модель не навчиться добре передбачати наступний фрагмент тексту. Готовий файл ваг і є моделлю: разом із невеликим кодом, що описує архітектуру, це все, що потрібно для генерації відповідей.

Розмір моделі вказують у параметрах: «7B» означає близько 7 млрд, «70B» близько 70 млрд. Великі флагманські моделі мають сотні мільярдів і навіть трильйони параметрів. Багато з них побудовані за схемою mixture-of-experts, де для кожного токена працює лише частина мережі («активні» параметри): так модель швидша, але місця на диску й у пам'яті займає не менше.

Відкриті ваги проти закритих моделей

У закритих моделях, як ті, що працюють у ChatGPT, Claude чи Gemini, ваги ніколи не залишають серверів компанії. Ви надсилаєте запит через застосунок чи API й отримуєте текст. Зазирнути всередину, запустити офлайн чи змінити навчання не вийде.

Розробник відкритої моделі публікує ваги, зазвичай на Hugging Face, і будь-хто може їх завантажити. Відомі родини таких моделей: Llama від Meta, моделі Mistral, Qwen від Alibaba, DeepSeek, Gemma від Google, gpt-oss від OpenAI та Kimi від Moonshot. Найсвіжіший приклад: Kimi K3.1 Pro, ваги якої Moonshot обіцяє до 4 листопада.

Чому відкриті ваги ще не open source

У програмуванні open source означає, що ви отримуєте вихідний код і свободу використовувати, вивчати, змінювати й поширювати його. Для ШІ організація Open Source Initiative у 2024 році опублікувала Open Source AI Definition. Згідно з нею, справді відкрита модель має постачатися з вагами, кодом для навчання і запуску, а також з такою інформацією про навчальні дані, щоб фахівець міг відтворити по суті рівноцінну систему.

Більшість релізів із відкритими вагами цій планці не відповідають. Компанії публікують фінальні ваги й код для запуску, але не навчальні дані (там можуть бути ліцензовані чи зібрані з мережі матеріали) і не повний конвеєр навчання. Модель можна використовувати й донавчати, але не можна повністю відтворити чи перевірити, як її створено. Тому багато дослідників і кажуть саме «відкриті ваги».

Ліцензії: дрібний шрифт, який має значення

«Можна завантажити» не означає «можна все». Ліцензії умовно діляться на три групи:

• Вільні ліцензії, як Apache 2.0 чи MIT, дозволяють комерційне використання, зміни й поширення з мінімумом умов. Їх використовують низка моделей Qwen, Mistral, DeepSeek і gpt-oss.
• Власні «community»-ліцензії дозволяють широке використання, але додають правила. Наприклад, ліцензія Llama від Meta вимагає від дуже великих компаній (понад певну кількість користувачів на місяць) окремої ліцензії і містить правила допустимого використання.
• Дослідницькі чи некомерційні ліцензії дозволяють експериментувати, але не робити платний продукт.

Перш ніж щось запускати в продакшн, прочитайте ліцензію саме для цієї версії моделі, перевірте обмеження щодо сфер чи користувачів і вимоги до зазначення авторства.

Навіщо обирають моделі з відкритими вагами

• Приватність: запити й документи не залишають ваш комп'ютер чи сервери компанії.
• Робота офлайн: локальна модель працює в літаку чи в закритій мережі без інтернету.
• Контроль витрат: після покупки заліза немає оплати за токени; у великих обсягах власний сервер може бути дешевшим за API.
• Налаштування: модель можна донавчити на своїх даних або застосувати невеликі адаптери (LoRA) для стилю чи галузі.
• Прозорість і дослідження: науковці можуть вивчати поведінку моделей, тестувати захисні механізми й порівнювати результати.

Є й мінуси. Найкращі моделі часто досі закриті, за оновлення й безпеку відповідаєте ви, а обмеження безпеки може прибрати будь-хто, хто донавчить ваги. Тому деякі розробники заздалегідь урізають ризиковані навички: Moonshot, наприклад, каже, що прибрала з навчання Kimi K3.1 Pro дані про кібератаки.

Яке залізо потрібне

Головне тут пам'ять. Кожен параметр займає 2 байти при 16-бітній точності. Квантування це зменшує: при 8 бітах близько 1 байта на параметр, при 4 бітах близько пів байта, з помірною втратою якості для більшості чат-задач. Плюс трохи пам'яті на контекст.

Найбільше важить пам'ять відеокарти (VRAM) або спільна пам'ять, як у Mac на Apple Silicon; звичайна ОЗП теж підходить, але працює повільніше. Детальніше в наших гідах як обрати ноутбук для локального ШІ і скільки потрібно оперативної пам'яті, а з невеликими моделями на пристрої допомагають NPU.

Як спробувати модель з відкритими вагами

1. Оберіть програму. Безкоштовні Ollama, LM Studio та llama.cpp завантажують моделі й запускають їх із чатом або локальним API.
2. Почніть з малого. 4-бітна модель на 7–8B працює на більшості ноутбуків із 16 ГБ і добре підходить для чернеток, підсумків і допомоги з кодом.
3. Зверніть увагу на формат. Локальні програми зазвичай використовують квантовані файли GGUF, Python-фреймворки працюють із safetensors.
4. Прочитайте картку моделі. Там вказані ліцензія, призначення, мови й відомі обмеження.
5. Переходьте на більші моделі лише за потреби. Вони розумніші, але повільніші й потребують значно більше пам'яті.