Inkling 2 Mini — локальна ШІ-модель для ноутбуків

5 хв читання
Схематична обкладинка про локальну модель Inkling 2 Mini та її циклічну архітектуру
5 хв читання
Схематична обкладинка про локальну модель Inkling 2 Mini та її циклічну архітектуру
Власна програмна редакційна графіка Top-Gadgets.
У цьому матеріалі

Thinking Machines Lab 20 листопада 2026 року випустила Inkling 2 Mini — відкриту модель штучного інтелекту, яку компанія розраховує запускати не лише в датацентрах, а й на сумісних ноутбуках та настільних комп’ютерах. Її головна особливість — циклічна архітектура: частина шарів повторно обробляє кожен токен, додаючи обчислення без пропорційного збільшення розміру ваг.

Коротко

Inkling 2 Mini має 26,4 млрд параметрів і контрольну копію приблизно на 20 ГБ. Середні 12 із 24 шарів проходять три цикли; для локального запуску виробник рекомендує Apple Silicon із 32 ГБ пам’яті або відеокарту з 32 ГБ VRAM. Заявлені переваги в тестах походять переважно з оцінювань розробника.

Як працює циклічна архітектура

Inkling 2 Mini побудована як трансформер із 24 шарами та розрідженою архітектурою Mixture of Experts. У звичайному проході модель активує близько 3,4 млрд параметрів. Але середні 12 шарів вона використовує тричі з тими самими вагами. У результаті кожен токен проходить через 48 застосувань шарів, а ефективна кількість активованих параметрів за три проходи зростає приблизно до 5,4 млрд.

Це не означає, що модель зберігає три повні копії середніх шарів або має 48 різних шарів. Вона повторно використовує наявні ваги. Такий підхід дає більше обчислювальної роботи на токен, не збільшуючи обсяг файлу так, як це сталося б після простого додавання нових шарів. У кожному шарі токен спрямовується до восьми з 128 експертів, а механізм attention residuals передає інформацію між проходами.

Ідея особливо цікава для агентного програмування, де модель має послідовно аналізувати код, перевіряти помилки та взаємодіяти з інструментами. Розробник стверджує, що повторне використання шарів допомагає виконувати складніші міркування без такого самого зростання текстового ланцюжка пояснень. Це властивість конкретної архітектури, а не гарантія, що модель завжди міркуватиме правильно.

Чи можна запустити Inkling 2 Mini на ноутбуці

Контрольна копія моделі займає близько 20 ГБ і використовує змішану точність NVFP4 та MXFP8. За документацією Thinking Machines Lab, для локального запуску підходять комп’ютери Apple Silicon із щонайменше 32 ГБ об’єднаної пам’яті, NVIDIA DGX Spark або інші системи з рекомендованими 32 ГБ відеопам’яті. Це вимога до сумісного середовища, а не обіцянка однакової швидкості на будь-якому ноутбуці.

Компанія показала власну демонстрацію на MacBook Pro з M5 Pro та 48 ГБ пам’яті в режимі польоту. За її словами, модель локально створила ігровий симулятор польоту за кілька хвилин. Це демонстраційний приклад виробника, а не незалежний тест типового ноутбука. Для запуску потрібен програмний рушій: у документації згадані Ollama та Exo Labs для Apple Silicon, а для NVIDIA — SGLang, vLLM, Unsloth і NVIDIA Dynamo. Також доступні квантовані GGUF-версії для llama.cpp.

Локальна робота може бути корисною, коли важливо не надсилати робочі файли до зовнішнього сервісу або коли потрібен доступ без постійного інтернет-з’єднання. Водночас сам факт завантаження ваг не гарантує приватності: треба перевірити, чи вибраний застосунок справді виконує запити локально, які журнали зберігає та чи не підключає додаткові хмарні API.

Що показують тести та де є обмеження

Thinking Machines заявляє, що Inkling 2 Mini випереджає відкриті моделі з менш ніж 100 млрд параметрів у низці тестів агентного програмування. У таблицях компанії наведено 48,2% у DeepSWE v1.1 та 46,5% у Vals Index v2.2. Водночас оцінка Artificial Analysis Intelligence Index v5.0 становить 20,1 — такий самий результат у таблиці має Qwen3.8-27B. Ці цифри не слід зводити до твердження, що новинка загалом краща за всі моделі подібного розміру: різні тести вимірюють різні завдання.

Сама компанія зазначає, що додаткові проходи не додають моделі нових фактів: знання значною мірою залежать від загальної кількості параметрів. Тому циклічна архітектура може допомагати в послідовному програмуванні та роботі з інструментами, але не усуває помилок фактичного пошуку чи слабших результатів у завданнях, де важлива широка база знань. VentureBeat також звертає увагу на різницю між сильними результатами в агентних тестах і слабшими показниками фактичності та багатокрокового діалогу.

Доступність і ліцензія

Ваги Inkling 2 Mini доступні для завантаження через Hugging Face, а через платформу Tinker модель можна використовувати для інференсу та налаштування. Виробник також перелічує сторонніх постачальників API. Модельна картка вказує ліцензію Apache 2.0 і окремо посилається на політику допустимого використання, тому перед комерційним розгортанням варто перевірити обидва документи.

Модель приймає текст і зображення, але генерує текст. У картці зазначено контекстне вікно до одного мільйона токенів і загальну багатомовну підтримку; це не є підтвердженням однакової якості для кожної мови, зокрема української. Для порівняння підходів до локального запуску можна прочитати наш матеріал про Local Code для Mac, а про іншу відкриту модель — огляд Qwen4-Max від Alibaba.

Отже, головна новина не в рекордній кількості параметрів, а в спробі отримати більше обчислювальної глибини повторним використанням шарів. Inkling 2 Mini варта уваги розробників, які мають достатньо пам’яті та хочуть експериментувати з локальними агентами. Але перед вибором її потрібно перевірити на власному наборі задач: результати виробника не замінюють незалежного тестування, а вимога до пам’яті робить модель доступною не для кожного ноутбука.

Джерела, перевірені 21 листопада 2026 року
Thinking Machines Lab — анонс Inkling 2 Mini, 20 листопада 2026 року
Модельна картка Inkling 2 Mini, дата релізу 20 листопада 2026 року
VentureBeat — незалежний матеріал про локальний запуск і архітектуру, 21 листопада 2026 року

Читайте також