SGLang Consortium об’єднав NVIDIA, AMD та Google для розвитку ШІ
У цьому матеріалі
12 листопада 2026 року організація LMSYS оголосила про створення SGLang Consortium — об’єднання компаній, які спільно працюватимуть над відкритою програмною інфраструктурою для запуску моделей штучного інтелекту. До засновників увійшли NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal і RadixArk. Оголошення пролунало під час першого SGLang Summit у Сан-Франциско. Це не презентація нової мовної моделі чи процесора, а спроба координувати розвиток програмного забезпечення, від якого залежить ефективність уже створених ШІ-систем.
Для чого створили SGLang Consortium
Після навчання великої мовної моделі її потрібно багаторазово запускати для обробки запитів користувачів. Цей етап називають інференсом. Він потребує пам’яті, обчислювальних ресурсів, швидкого обміну даними та програмного керування навантаженням. Навіть потужні прискорювачі можуть працювати неефективно, якщо система не оптимізує обробку одночасних запитів і використання пам’яті.
SGLang — відкритий програмний рушій для такого виконання моделей, який належить до екосистеми PyTorch. За повідомленням LMSYS, його використовують у великих виробничих інфраструктурах, зокрема в компаніях Meta, Microsoft, Google, Amazon і Cloudflare. Ці відомості є заявою організації, а не результатом незалежного аудиту кількості встановлень.
Консорціум має стати постійним майданчиком, де виробники чипів, оператори хмарних платформ і розробники інфраструктури зможуть узгоджувати пріоритети. Йдеться про підтримку нових архітектур моделей, мультимодальні задачі, розподілений інференс і оптимізацію для різних апаратних платформ. Важливо, що учасники не отримують права одноосібно визначати, які зміни потраплять до відкритого проєкту.
Хто ухвалюватиме технічні рішення
Кожна компанія-засновник призначить технічного представника й братиме участь у двох зустрічах щодо дорожньої карти щороку. Між ними можуть працювати тематичні групи, а про напрямки розвитку планують повідомляти публічно. Водночас відповідальність за прийняття коду й технічні рішення зберігають супроводжувачі SGLang. Отже, участь великої компанії не означає, що вона може нав’язати власну реалізацію всім користувачам рушія.
Спільна участь NVIDIA, AMD та Intel особливо помітна через конкуренцію між їхніми апаратними платформами. Для користувачів відкритого рушія це потенційно означає ширше тестування та краще врахування особливостей різних прискорювачів. Проте LMSYS не оголосила нових універсальних показників швидкодії, тому говорити про гарантоване прискорення або зниження витрат уже зараз було б передчасно.
Що зміниться для розробників і компаній
На першому етапі новина стосується організації співпраці, а не обов’язкового оновлення програмного забезпечення. Розробникам не потрібно терміново переносити свої сервіси чи змінювати обладнання. Практичні результати залежатимуть від майбутніх внесків у код, перевірених тестів і випусків SGLang. Відкритий характер проєкту дає можливість оцінювати такі зміни незалежно від маркетингових заяв учасників.
Для операторів великих ШІ-сервісів особливе значення мають стабільність, передбачувані затримки та вартість обробки кожного запиту. Оптимізація програмного шару може впливати на ці параметри не менше, ніж вибір прискорювача, але ефект залежить від конкретної моделі, навантаження й конфігурації серверів. Саме тому спільна робота над відкритим рушієм може бути корисною для різних постачальників обладнання, навіть якщо вони конкурують на ринку.
Перший SGLang Summit проходив 12–13 листопада в Сан-Франциско. За даними організаторів, програма охоплювала понад сто доповідачів і теми від мультимодальних моделей до апаратних платформ. Подальші технічні результати варто оцінювати за публічними змінами проєкту, а не лише за складом консорціуму.
Джерело. Офіційне повідомлення LMSYS від 12 листопада 2026 року. Контекст про розвиток обчислювальної інфраструктури ШІ — матеріал Top-Gadgets про Fractile та матеріал про KV-кеш Supermicro та IBM.
