Google представила свою відкриту генеративну модель штучного інтелекту Gemma 4 12B, яка має 11,95 мільярда параметрів і може працювати безпосередньо на персональних комп’ютерах з 16 ГБ оперативної пам’яті, чи то відеопам’яті, чи то уніфікованої.
Ця модель розповсюджується під ліцензією Apache 2.0 та вже є доступною для завантаження через платформи Hugging Face, Kaggle та Google AI Edge Gallery.
Однією з ключових особливостей Gemma 4 12B є її нова архітектура під назвою Unified. На відміну від більшості мультимодальних систем, вона не використовує окремі компоненти для обробки зображень і звуку. Натомість, візуальні дані та звукові сигнали безпосередньо надходять до мовної моделі завдяки спрощеним проміжним модулям.
За даними Google, такий підхід дозволяє скоротити час відгуку, зменшити потреби у ресурсах пам’яті та полегшити процес подальшого донавчання моделі.
Gemma 4 12B підтримує робоче вікно до 256 тисяч токенів, має функцію покрокового міркування, дозволяє використовувати системні інструкції та викликати зовнішні інструменти для створення автоматизованих агентів. Незважаючи на свої відносно невеликі розміри, Google заявляє, що в багатьох тестах модель демонструє результати, співмірні з більшою моделлю Gemma 4 26B.
Модель також має можливості для обробки аудіо та відео. Однак існують певні обмеження: тривалість аудіозаписів не повинна перевищувати 30 секунд, а для відео встановлено ліміт у 60 секунд при обробці зі швидкістю один кадр за секунду.
Google пропонує Gemma 4 12B як рішення для локального запуску систем штучного інтелекту без необхідності підключення до хмарних сервісів. Компанія вважає, що ця модель може бути корисною для організацій, яким потрібен високий рівень конфіденційності даних, для розробки автономних агентів та для сценаріїв, де постійний доступ до інтернету відсутній або не бажаний.
Gemma 4 12B вже сумісна з поширеними інструментами розгортання, такими як vLLM, SGLang, MLX та llama.cpp. Для користувачів Google Cloud також передбачена інтеграція через Model Garden, Cloud Run та Google Kubernetes Engine.
Дізнайтеся більше: Google “таємно” придбає код розробників Android для навчання ШІ-асистента програмуванню
Джерело новини: mezha.ua