Google випустила Gemma 3 270M, модель штучного інтелекту з відкритим кодом та 270 мільйонами параметрів, розроблену для ефективної роботи на смартфонах та пристроях Інтернету речей.
Спираючись на технології з більшої родини Gemini, він зосереджений на портативності, низькому споживанні енергії та швидкому налаштуванні, що дозволяє розробникам створювати інструменти штучного інтелекту, які працюють на повсякденному обладнанні, а не покладаються на високопродуктивні сервери.
Модель підтримує виконання інструкцій та структурування тексту зі словником із 256 000 токенів, що пропонує можливості для обробки природної мови та персоналізації на пристрої.
Його конструкція включає навчання з урахуванням квантування для роботи в низькоточних форматах, таких як INT4, що зменшує використання пам’яті та підвищує швидкість мобільних процесорів замість того, щоб вимагати значної обчислювальної потужності.
Галузеві коментатори зазначають, що ця модель може допомогти задовольнити попит на ефективний штучний інтелект у периферійних обчисленнях, із застосуванням у медичних портативних пристроях та автономних системах Інтернету речей. Збереження обробки на пристрої також підтримує конфіденційність та зменшує залежність від хмарної інфраструктури.
Google підкреслює екологічні переваги моделі, вказуючи на зменшення викидів вуглецю та кращу доступність для менших фірм і незалежних розробників. Хоча такі запобіжні заходи, як ShieldGemma, спрямовані на обмеження ризиків, експерти кажуть, що все одно потрібно буде обережно використовувати, щоб уникнути неправильного використання.
Майбутні розробки можуть принести нові функції, зокрема мультимодальні можливості, як частину стратегії Google щодо поєднання відкритого та власного штучного інтелекту в гібридних системах.
