Google рассказала в своём блоге, что сторонние разработчики смогут использовать возможности компактной модели машинного обучения Gemini Nano с помощью системы Android AICore. Первое время система будет доступна только для смартфонов Pixel 8 Pro.
Google представила серию моделей машинного обучения Gemini разного размера. Среди них есть Gemini Nano, предназначенная для локального запуска на мобильных устройствах. На её базе будут работать функции обобщения записей в диктофоне и умные ответы в мессенджерах.
На первом этапе развёртывания Gemini Nano будет работать только на смартфонах Pixel 8 Pro, что стало возможно благодаря чипу Google Tensor TPU. Компания уже сотрудничает с другими производителями NPU. Ожидается, что в ближайшее время появится поддержка для устройств на базе процессоров Samsung, Qualcomm и MediaTek.
Система AICore берёт на себя все задачи по взаимодействию с моделью машинного обучения и обеспечивает безопасность. Благодаря этому разработчики мобильных приложений могут использовать в своих проектах возможности Gemini Nano.
Кроме того, Google рассказала в своём блоге, что AICore обеспечивает тонкую настройку Low Rank Adaptation (LoRA). Это позволяет разработчикам создавать небольшие
LoRA-адаптеры на базе собственных данных. В итоге приложение будет использовать адаптированную под проект версию Gemini Nano.
Google представила набор моделей машинного обучения 6 декабря 2023 года. Набор включает в себя три нейросети: Nano, Pro и Ultra. Pro уже интегрировали в чат-бота Bard, а релиз Ultra состоится в начале 2024 года.
