Google AI Edge SDK предоставляет экспериментальный доступ разработчикам, желающим протестировать усовершенствование своих приложений с помощью возможностей искусственного интеллекта на устройстве через Gemini Nano.
Архитектура через AICore
AICore — это системный модуль, к которому вы обращаетесь через ряд API для выполнения инференса на устройстве. Кроме того, AICore имеет несколько встроенных функций безопасности, обеспечивающих тщательную проверку по нашим фильтрам безопасности. На следующей схеме показано, как приложение обращается к AICore для запуска Gemini Nano на устройстве.
Обеспечьте конфиденциальность и безопасность данных пользователей
Генеративный ИИ на устройстве выполняет запросы локально, исключая необходимость в обращениях к серверу. Такой подход повышает конфиденциальность, сохраняя конфиденциальные данные на устройстве, обеспечивает офлайн-функциональность и снижает затраты на вывод.
AICore придерживается принципов Private Compute Core со следующими ключевыми характеристиками:
- Ограниченное связывание пакетов : AICore изолирован от большинства других пакетов, за исключением некоторых системных пакетов. Любые изменения в этом списке разрешенных пакетов возможны только во время полного обновления Android OTA.
- Непрямой доступ в Интернет : AICore не имеет прямого доступа в Интернет. Все интернет-запросы, включая загрузку моделей, направляются через открытый APK-файл Private Compute Services . API в Private Compute Services должны явно демонстрировать свою приватность.
Кроме того, AICore разработан для изоляции каждого запроса и не сохраняет записи входных данных или полученных результатов после их обработки, чтобы защитить конфиденциальность пользователей. Подробнее читайте в статье блога «Введение в конфиденциальность и безопасность Gemini Nano» .
Преимущества доступа к базовым моделям ИИ с помощью AICore
AICore позволяет ОС Android предоставлять и управлять базовыми моделями ИИ. Это значительно снижает стоимость использования этих крупных моделей в вашем приложении, в основном благодаря следующим факторам:
- Простота развертывания : AICore управляет распространением Gemini Nano и отвечает за будущие обновления. Вам не нужно беспокоиться о загрузке или обновлении больших моделей по сети, а также о влиянии на дисковое пространство и бюджет оперативной памяти вашего приложения.
- Ускоренный вывод : AICore использует аппаратное обеспечение устройства для ускорения вывода. Ваше приложение работает максимально эффективно на каждом устройстве, и вам не нужно беспокоиться о базовых аппаратных интерфейсах.
Поддерживаемые функции
- Поддерживаемые устройства : Gemini Nano с Google AI Edge SDK доступен для экспериментов на устройствах серии Pixel 9.
- Поддерживаемые модальности : AICore поддерживает текстовую модальность для Gemini Nano.
Дополнительная поддержка устройств и модальностей является сферой активных инвестиций.
Варианты использования
В связи с ограниченностью ресурсов мобильных устройств по сравнению с облачными серверами, локальные модели генеративного ИИ разрабатываются с упором на эффективность и размер. Такая оптимизация отдаёт приоритет конкретным, чётко определённым задачам, а не более общим приложениям. Примеры использования:
- Перефразирование текста : изменение тона и стиля текста (например, с неформального на официальный).
- Умный ответ : создание контекстно-релевантных ответов в чате.
- Корректура : выявление и исправление орфографических и грамматических ошибок.
- Резюмирование : сжимайте длинные документы в краткие резюме (абзацы или маркированные списки).
Для достижения оптимальной производительности ознакомьтесь с документацией по стратегиям подсказок . Чтобы изучить эти варианты использования на практике, скачайте наш пример приложения и начните экспериментировать с Gemini Nano.
Gemini Nano используется несколькими приложениями Google. Вот некоторые примеры:
- Talkback: приложение Talkback для Android, обеспечивающее специальные возможности, использует возможности многомодального ввода Gemini Nano для улучшения описания изображений для пользователей с нарушениями зрения.
- Pixel Voice Recorder: приложение Pixel Voice Recorder использует Gemini Nano и AICore для поддержки функции реферирования на устройстве. Команда разработчиков приложения использовала новейшую модель Gemini Nano для поддержки более длительных записей и обеспечения более высокого качества реферирования.
- Gboard: интеллектуальный ответ Gboard использует встроенную технологию Gemini Nano с AICore для предоставления точных интеллектуальных ответов.