Gemini Nano

Gemini Nano vous permet de proposer des expériences d'IA générative riches sans avoir besoin d'une connexion réseau ni d'envoyer de données vers le cloud. L'IA sur l'appareil est une excellente solution pour les cas d'utilisation où le faible coût et les mesures de protection de la confidentialité sont vos principales préoccupations.

Pour les cas d'utilisation sur l'appareil, vous pouvez profiter du modèle de base Gemini Nano de Google. Gemini Nano s'exécute dans le service système AICore d'Android, qui exploite le matériel de l'appareil pour permettre une faible latence d'inférence et maintenir le modèle à jour.

API d'IA générative ML Kit

Les API GenAI de ML Kit exploitent la puissance de Gemini Nano pour aider vos applications à effectuer des tâches. Ces API offrent une qualité prête à l'emploi pour les cas d'utilisation courants grâce à une interface de haut niveau. Les API GenAI de ML Kit sont basées sur AICore, un service système Android qui permet l'exécution sur l'appareil de modèles de fondation GenAI pour faciliter des fonctionnalités telles que l'amélioration des fonctionnalités des applications et la protection de la confidentialité des utilisateurs en traitant les données localement. En savoir plus

Principales fonctionnalités

Les API ML Kit GenAI sont compatibles avec les fonctionnalités suivantes :

  • Requête : générez du contenu textuel à partir d'une requête personnalisée, textuelle uniquement ou multimodale.
  • Résumé : résumer des articles ou des conversations sous forme de liste à puces.
  • Relecture : relisez de courts messages de chat.
  • Réécriture : réécrivez des messages de chat courts dans différents tons ou styles.
  • Description de l'image : générez une brève description d'une image donnée.
  • Reconnaissance vocale : transcrivez le contenu audio parlé en texte.

Architecture via AICore

En tant que module au niveau du système, vous accédez à AICore via une série d'API pour exécuter l'inférence sur l'appareil. De plus, AICore dispose de plusieurs fonctionnalités de sécurité intégrées, ce qui garantit une évaluation approfondie par rapport à nos filtres de sécurité. Le diagramme suivant décrit comment une application accède à AICore pour exécuter Gemini Nano sur l'appareil.

Diagramme montrant comment une application Android utilise le SDK Google AI Edge pour accéder à AICore, où Gemini Nano, LoRA et les fonctionnalités de sécurité sont gérés et exécutés sur des accélérateurs matériels.
Figure 1. AICore sert d'interface entre votre application et le modèle Gemini Nano. Il gère les mises à jour et la sécurité du modèle tout en tirant parti du matériel sur l'appareil.

Préserver la confidentialité et la sécurité des données utilisateur

L'IA générative sur l'appareil exécute les requêtes localement, ce qui élimine les appels au serveur. Bien que cela supprime la latence du réseau, la vitesse d'inférence dépend du matériel de l'appareil. Cette approche améliore la confidentialité en conservant les données sensibles sur l'appareil, permet d'utiliser la fonctionnalité hors connexion et réduit les coûts d'inférence.

AICore respecte les principes de Private Compute Core, avec les principales caractéristiques suivantes :

  • Liaison de package restreinte : AICore est isolé de la plupart des autres packages, à quelques exceptions près pour certains packages système spécifiques. Toute modification apportée à cette liste autorisée ne peut avoir lieu que lors d'une mise à jour OTA Android complète.
  • Accès indirect à Internet : AICore n'a pas d'accès direct à Internet. Toutes les requêtes Internet, y compris les téléchargements de modèles, sont acheminées via l'APK Private Compute Services open source. Les API des services de calcul confidentiel doivent explicitement démontrer leur nature axée sur la confidentialité.

De plus, AICore est conçu pour isoler chaque requête et ne stocke aucun enregistrement des données d'entrée ni des sorties résultantes après leur traitement afin de protéger la confidentialité des utilisateurs. Pour en savoir plus, consultez l'article de blog Présentation de la confidentialité et de la sécurité pour Gemini Nano.

Diagramme d'architecture détaillé d'AICore montrant le flux de requêtes : surface de l'API, traitement des entrées avec signaux de sécurité, configuration des fonctionnalités, exécution avec pondérations de modèle et LoRA, et traitement des sorties avec signaux de sécurité. Il affiche également les téléchargements de modèles via Private Compute Services.
Figure 2. L'architecture AICore gère la sécurité des entrées et des sorties, le traitement des requêtes et les pondérations des modèles pour fournir un environnement sécurisé pour l'IA sur l'appareil.

Avantages de l'accès aux modèles de fondation d'IA avec AICore

AICore permet à l'OS Android de fournir et de gérer des modèles de fondation d'IA. Cela réduit considérablement le coût d'utilisation de ces grands modèles dans votre application, principalement en raison des éléments suivants :

  • Facilité de déploiement : AICore gère la distribution de Gemini Nano et les futures mises à jour. Vous n'avez pas à vous soucier du téléchargement ni de la mise à jour de grands modèles sur le réseau, ni de l'impact sur le budget de mémoire de disque et d'exécution de votre application.
  • Inférence accélérée : AICore s'appuie sur le matériel de l'appareil pour accélérer l'inférence. Votre application bénéficie des meilleures performances sur chaque appareil, et vous n'avez pas à vous soucier des interfaces matérielles sous-jacentes.

Quand utiliser l'inférence hybride ?

Bien que Gemini Nano soit idéal pour les tâches hors connexion et sensibles à la confidentialité, il présente des contraintes sur l'appareil, telles que des limites de jetons, des limites matérielles de l'appareil et des limites de capacité du modèle. Dans ces scénarios, vous pouvez utiliser l'inférence hybride pour équilibrer les charges de travail d'IA entre l'appareil local et le cloud.

Pour garantir une expérience utilisateur cohérente sur tous les appareils et gérer les requêtes complexes, vous pouvez utiliser l'API hybride Firebase AI Logic. Cela permet à votre application d'effectuer les opérations suivantes :

  • Reprise gracieuse : les requêtes sont automatiquement redirigées vers les modèles Gemini Flash ou Gemini Pro dans le cloud lorsque Gemini Nano n'est pas disponible ou n'est pas compatible avec l'appareil de l'utilisateur.
  • Appliquer la sécurité : protégez l'inférence cloud avec Firebase App Check (et ses fournisseurs d'attestation compatibles, comme Play Integrity) et conservez les invites système sensibles côté serveur.