L'SDK Google AI Edge consente l'accesso sperimentale agli sviluppatori che vogliono testare il miglioramento delle loro app con funzionalità di AI on-device tramite Gemini Nano.
Architettura tramite AICore
In quanto modulo a livello di sistema, puoi accedere ad AICore tramite una serie di API per eseguire l'inferenza sul dispositivo. Inoltre, AICore dispone di diverse funzionalità di sicurezza integrate, garantendo una valutazione approfondita rispetto ai nostri filtri di sicurezza. Il seguente diagramma mostra come un'app accede ad AICore per eseguire Gemini Nano sul dispositivo.
Mantenere i dati degli utenti privati e al sicuro
L'AI generativa sul dispositivo esegue i prompt localmente, eliminando le chiamate al server. Questo approccio migliora la privacy mantenendo i dati sensibili sul dispositivo, consente la funzionalità offline e riduce i costi di inferenza.
AICore aderisce ai principi di Private Compute Core, con le seguenti caratteristiche chiave:
- Restricted Package Binding: AICore è isolato dalla maggior parte degli altri pacchetti, con eccezioni limitate per pacchetti di sistema specifici. Eventuali modifiche a questo elenco consentito possono essere apportate solo durante un aggiornamento OTA completo di Android.
- Accesso indiretto a internet: AICore non ha accesso diretto a internet. Tutte le richieste internet, inclusi i download dei modelli, vengono indirizzate tramite l'APK complementare Private Compute Services open source. Le API all'interno di Private Compute Services devono dimostrare esplicitamente la loro natura incentrata sulla privacy.
Inoltre, AICore è progettato per isolare ogni richiesta e non memorizza alcun record dei dati di input o degli output risultanti dopo l'elaborazione per proteggere la privacy degli utenti. Per saperne di più, leggi il post del blog An Introduction to Privacy and Safety for Gemini Nano.
Vantaggi dell'accesso ai modelli di base dell'AI con AICore
AICore consente al sistema operativo Android di fornire e gestire i foundation model di AI. Ciò riduce significativamente il costo dell'utilizzo di questi modelli di grandi dimensioni nella tua app, principalmente per i seguenti motivi:
- Facilità di deployment: AICore gestisce la distribuzione di Gemini Nano e gestisce gli aggiornamenti futuri. Non devi preoccuparti di scaricare o aggiornare modelli di grandi dimensioni sulla rete, né dell'impatto sul budget di memoria e sul disco della tua app.
- Inferenza accelerata: AICore sfrutta l'hardware on-device per accelerare l'inferenza. La tua app ottiene le migliori prestazioni su ogni dispositivo e non devi preoccuparti delle interfacce hardware sottostanti.
Funzionalità supportata
- Dispositivi supportati: Gemini Nano con Google AI Edge SDK è disponibile per la sperimentazione sui dispositivi della serie Pixel 9.
- Modalità supportate: AICore supporta la modalità di testo per Gemini Nano.
Il supporto di ulteriori dispositivi e modalità è un'area di investimento attiva.
Casi d'uso
A causa dei limiti delle risorse dei dispositivi mobili rispetto ai server cloud, i modelli di AI generativa on-device sono progettati con particolare attenzione all'efficienza e alle dimensioni. Questa ottimizzazione dà la priorità a attività specifiche e ben definite rispetto ad applicazioni più generalizzate. I casi d'uso adatti includono:
- Riformulazione del testo: modifica il tono e lo stile del testo (ad es. da informale a formale).
- Risposta rapida: genera risposte contestualmente pertinenti all'interno di un thread di chat.
- Correzione bozza: identifica e correggi gli errori ortografici e grammaticali.
- Riepilogo: condensa documenti lunghi in riepiloghi concisi (paragrafo o elenco puntato).
Per un rendimento ottimale, consulta la documentazione sulle strategie di prompt. Per esplorare questi casi d'uso in prima persona, scarica la nostra app di esempio e inizia a sperimentare Gemini Nano.
Gemini Nano viene utilizzato da diverse app Google. Ecco alcuni esempi:
- TalkBack: l'app di accessibilità di Android TalkBack sfrutta le funzionalità di input multimodale di Gemini Nano per migliorare le descrizioni delle immagini per gli utenti con disabilità visiva.
- Registratore vocale di Pixel: l'app Registratore vocale di Pixel utilizza Gemini Nano e AICore per alimentare una funzionalità di riepilogo sul dispositivo. Il team di Registratore ha adottato l'ultimo modello Gemini Nano per supportare registrazioni più lunghe e fornire riepiloghi di qualità superiore.
- Gboard: la funzionalità Risposta rapida di Gboard sfrutta Gemini Nano on-device con AICore per fornire risposte rapide accurate.