AICore Android

O Android AICore é um novo serviço do sistema que permite acesso a modelos de base de IA executados no dispositivo.

Com o AICore, seu app Android pode acessar o Gemini Nano, a menor forma do Gemini, o modelo de base de última geração do Google em dispositivos com suporte. Atualmente, o AICore é usado por vários produtos do Google.

Neste documento, detalhamos os benefícios do AICore e do Gemini Nano, descrevendo como o AICore funciona e como você pode aproveitá-lo.

Acesso de desenvolvedor usando o SDK do Google AI Edge

As APIs para usar o AICore na execução do Gemini Nano são fornecidas como parte do SDK do Google AI Edge. Esse SDK está disponível no pré-lançamento de acesso antecipado (PAA) para desenvolvedores que querem criar aplicativos inovadores de IA generativa no dispositivo com o Gemini Nano no Android.

Se você tiver interesse em criar esses aplicativos, inscreva-se no EAP.

Benefícios de acessar os modelos de base de IA pelo AICore

Com o AICore, o SO Android fornece e gerencia modelos de fundação de IA. Isso reduz significativamente o custo de uso desses modelos grandes no app, principalmente devido aos seguintes motivos:

  • Facilidade de implantação: o AICore gerencia a distribuição do Gemini Nano e processa atualizações futuras. Você não precisa se preocupar em fazer o download ou a atualização de modelos grandes pela rede nem em afetar o espaço de disco e a memória de execução do app.
  • Acesso à aceleração de hardware: o ambiente de execução do AICore é otimizado para se beneficiar da aceleração de hardware. Seu app tem o melhor desempenho em cada dispositivo, e você não precisa se preocupar com as interfaces de hardware de base.

Funcionalidades compatíveis

Confira a seguir os principais recursos com suporte do AICore:

  • Dispositivos compatíveis: no momento, o AICore está disponível apenas em dispositivos Pixel 8 Pro.
  • Modalidades compatíveis: no momento, o AICore é compatível com a modalidade de texto para o Gemini Nano.

A compatibilidade com dispositivos e modalidades é áreas de investimento ativo.

Arquitetura

Como módulo no nível do sistema, você acessa o AICore por meio de uma série de APIs para executar a inferência no dispositivo. Também é possível fornecer um bloco de ajuste do LoRA para otimizar ainda mais o desempenho do Gemini Nano para seu aplicativo. O diagrama a seguir descreve como um app acessa o AICore para executar o Gemini Nano no dispositivo.

Arquitetura do AICore
Figura 1. Arquitetura do AICore

Casos de uso

Estas são algumas tarefas que você pode realizar com o Gemini Nano pelo AICore:

  • Consumo de conteúdo aprimorado por IA: por exemplo, resumo, respostas a perguntas e extração de entidades.
  • Geração de conteúdo aprimorada por IA: por exemplo, revisão, correção gramatical, assistência de escrita e respostas inteligentes contextuais.

Vários produtos do Google já usam o AICore no Pixel, incluindo o Pixel Voice Recorder e o Gboard.

Gravador de voz do Pixel

O aplicativo Gravador de voz do Pixel usa Gemini Nano e AICore para potencializar um recurso de resumo no dispositivo.

Vídeo 1. Resumo no dispositivo do Gravador de voz do Pixel com tecnologia do AICore

Resposta inteligente do Gboard

O Gboard usa o Gemini Nano com o AICore para fornecer recursos precisos de resposta inteligente no dispositivo.

Vídeo 2. Respostas inteligentes do Gboard com o AICore