Google AI Edge SDK를 사용하면 Gemini Nano를 통해 온디바이스 AI 기능으로 앱을 개선하려는 개발자가 실험적 액세스를 이용할 수 있습니다.
AICore를 통한 아키텍처
시스템 수준 모듈로서 일련의 API를 통해 AICore에 액세스하여 온디바이스 추론을 실행합니다. 또한 AICore에는 여러 내장 안전 기능이 있어 Google의 안전 필터에 대한 철저한 평가를 보장합니다. 다음 다이어그램은 앱이 AICore에 액세스하여 Gemini Nano를 온디바이스로 실행하는 방법을 간략하게 보여줍니다.
그림 1. Google AI Edge SDK, AICore, Gemini Nano를 사용해 보세요.
사용자 데이터를 비공개로 안전하게 유지
온디바이스 생성형 AI는 프롬프트를 로컬로 실행하여 서버 호출을 없앱니다. 이 접근 방식은 민감한 데이터를 기기에 유지하여 개인 정보 보호를 강화하고, 오프라인 기능을 지원하며, 추론 비용을 절감합니다.
제한된 패키지 바인딩: AICore는 대부분의 다른 패키지에서 격리되며 특정 시스템 패키지에 대한 제한된 예외가 있습니다. 이 허용 목록에 대한 수정은 전체 Android OTA 업데이트 중에만 발생할 수 있습니다.
간접 인터넷 액세스: AICore에는 직접 인터넷 액세스 권한이 없습니다.
모델 다운로드를 비롯한 모든 인터넷 요청은 오픈소스 프라이빗 컴퓨트 서비스 동반자 APK를 통해 라우팅됩니다. 프라이빗 컴퓨트 서비스 내 API는 개인 정보 보호 중심적인 특성을 명시적으로 보여줘야 합니다.
또한 AICore는 각 요청을 격리하도록 설계되었으며 사용자 개인 정보를 보호하기 위해 입력 데이터 또는 처리 후의 결과 출력 기록을 저장하지 않습니다. 자세한 내용은 블로그 게시물 Gemini Nano의 개인 정보 보호 및 안전 소개를 참고하세요.
그림 2. AICore 아키텍처
AICore로 AI 파운데이션 모델에 액세스할 때의 이점
AICore를 사용하면 Android OS가 AI 파운데이션 모델을 제공하고 관리할 수 있습니다.
이로 인해 앱에서 이러한 대형 모델을 사용하는 비용이 크게 절감됩니다. 그 이유는 주로 다음과 같습니다.
간편한 배포: AICore는 Gemini Nano의 배포를 관리하고 향후 업데이트를 처리합니다. 네트워크를 통해 대규모 모델을 다운로드하거나 업데이트할 필요가 없으며 앱의 디스크 및 런타임 메모리 예산에 영향을 미치지 않습니다.
추론 가속화: AICore는 온디바이스 하드웨어를 활용하여 추론을 가속화합니다. 앱은 각 기기에서 최상의 성능을 얻으며 기본 하드웨어 인터페이스에 대해 걱정할 필요가 없습니다.
지원되는 기능
지원되는 기기: Google AI Edge SDK가 적용된 Gemini Nano는 Pixel 9 시리즈 기기에서 실험할 수 있습니다.
지원되는 모달리티: AICore는 Gemini Nano의 텍스트 모달리티를 지원합니다.
추가 기기 및 모달리티 지원은 적극적으로 투자하고 있는 분야입니다.
사용 사례
클라우드 서버에 비해 휴대기기의 리소스 제약 조건으로 인해 온디바이스 생성형 AI 모델은 효율성과 크기에 중점을 두고 설계됩니다.
이 최적화는 더 일반화된 애플리케이션보다 구체적이고 잘 정의된 작업에 우선순위를 부여합니다. 적합한 사용 사례는 다음과 같습니다.
텍스트 바꿔쓰기: 텍스트의 어조와 스타일을 수정합니다 (예: 캐주얼에서 격식으로).
스마트 답장: 채팅 대화목록 내에서 상황에 맞는 응답을 생성합니다.
교정: 맞춤법 및 문법 오류를 식별하고 수정합니다.
요약: 긴 문서를 간결한 요약(단락 또는 글머리 기호)으로 압축합니다.
최적의 성능을 위해 프롬프트 작성 전략 문서를 참고하세요. 이러한 사용 사례를 직접 살펴보려면 샘플 앱을 다운로드하고 Gemini Nano를 실험해 보세요.
Gemini Nano는 여러 Google 앱에서 사용됩니다. 다음은 몇 가지 예입니다.
TalkBack: Android의 접근성 앱인 TalkBack은 Gemini Nano의 멀티모달 입력 기능을 활용하여 시각장애인 사용자를 위한 이미지 설명을 개선합니다.
Pixel 녹음기:Pixel 녹음기 앱은 Gemini Nano 및 AICore를 사용하여 온디바이스 요약 기능을 지원합니다. 녹음기팀은 더 긴 녹음을 지원하고 더 높은 품질의 요약을 제공하기 위해 최신 Gemini Nano 모델을 채택했습니다.
Gboard: Gboard 스마트 답장은 AICore가 탑재된 온디바이스 Gemini Nano를 활용하여 정확한 스마트 답장을 제공합니다.
이 페이지에 나와 있는 콘텐츠와 코드 샘플에는 콘텐츠 라이선스에서 설명하는 라이선스가 적용됩니다. 자바 및 OpenJDK는 Oracle 및 Oracle 계열사의 상표 또는 등록 상표입니다.
최종 업데이트: 2025-08-21(UTC)
[[["이해하기 쉬움","easyToUnderstand","thumb-up"],["문제가 해결됨","solvedMyProblem","thumb-up"],["기타","otherUp","thumb-up"]],[["필요한 정보가 없음","missingTheInformationINeed","thumb-down"],["너무 복잡함/단계 수가 너무 많음","tooComplicatedTooManySteps","thumb-down"],["오래됨","outOfDate","thumb-down"],["번역 문제","translationIssue","thumb-down"],["샘플/코드 문제","samplesCodeIssue","thumb-down"],["기타","otherDown","thumb-down"]],["최종 업데이트: 2025-08-21(UTC)"],[],[],null,["# Google AI Edge SDK allows experimental access for developers seeking to test\nenhancement of their apps with on-device AI capabilities through Gemini Nano.\n\nArchitecture through AICore\n---------------------------\n\nAs a system-level module, you access AICore through a series of APIs in order to\nrun inference on-device. In addition, AICore has several built-in safety\nfeatures, ensuring a thorough evaluation against our safety filters. The\nfollowing diagram outlines how an app accesses AICore to run Gemini Nano\non-device.\n**Figure 1.** Google AI Edge SDK, AICore, and Gemini Nano.\n\nKeep user data private and secure\n---------------------------------\n\nOn-device generative AI executes prompts locally, eliminating server calls. This\napproach enhances privacy by keeping sensitive data on the device, enables\noffline functionality, and reduces inference costs.\n\nAICore adheres to the [Private Compute Core](https://arxiv.org/abs/2209.10317) principles, with the following\nkey characteristics:\n\n- **Restricted Package Binding**: AICore is isolated from most other packages, with limited exceptions for specific system packages. Any modifications to this allowed list can only occur during a full Android OTA update.\n- **Indirect Internet Access** : AICore does not have direct internet access. All internet requests, including model downloads, are routed through the open-source [Private Compute Services](https://github.com/google/private-compute-services) companion APK. APIs within Private Compute Services must explicitly demonstrate their privacy-centric nature.\n\nAdditionally, AICore is built to isolate each request and doesn't store\nany record of the input data or the resulting outputs after processing\nthem to protect user privacy. Read the blog post\n[An Introduction to Privacy and Safety for Gemini Nano](https://android-developers.googleblog.com/2024/10/introduction-to-privacy-and-safety-gemini-nano.html) to learn more.\n**Figure 2.** AICore architecture\n\nBenefits of accessing AI foundation models with AICore\n------------------------------------------------------\n\nAICore enables the Android OS to provide and manage AI foundation models.\nThis significantly reduces the cost of using these large models in your app,\nprincipally due to the following:\n\n- **Ease of deployment**: AICore manages the distribution of Gemini Nano and handles future updates. You don't need to worry about downloading or updating large models over the network, nor impact on your app's disk and runtime memory budget.\n- **Accelerated inference**: AICore leverages on-device hardware to accelerate inference. Your app gets the best performance on each device, and you don't need to worry about the underlying hardware interfaces.\n\nSupported functionality\n-----------------------\n\n- **Supported Devices** : Gemini Nano with the Google AI Edge SDK is available for [experimentation](/ai/gemini-nano/experimental) on Pixel 9 series devices.\n- **Supported Modalities**: AICore supports text modality for Gemini Nano.\n\nAdditional device and modality support are areas of active investment.\n\nUse cases\n---------\n\nDue to the resource constraints of mobile devices compared to cloud servers,\non-device generative AI models are designed with a focus on efficiency and size.\nThis optimization prioritizes specific, well-defined tasks over more generalized\napplications. Suitable use cases include:\n\n- **Text Rephrasing**: Modify the tone and style of text (e.g., casual to formal).\n- **Smart Reply**: Generate contextually relevant responses within a chat thread.\n- **Proofreading**: Identify and correct spelling and grammatical errors.\n- **Summarization**: Condense lengthy documents into concise summaries (paragraph or bullet points).\n\nFor optimal performance, refer to the [prompting strategies](https://ai.google.dev/gemini-api/docs/prompting-strategies)\ndocumentation. To explore these use cases firsthand, download our\n[sample app](https://github.com/android/ai-samples/tree/main/gemini-nano) and begin experimenting with Gemini Nano.\n\nGemini Nano is used by several Google apps. Some examples include:\n\n- **Talkback:** Android's accessibility app [Talkback](https://android-developers.googleblog.com/2024/09/talkback-uses-gemini-nano-to-increase-low-vision-accessibility.html) leverages Gemini Nano's multimodal input capabilities to improve image descriptions for visually impaired users.\n- **Pixel Voice Recorder:** The [Pixel Voice Recorder](https://android-developers.googleblog.com/2024/08/recorder-app-on-pixel-sees-boost-in-engagement-with-gemini-nano.html) app uses Gemini Nano and AICore to power an on-device summarization feature. The Recorder team adopted the latest Gemini Nano model to support longer recordings and delivers higher quality summaries.\n- **Gboard:** Gboard smart reply leverages on-device Gemini Nano with AICore to provide accurate smart replies."]]
