קל לארגן דפים בעזרת אוספים
אפשר לשמור ולסווג תוכן על סמך ההעדפות שלך.
Google AI Edge SDK מאפשר למפתחים גישה ניסיונית לבדיקת שיפור האפליקציות שלהם באמצעות יכולות AI במכשיר דרך Gemini Nano.
ארכיטקטורה באמצעות AICore
כמודול ברמת המערכת, הגישה ל-AICore מתבצעת באמצעות סדרה של ממשקי API כדי להריץ הסקה במכשיר. בנוסף, ל-AICore יש כמה תכונות בטיחות מובנות, שמבטיחות הערכה יסודית בהתאם למסנני הבטיחות שלנו. בתרשים הבא מוסבר איך אפליקציה ניגשת ל-AICore כדי להריץ את Gemini Nano במכשיר.
איור 1. Google AI Edge SDK, AICore ו-Gemini Nano.
שמירה על הפרטיות והאבטחה של נתוני המשתמשים
AI גנרטיבי במכשיר מבצע הנחיות באופן מקומי, בלי לבצע קריאות לשרת. הגישה הזו משפרת את הפרטיות כי הנתונים הרגישים נשמרים במכשיר, מאפשרת שימוש בתכונות במצב אופליין ומפחיתה את עלויות ההסקה.
AICore פועל בהתאם לעקרונות של Private Compute Core, עם המאפיינים העיקריים הבאים:
קישור חבילות מוגבל: AICore מבודד מרוב החבילות האחרות, עם חריגים מוגבלים לחבילות מערכת ספציפיות. שינויים ברשימת ההיתרים הזו יכולים להתבצע רק במהלך עדכון מלא של Android OTA.
גישה עקיפה לאינטרנט: ל-AICore אין גישה ישירה לאינטרנט.
כל הבקשות באינטרנט, כולל הורדות של מודלים, מנותבות דרך קובץ ה-APK הנלווה של Private Compute Services בקוד פתוח. ממשקי API ב-Private Compute Services צריכים להדגים באופן מפורש את האופי שלהם שמתמקד בפרטיות.
בנוסף, AICore מתוכנן לבודד כל בקשה, ולא לאחסן רשומה של נתוני הקלט או של הפלט שמתקבל אחרי העיבוד שלהם, כדי להגן על פרטיות המשתמשים. מידע נוסף זמין בפוסט בבלוג מבוא לפרטיות ולבטיחות ב-Gemini Nano.
איור 2. ארכיטקטורת AICore
היתרונות של גישה למודלים בסיסיים של AI באמצעות AICore
AICore מאפשר למערכת ההפעלה Android לספק ולנהל מודלים בסיסיים של AI.
השינוי הזה מפחית באופן משמעותי את העלות של השימוש במודלים הגדולים האלה באפליקציה, בעיקר בגלל הסיבות הבאות:
פריסה קלה: AICore מנהל את ההפצה של Gemini Nano ומטפל בעדכונים עתידיים. לא צריך לדאוג לגבי הורדה או עדכון של מודלים גדולים ברשת, וגם לא לגבי השפעה על התקציב של הדיסק והזיכרון בזמן הריצה של האפליקציה.
הסקת מסקנות מואצת: AICore משתמש בחומרה במכשיר כדי להאיץ את הסקת המסקנות. האפליקציה שלכם מקבלת את הביצועים הכי טובים בכל מכשיר, ואתם לא צריכים לדאוג לממשקי החומרה הבסיסיים.
פונקציונליות נתמכת
מכשירים נתמכים: Gemini Nano עם Google AI Edge SDK זמין לניסוי במכשירי Pixel מסדרת 9.
אופנים נתמכים: AICore תומך באופן טקסטואלי עבור Gemini Nano.
אנחנו משקיעים מאמצים רבים בהוספת תמיכה במכשירים נוספים ובאמצעי תקשורת נוספים.
תרחישים לדוגמה
בגלל מגבלות המשאבים של מכשירים ניידים בהשוואה לשרתי ענן, מודלים של AI גנרטיבי במכשיר מתוכננים עם דגש על יעילות וגודל.
באופטימיזציה הזו יש עדיפות למשימות ספציפיות ומוגדרות היטב על פני אפליקציות כלליות יותר. תרחישים מתאימים לדוגמה:
ניסוח מחדש של טקסט: שינוי הטון והסגנון של הטקסט (למשל, מניסוח לא רשמי לניסוח רשמי).
תשובה מהירה: יצירת תשובות רלוונטיות להקשר בתוך שרשור צ'אט.
הגהה: זיהוי ותיקון של שגיאות איות ודקדוק.
סיכום: קיצור מסמכים ארוכים לסיכומים תמציתיים (פסקה או נקודות).
כדי להשיג ביצועים אופטימליים, מומלץ לעיין במסמכי התיעוד בנושא אסטרטגיות לכתיבת הנחיות. כדי להתנסות בתרחישי השימוש האלה בעצמכם, אתם יכולים להוריד את אפליקציית הדוגמה שלנו ולהתחיל להתנסות ב-Gemini Nano.
מספר אפליקציות של Google משתמשות ב-Gemini Nano. הנה כמה דוגמאות:
Talkback: אפליקציית הנגישות של Android Talkback משתמשת ביכולות הקלט הרב-מודאליות של Gemini Nano כדי לשפר את תיאורי התמונות למשתמשים עם ליקויי ראייה.
מכשיר ההקלטה של Pixel: אפליקציית מכשיר ההקלטה של Pixel משתמשת ב-Gemini Nano וב-AICore כדי להפעיל תכונת סיכום במכשיר. צוות מכשיר ההקלטה
הטמיע את המודל העדכני ביותר של Gemini Nano כדי לתמוך בהקלטות ארוכות יותר ולספק סיכומים באיכות גבוהה יותר.
Gboard: התשובות המהירות ב-Gboard מבוססות על Gemini Nano במכשיר עם AICore, כדי לספק תשובות מהירות מדויקות.
דוגמאות התוכן והקוד שבדף הזה כפופות לרישיונות המפורטים בקטע רישיון לתוכן. Java ו-OpenJDK הם סימנים מסחריים או סימנים מסחריים רשומים של חברת Oracle ו/או של השותפים העצמאיים שלה.
עדכון אחרון: 2025-08-21 (שעון UTC).
[[["התוכן קל להבנה","easyToUnderstand","thumb-up"],["התוכן עזר לי לפתור בעיה","solvedMyProblem","thumb-up"],["סיבה אחרת","otherUp","thumb-up"]],[["חסרים לי מידע או פרטים","missingTheInformationINeed","thumb-down"],["התוכן מורכב מדי או עם יותר מדי שלבים","tooComplicatedTooManySteps","thumb-down"],["התוכן לא עדכני","outOfDate","thumb-down"],["בעיה בתרגום","translationIssue","thumb-down"],["בעיה בדוגמאות/בקוד","samplesCodeIssue","thumb-down"],["סיבה אחרת","otherDown","thumb-down"]],["עדכון אחרון: 2025-08-21 (שעון UTC)."],[],[],null,["# Google AI Edge SDK allows experimental access for developers seeking to test\nenhancement of their apps with on-device AI capabilities through Gemini Nano.\n\nArchitecture through AICore\n---------------------------\n\nAs a system-level module, you access AICore through a series of APIs in order to\nrun inference on-device. In addition, AICore has several built-in safety\nfeatures, ensuring a thorough evaluation against our safety filters. The\nfollowing diagram outlines how an app accesses AICore to run Gemini Nano\non-device.\n**Figure 1.** Google AI Edge SDK, AICore, and Gemini Nano.\n\nKeep user data private and secure\n---------------------------------\n\nOn-device generative AI executes prompts locally, eliminating server calls. This\napproach enhances privacy by keeping sensitive data on the device, enables\noffline functionality, and reduces inference costs.\n\nAICore adheres to the [Private Compute Core](https://arxiv.org/abs/2209.10317) principles, with the following\nkey characteristics:\n\n- **Restricted Package Binding**: AICore is isolated from most other packages, with limited exceptions for specific system packages. Any modifications to this allowed list can only occur during a full Android OTA update.\n- **Indirect Internet Access** : AICore does not have direct internet access. All internet requests, including model downloads, are routed through the open-source [Private Compute Services](https://github.com/google/private-compute-services) companion APK. APIs within Private Compute Services must explicitly demonstrate their privacy-centric nature.\n\nAdditionally, AICore is built to isolate each request and doesn't store\nany record of the input data or the resulting outputs after processing\nthem to protect user privacy. Read the blog post\n[An Introduction to Privacy and Safety for Gemini Nano](https://android-developers.googleblog.com/2024/10/introduction-to-privacy-and-safety-gemini-nano.html) to learn more.\n**Figure 2.** AICore architecture\n\nBenefits of accessing AI foundation models with AICore\n------------------------------------------------------\n\nAICore enables the Android OS to provide and manage AI foundation models.\nThis significantly reduces the cost of using these large models in your app,\nprincipally due to the following:\n\n- **Ease of deployment**: AICore manages the distribution of Gemini Nano and handles future updates. You don't need to worry about downloading or updating large models over the network, nor impact on your app's disk and runtime memory budget.\n- **Accelerated inference**: AICore leverages on-device hardware to accelerate inference. Your app gets the best performance on each device, and you don't need to worry about the underlying hardware interfaces.\n\nSupported functionality\n-----------------------\n\n- **Supported Devices** : Gemini Nano with the Google AI Edge SDK is available for [experimentation](/ai/gemini-nano/experimental) on Pixel 9 series devices.\n- **Supported Modalities**: AICore supports text modality for Gemini Nano.\n\nAdditional device and modality support are areas of active investment.\n\nUse cases\n---------\n\nDue to the resource constraints of mobile devices compared to cloud servers,\non-device generative AI models are designed with a focus on efficiency and size.\nThis optimization prioritizes specific, well-defined tasks over more generalized\napplications. Suitable use cases include:\n\n- **Text Rephrasing**: Modify the tone and style of text (e.g., casual to formal).\n- **Smart Reply**: Generate contextually relevant responses within a chat thread.\n- **Proofreading**: Identify and correct spelling and grammatical errors.\n- **Summarization**: Condense lengthy documents into concise summaries (paragraph or bullet points).\n\nFor optimal performance, refer to the [prompting strategies](https://ai.google.dev/gemini-api/docs/prompting-strategies)\ndocumentation. To explore these use cases firsthand, download our\n[sample app](https://github.com/android/ai-samples/tree/main/gemini-nano) and begin experimenting with Gemini Nano.\n\nGemini Nano is used by several Google apps. Some examples include:\n\n- **Talkback:** Android's accessibility app [Talkback](https://android-developers.googleblog.com/2024/09/talkback-uses-gemini-nano-to-increase-low-vision-accessibility.html) leverages Gemini Nano's multimodal input capabilities to improve image descriptions for visually impaired users.\n- **Pixel Voice Recorder:** The [Pixel Voice Recorder](https://android-developers.googleblog.com/2024/08/recorder-app-on-pixel-sees-boost-in-engagement-with-gemini-nano.html) app uses Gemini Nano and AICore to power an on-device summarization feature. The Recorder team adopted the latest Gemini Nano model to support longer recordings and delivers higher quality summaries.\n- **Gboard:** Gboard smart reply leverages on-device Gemini Nano with AICore to provide accurate smart replies."]]
