שימוש ב-LiteRT ב-Android

‫LiteRT ב-Android מספק את הכלים החיוניים לפריסת תכונות ML מותאמות אישית עם ביצועים גבוהים באפליקציה ל-Android.

ארכיטקטורת LiteRT ב-Android: האפליקציה ומודל ה-ML פועלים בסביבת זמן הריצה ובמאיצים של LiteRT, שמועברים על ידי Google Play Services ומריצים את המודל ב-CPU וב-GPU של המכשיר.

‫LiteRT לסביבת זמן ריצה של למידת מכונה

כדי להריץ הסקת ML בביצועים גבוהים באפליקציה באמצעות ה-API של CompiledModel, אתם יכולים להשתמש ב-LiteRT ב-Google Play Services, סביבת זמן הריצה הרשמית של Android להסקת ML. מידע נוסף

שיפור המהירות באמצעות חומרה עם מאיצי LiteRT

אתם יכולים להשתמש במאיצים של LiteRT כדי להריץ את המודלים ב-CPU או ב-GPU. מאיץ ה-GPU מריץ מודלים במהירות גבוהה עד פי 1.4 בהשוואה ל-TensorFlow Lite GPU delegate הקודם, כך שאתם יכולים לספק למשתמשים חוויה חלקה יותר עם זמן אחזור קצר יותר. מידע נוסף

האצת NPU זמינה היום ב-LiteRT עצמאי, ובקרוב תהיה תמיכה ב-NPU ב-Google Play Services. מידע נוסף

מופעל על ידי Google Play Services

‫Google Play Services מספק את סביבת זמן הריצה והמאיצים של LiteRT, כך שלא צריך לכלול אותם ב-APK. הסרת סביבת זמן הריצה של LiteRT ומאיץ ה-GPU המצורפים חוסכת עד כ-8MB מגודל האפליקציה. בנוסף, Google Play Services מעדכנת את סביבת זמן הריצה בלי להוציא גרסה חדשה של האפליקציה. מידע נוסף

פיתוח באמצעות סוכן ה-AI לתכנות

אתם יכולים להשתמש במיומנות של סביבת זמן הריצה של LiteRT עם סוכן התכנות, כמו Agent Mode ב-Android Studio, כדי להוסיף את LiteRT לאפליקציה, להריץ מודל ב-CPU או ב-GPU, או להעביר אפליקציה קיימת של TensorFlow Lite ל-LiteRT ב-Google Play Services. מידע נוסף

דוגמאות קוד

אתם יכולים לעיין בדוגמאות הקוד של LiteRT ל-Android ולבדוק את תכונות למידת המכונה במכשיר שלכם. מידע נוסף

איך מתחילים לעבוד עם LiteRT

מוסיפים את LiteRT ב-Google Play Services לאפליקציה ומריצים את המודל הראשון. מידע נוסף