LiteRT ב-Android מספק את הכלים החיוניים לפריסת תכונות ML מותאמות אישית עם ביצועים גבוהים באפליקציה ל-Android.
LiteRT לסביבת זמן ריצה של למידת מכונה
כדי להריץ הסקת ML בביצועים גבוהים באפליקציה באמצעות ה-API של CompiledModel, אתם יכולים להשתמש ב-LiteRT ב-Google Play Services, סביבת זמן הריצה הרשמית של Android להסקת ML.
מידע נוסף
שיפור המהירות באמצעות חומרה עם מאיצי LiteRT
אתם יכולים להשתמש במאיצים של LiteRT כדי להריץ את המודלים ב-CPU או ב-GPU. מאיץ ה-GPU מריץ מודלים במהירות גבוהה עד פי 1.4 בהשוואה ל-TensorFlow Lite GPU delegate הקודם, כך שאתם יכולים לספק למשתמשים חוויה חלקה יותר עם זמן אחזור קצר יותר. מידע נוסף
האצת NPU זמינה היום ב-LiteRT עצמאי, ובקרוב תהיה תמיכה ב-NPU ב-Google Play Services. מידע נוסף
מופעל על ידי Google Play Services
Google Play Services מספק את סביבת זמן הריצה והמאיצים של LiteRT, כך שלא צריך לכלול אותם ב-APK. הסרת סביבת זמן הריצה של LiteRT ומאיץ ה-GPU המצורפים חוסכת עד כ-8MB מגודל האפליקציה. בנוסף, Google Play Services מעדכנת את סביבת זמן הריצה בלי להוציא גרסה חדשה של האפליקציה. מידע נוסף
פיתוח באמצעות סוכן ה-AI לתכנות
אתם יכולים להשתמש במיומנות של סביבת זמן הריצה של LiteRT עם סוכן התכנות, כמו Agent Mode ב-Android Studio, כדי להוסיף את LiteRT לאפליקציה, להריץ מודל ב-CPU או ב-GPU, או להעביר אפליקציה קיימת של TensorFlow Lite ל-LiteRT ב-Google Play Services. מידע נוסף
מיומנויות ב-Android
הצגה ב-GitHubהפעלת מודלים במכשיר באמצעות LiteRT
android skills add litert-runtime
מיומנויות ב-Android
הצגה ב-GitHubהפעלת מודלי LLM במכשיר באמצעות LiteRT-LM
android skills add litert-lmדוגמאות קוד
אתם יכולים לעיין בדוגמאות הקוד של LiteRT ל-Android ולבדוק את תכונות למידת המכונה במכשיר שלכם. מידע נוסף
איך מתחילים לעבוד עם LiteRT
מוסיפים את LiteRT ב-Google Play Services לאפליקציה ומריצים את המודל הראשון. מידע נוסף