LiteRT na Androida zapewnia podstawowe funkcje do wdrażania w aplikacji na Androida niestandardowych funkcji ML o wysokiej wydajności.
LiteRT do środowiska wykonawczego ML
Używaj LiteRT w usługach Google Play, oficjalnym środowisku wykonawczym wnioskowania ML na Androidzie, aby uruchamiać w aplikacji wysokowydajne wnioskowanie ML za pomocą interfejsu API CompiledModel.
Więcej informacji
Akceleracja sprzętowa za pomocą akceleratorów LiteRT
Używaj akceleratorów LiteRT do uruchamiania modeli na CPU lub GPU. Akcelerator GPU uruchamia modele nawet 1, 4 razy szybciej niż poprzedni delegat GPU TensorFlow Lite, dzięki czemu możesz zapewnić użytkownikom płynniejsze działanie i mniejsze opóźnienia. Więcej informacji
Akceleracja NPU jest już dostępna w samodzielnej wersji LiteRT, a obsługa NPU w usługach Google Play pojawi się już wkrótce. Więcej informacji
Włączone przez Usługi Google Play
Usługi Google Play dostarczają środowisko wykonawcze i akceleratory LiteRT, więc nie musisz ich dołączać do pakietu APK. Usunięcie dołączonego środowiska wykonawczego LiteRT i akceleratora GPU pozwala zmniejszyć rozmiar aplikacji o około 8 MB. Usługi Google Play dbają też o aktualność środowiska wykonawczego bez konieczności publikowania aplikacji. Więcej informacji
Tworzenie za pomocą agenta AI do kodowania
Użyj umiejętności środowiska wykonawczego LiteRT z agentem kodowania, takim jak tryb agenta w Android Studio, aby dodać LiteRT do aplikacji, uruchomić model na procesorze lub GPU albo przenieść istniejącą aplikację TensorFlow Lite do LiteRT w usługach Google Play. Więcej informacji
Umiejętności związane z Androidem
Wyświetl na GitHubieUruchamianie modeli na urządzeniu za pomocą LiteRT
android skills add litert-runtime
Umiejętności związane z Androidem
Wyświetl na GitHubieUruchamianie LLM na urządzeniu za pomocą LiteRT-LM
android skills add litert-lmPrzykładowe fragmenty kodu
Zapoznaj się z przykładowym kodem LiteRT na Androida i przetestuj funkcje ML na swoim urządzeniu. Więcej informacji
Pierwsze kroki z LiteRT
Dodaj LiteRT w usługach Google Play do swojej aplikacji i uruchom pierwszy model. Więcej informacji