Kakao Mobility używa Gemini Nano na urządzeniu, aby obniżyć koszty i zwiększyć liczbę konwersji telefonicznych o 45%

Kakao Mobility to wiodąca firma w branży transportowej w Korei Południowej, która oferuje szereg usług transportowych i dostawczych, w tym zamawianie taksówek, nawigację, rowery publiczne i hulajnogi, parkowanie oraz dostarczanie paczek, za pomocą aplikacji Kakao T. Zespół Kakao Mobility wykorzystał Gemini Nano za pomocą interfejsu GenAI Prompt API w ML Kit, aby oferować pomoc w parkowaniu w ramach usługi rowerów publicznych oraz ulepszone wprowadzanie adresów w usługach nawigacji i dostawy.

Aplikacja Kakao T ma ponad 30 milionów użytkowników, a usługa wypożyczania rowerów jest jedną z najpopularniejszych. Niestety wielu użytkowników nieprawidłowo parkowało rowery i hulajnogi, gdy z nich nie korzystali. Takie zachowanie doprowadziło do wzrostu liczby naruszeń przepisów dotyczących parkowania i problemów z bezpieczeństwem, co skutkowało skargami, mandatami i odholowywaniem pojazdów. Te problemy zaczęły negatywnie wpływać na postrzeganie przez opinię publiczną zarówno firmy Kakao Mobility, jak i jej usług rowerów publicznych.

„Dzięki interfejsowi GenAI Prompt API w ML Kit i Gemini Nano udało nam się szybko wdrożyć funkcje, które zwiększają wartość społeczną bez pogarszania wrażeń użytkowników. Kakao Mobility będzie nadal aktywnie wdrażać AI na urządzeniu, aby zapewniać bezpieczniejsze i wygodniejsze usługi mobilne”. – Wisuk Ryu, dyrektor działu rozwoju klienta

Aby rozwiązać te problemy, zespół początkowo zaprojektował model rozpoznawania obrazów, który powiadamiał użytkowników, czy ich rower lub hulajnoga są zaparkowane prawidłowo, zgodnie z lokalnymi przepisami i standardami bezpieczeństwa. Uruchomienie tego modelu w chmurze wiązałoby się ze znacznymi kosztami serwera. Dodatkowo zdjęcia przesyłane przez użytkowników zawierały informacje o miejscu parkowania, więc zespół chciał uniknąć problemów związanych z prywatnością i bezpieczeństwem. Zespół musiał znaleźć bardziej niezawodne i opłacalne rozwiązanie.

Zespół chciał też ulepszyć proces wyodrębniania encji w przypadku usługi dostawy paczek w aplikacji Kakao T. Wcześniej użytkownicy mogli łatwo zamówić dostawę paczki w interfejsie czatu, ale kierowcy musieli ręcznie wpisać adres w formularzu zamówienia, aby rozpocząć realizację zamówienia. Było to uciążliwe i podatne na błędy ludzkie. Zespół chciał usprawnić ten proces, aby formularze zamówień były szybsze i mniej frustrujące dla personelu dostawczego.

Ulepszanie wrażeń użytkowników dzięki interfejsowi GenAI Prompt API w ML Kit

Zespół przetestował i porównał modele Gemini działające w chmurze z Gemini Nano, do którego dostęp uzyskano za pomocą interfejsu GenAI Prompt API w ML Kit. „Po przeanalizowaniu kwestii prywatności, kosztów, dokładności i szybkości odpowiedzi uznaliśmy, że interfejs GenAI Prompt API w ML Kit jest zdecydowanie najlepszym wyborem” – mówi Jinwoo Park, deweloper aplikacji na Androida w Kakao Mobility. 

Aby rozwiązać problem nieprawidłowo zaparkowanych rowerów lub hulajnóg, zespół wykorzystał multimodalne możliwości Gemini Nano za pomocą pakietu SDK ML Kit GenAI API do wykrywania, kiedy rower lub hulajnoga narusza lokalne przepisy, parkując na żółtej nawierzchni dotykowej. Dzięki starannie sformułowanemu promptowi udało się ocenić ponad 200 oznaczonych zdjęć parkingów, stale ulepszając dane wejściowe. Ta ocena, mierzona za pomocą znanych wskaźników, takich jak dokładność, precyzja, czułość i wynik F1, pozwoliła upewnić się, że funkcja spełnia standardy jakości i niezawodności na poziomie produkcyjnym.

Teraz użytkownicy mogą zrobić zdjęcie zaparkowanego roweru lub hulajnogi, a aplikacja poinformuje ich, czy pojazd jest zaparkowany prawidłowo, lub udzieli wskazówek, jeśli tak nie jest. Cały proces odbywa się w ciągu kilku sekund na urządzeniu, co chroni lokalizację i informacje użytkownika. 

Aby utworzyć uproszczoną funkcję wyodrębniania encji, zespół ponownie użył interfejsu GenAI Prompt API z ML Kit do przetwarzania zamówień dostawy użytkowników napisanych w języku naturalnym. Gdyby firma zastosowała tradycyjne uczenie maszynowe, wymagałoby to dużego zbioru danych do trenowania i specjalistycznej wiedzy z zakresu uczenia maszynowego. Zamiast tego mogą po prostu zacząć od prompta takiego jak „Wyodrębnij z wiadomości imię i nazwisko, adres i numer telefonu odbiorcy”. Zespół przygotował około 200 wysokiej jakości przykładów oceny i ocenił prompta w ramach wielu rund iteracji, aby uzyskać najlepszy wynik. Najskuteczniejszą metodą było tworzenie promptów few-shot, a wyniki zostały dokładnie przeanalizowane, aby upewnić się, że dane wyjściowe zawierają minimalną liczbę halucynacji.

„Interfejs Prompt API w ML Kit zmniejsza obciążenie deweloperów, zapewniając jednocześnie wysoki poziom bezpieczeństwa i niezawodności na urządzeniu. Umożliwia szybkie prototypowanie, zmniejsza zależność od infrastruktury i nie wiąże się z dodatkowymi kosztami. Nie ma powodu, aby go nie polecać”.  – Jinwoo Park, deweloper aplikacji na Androida w Kakao Mobility

Świetne wyniki dzięki interfejsowi GenAI Prompt API w ML Kit

Dzięki temu funkcja wyodrębniania encji prawidłowo identyfikuje niezbędne szczegóły każdego zamówienia, nawet jeśli wprowadzono wiele nazw i adresów. Aby zmaksymalizować zasięg funkcji i zapewnić niezawodne rozwiązanie zastępcze, zespół wdrożył też ścieżkę opartą na chmurze, która korzysta z Gemini Flash.

Wdrożenie interfejsu GenAI Prompt API z ML Kit pozwoliło zespołowi Kakao Mobility znacznie obniżyć koszty dzięki przejściu na AI na urządzeniu. Chociaż funkcja analizy parkingów rowerowych nie została jeszcze wprowadzona, ulepszenie wprowadzania adresu już przyniosło doskonałe wyniki: 

• Czas realizacji zamówień z dostawą skrócił się o 24%.
• Współczynnik konwersji wzrósł o 45% w przypadku nowych użytkowników i o 6% w przypadku dotychczasowych.
• W szczycie sezonu liczba zamówień opartych na AI wzrasta o ponad 200%. 

„Właściciele małych firm przekazali nam bardzo pozytywne opinie, mówiąc, że ta funkcja znacznie zwiększyła wydajność ich pracy i zmniejszyła stres” – dodaje Wisuk.

Po uruchomieniu funkcji rozpoznawania obrazów na parkingach dla rowerów i hulajnóg zespół Kakao Mobility chce ją dalej ulepszać. Środowiska parkingowe w mieście mogą być trudne, dlatego zespół bada sposoby odfiltrowywania niepotrzebnych regionów z obrazów. 

„Interfejs GenAI Prompt API w ML Kit zapewnia wysokiej jakości funkcje bez dodatkowych kosztów” – mówi Jinwoo. „Dzięki temu deweloperzy mieli mniej pracy, a czas tworzenia aplikacji się skrócił. Mogliśmy się skupić na dostrajaniu promptów, aby uzyskiwać lepsze wyniki”.

Wypróbuj interfejs GenAI Prompt API w ML Kit

Twórz i wdrażaj AI na urządzeniu w swojej aplikacji za pomocą interfejsu GenAI Prompt API w ML Kit, aby wykorzystać możliwości Gemini Nano.