제품 소식

ML Kit의 Prompt API: 맞춤 온디바이스 Gemini Nano 환경 구현

전문 길이: 2분
3 작성자
Caren Chang, Chengji Yan, Penny Li

AI를 사용하면 콘텐츠를 사용자에게 적합한 형식으로 변환하여 맞춤 앱 환경을 더 쉽게 만들 수 있습니다. 이전에는 요약 및 이미지 설명과 같은 특정 사용 사례에 맞게 조정된 ML Kit GenAI API를 통해 개발자가 Gemini Nano와 통합할 수 있었습니다.

오늘은 Android의 온디바이스 생성형 AI에 있어 중요한 이정표가 되는 날입니다. ML Kit 생성형 AI 프롬프트 API의 알파 버전 출시를 알려드립니다. 이 API를 사용하면 자연어 및 멀티모달 요청을 Gemini Nano에 전송하여 생성형 모델로 빌드할 때 더 많은 제어 기능과 유연성을 원하는 요구사항을 해결할 수 있습니다.

카카오와 같은 파트너는 이미 프롬프트 API를 사용하여 빌드하고 있으며, 실제 영향을 미치는 고유한 환경을 만들고 있습니다. 최소한의 코드로 Prompt API의 강력한 기능을 지금 바로 실험해 볼 수 있습니다.

 

 

사전 빌드된 온디바이스 생성형 AI를 넘어 맞춤 온디바이스 생성형 AI로 이동

프롬프트 API는 사전 빌드된 기능을 넘어 맞춤형 앱별 생성형 AI 사용 사례를 지원하므로 복잡한 데이터 변환을 통해 고유한 기능을 만들 수 있습니다. 프롬프트 API는 온디바이스 Gemini Nano를 사용하여 데이터를 로컬로 처리하므로 오프라인 기능과 향상된 사용자 개인 정보 보호가 가능합니다.

Prompt API의 주요 사용 사례:

프롬프트 API를 사용하면 생성형 AI 사용 사례를 고도로 맞춤설정할 수 있습니다. 다음은 권장되는 예입니다. 

  • 이미지 이해: 분류를 위해 사진을 분석합니다 (예: 소셜 미디어 게시물 초안 작성 또는 '반려동물', '음식', '여행'과 같은 태그 식별).
  • 지능형 문서 스캔: 기존 ML 모델을 사용하여 영수증에서 텍스트를 추출한 다음 프롬프트 API로 각 항목을 분류합니다.
  • UI용 데이터 변환: 긴 형식 콘텐츠를 분석하여 짧고 흥미로운 알림 제목을 만듭니다.
  • 콘텐츠 프롬프트: 테마에 대한 사용자의 선호도를 기반으로 새로운 일기 항목의 주제를 제안합니다.
  • 콘텐츠 분석: 고객 리뷰를 긍정, 중립 또는 부정 카테고리로 분류합니다.
  • 정보 추출: 이메일 대화목록에서 예정된 이벤트에 관한 중요한 세부정보를 추출합니다.

구현
프롬프트 API를 사용하면 몇 줄의 코드로 맞춤 프롬프트를 만들고 선택적 생성 매개변수를 설정할 수 있습니다.

Generation.getClient().generateContent(
   generateContentRequest(
       ImagePart(bitmapImage),
       TextPart("Categorize this image as one of the following: car, motorcycle, bike, scooter, other. Return only the category as the response."),
   ) {
       // Optional parameters
       temperature = 0.2f
       topK = 10
       candidateCount = 1
       maxOutputTokens = 10
   },
)

프롬프트 API 구현에 관한 자세한 예는 공식 문서 및 GitHub의 샘플을 참고하세요.

Gemini Nano, 성능, 프로토타입 제작

프롬프트 API는 현재 최신 버전의 Gemini Nano (nano-v3)를 실행하는 Pixel 10 기기 시리즈에서 가장 우수한 성능을 보입니다. 이 버전의 Gemini Nano는 I/O에서 오픈 모델 커뮤니티와 처음 공유한 모델인 Gemma 3n과 동일한 아키텍처를 기반으로 빌드되었습니다.

Gemma 3n과 nano-v3 간의 공유 기반을 통해 개발자는 더 쉽게 기능을 프로토타입으로 만들 수 있습니다. Pixel 10 기기가 없는 경우 Gemma 3n을 로컬에서 프로토타입으로 만들어 프롬프트 실험을 시작할 수 있습니다.

생성형 AI API를 지원하는 기기의 전체 목록은 기기 지원 문서를 참고하세요.

자세히 알아보기

공식 문서와 GitHub의 샘플을 참고하여 지금 바로 Android 앱에 프롬프트 API를 구현해 보세요.

작성자:

계속 읽기