Prompt API của Bộ công cụ học máy: Mở ra trải nghiệm Gemini Nano tuỳ chỉnh trên thiết bị

AI giúp bạn dễ dàng tạo trải nghiệm ứng dụng được cá nhân hoá, chuyển đổi nội dung thành định dạng phù hợp cho người dùng. Trước đây, chúng tôi đã cho phép nhà phát triển tích hợp với Gemini Nano thông qua các API GenAI của Bộ công cụ học máy được thiết kế riêng cho các trường hợp sử dụng cụ thể như tóm tắt và mô tả hình ảnh.

Hôm nay đánh dấu một cột mốc quan trọng đối với AI tạo sinh trên thiết bị của Android. Chúng tôi xin thông báo về Bản phát hành Alpha của Prompt API GenAI của Bộ công cụ học máy. API này cho phép bạn gửi các yêu cầu bằng ngôn ngữ tự nhiên và đa phương thức đến Gemini Nano, đáp ứng nhu cầu về khả năng kiểm soát và tính linh hoạt cao hơn khi xây dựng bằng các mô hình tạo sinh.

Các đối tác như Kakao đã xây dựng bằng Prompt API, tạo ra những trải nghiệm độc đáo có tác động thực tế. Bạn có thể thử nghiệm các tính năng mạnh mẽ của Prompt API ngay hôm nay với mã tối thiểu.

Chuyển từ GenAI dựng sẵn sang GenAI tuỳ chỉnh trên thiết bị

Prompt API không chỉ có chức năng dựng sẵn mà còn hỗ trợ các trường hợp sử dụng GenAI tuỳ chỉnh dành riêng cho ứng dụng, cho phép bạn tạo các tính năng độc đáo với quá trình chuyển đổi dữ liệu phức tạp. Prompt API sử dụng Gemini Nano trên thiết bị để xử lý dữ liệu cục bộ, cho phép sử dụng ngoại tuyến và cải thiện quyền riêng tư của người dùng.

Các trường hợp sử dụng chính cho Prompt API:

Prompt API cho phép các trường hợp sử dụng GenAI được tuỳ chỉnh cao. Dưới đây là một số ví dụ được đề xuất: 

• Hiểu hình ảnh: Phân tích ảnh để phân loại (ví dụ: tạo bản nháp bài đăng trên mạng xã hội hoặc xác định các thẻ như "thú cưng", "thực phẩm" hoặc "du lịch").
• Quét tài liệu thông minh: Sử dụng mô hình học máy truyền thống để trích xuất văn bản từ biên nhận, sau đó phân loại từng mặt hàng bằng Prompt API.
• Chuyển đổi dữ liệu cho giao diện người dùng: Phân tích nội dung dài để tạo tiêu đề thông báo ngắn và hấp dẫn.
• Gợi ý nội dung: Đề xuất các chủ đề cho mục nhật ký mới dựa trên lựa chọn ưu tiên của người dùng về chủ đề.
• Phân tích nội dung: Phân loại bài đánh giá của khách hàng thành danh mục tích cực, trung lập hoặc tiêu cực.
• Trích xuất thông tin: Trích xuất các thông tin quan trọng về một sự kiện sắp tới từ chuỗi email.

Triển khai
Prompt API cho phép bạn tạo câu lệnh tuỳ chỉnh và đặt các tham số tạo không bắt buộc chỉ với vài dòng mã:

Generation.getClient().generateContent(
   generateContentRequest(
       ImagePart(bitmapImage),
       TextPart("Categorize this image as one of the following: car, motorcycle, bike, scooter, other. Return only the category as the response."),
   ) {
       // Optional parameters
       temperature = 0.2f
       topK = 10
       candidateCount = 1
       maxOutputTokens = 10
   },
)

Để xem các ví dụ chi tiết hơn về cách triển khai Prompt API, hãy xem tài liệu chính thức và mẫu trên Github.

Gemini Nano, hiệu suất và tạo mẫu thử

Prompt API hiện hoạt động tốt nhất trên dòng thiết bị Pixel 10, chạy phiên bản Gemini Nano mới nhất (nano-v3). Phiên bản Gemini Nano này được xây dựng trên cùng một kiến trúc với Gemma 3n, mô hình mà chúng tôi lần đầu tiên chia sẻ với cộng đồng mô hình mở tại I/O.

Nền tảng chung giữa Gemma 3n và nano-v3 giúp nhà phát triển dễ dàng tạo mẫu thử các tính năng hơn. Đối với những người không có thiết bị Pixel 10, bạn có thể bắt đầu thử nghiệm các câu lệnh ngay hôm nay bằng cách tạo mẫu thử với Gemma 3n cục bộ.

Để xem danh sách đầy đủ các thiết bị hỗ trợ API GenAI, hãy tham khảo tài liệu hỗ trợ thiết bị của chúng tôi.

Tìm hiểu thêm

Hãy bắt đầu triển khai Prompt API trong các ứng dụng Android ngay hôm nay theo hướng dẫn trong tài liệu chính thức và mẫu trên Github.