Sử dụng mô hình cục bộ

Các mô hình ngôn ngữ lớn (LLM) có những khả năng khác nhau. Để giúp bạn kiểm soát và linh hoạt trong quá trình phát triển phần mềm có sự hỗ trợ của AI, Android Studio cho phép bạn chọn mô hình hỗ trợ chức năng AI của IDE. Mô hình phải là mô hình cục bộ, chạy trên máy cá nhân của bạn.

Tính năng hỗ trợ mô hình cục bộ có trong bản phát hành Android Studio Narwhal 4 Feature Drop. Bạn có thể tải bản phát hành này xuống từ kênh canary.

Chọn một mô hình

Mô hình cục bộ là một lựa chọn thay thế cho tính năng hỗ trợ LLM được tích hợp trong Android Studio; tuy nhiên, Gemini trong Android Studio thường mang đến trải nghiệm AI tốt nhất cho nhà phát triển Android nhờ các mô hình Gemini mạnh mẽ. Bạn có thể chọn trong số nhiều mô hình Gemini cho các tác vụ phát triển Android, bao gồm cả mô hình mặc định không tính phí hoặc các mô hình được truy cập bằng khoá Gemini API có tính phí.

Khả năng của mô hình cục bộ là một lựa chọn tuyệt vời nếu bạn cần làm việc khi không có mạng, phải tuân thủ các chính sách nghiêm ngặt của công ty về việc sử dụng công cụ AI hoặc quan tâm đến việc thử nghiệm các mô hình nghiên cứu nguồn mở.

Thiết lập chế độ hỗ trợ mô hình cục bộ

  1. Tải và cài đặt Android Studio Narwhal 4 Feature Drop Canary 2 trở lên.

  2. Cài đặt một nhà cung cấp LLM như LM Studio hoặc Ollama trên máy tính cục bộ.

  3. Thêm trình cung cấp mô hình vào Android Studio.

    • Chuyển đến phần Cài đặt > Công cụ > AI > Nhà cung cấp mô hình

    • Định cấu hình trình cung cấp mô hình:

    • Chọn biểu tượng

    • Nhập nội dung mô tả về nhà cung cấp mô hình (thường là tên của nhà cung cấp mô hình)

    • Đặt cổng mà nhà cung cấp đang nghe

    • Bật một mô hình

    Hộp thoại cài đặt Android Studio cho thấy phần Gemini có lựa chọn bật chế độ ngoại tuyến.
    Hình 1. Chế độ cài đặt nhà cung cấp mô hình.
  4. Tải xuống và cài đặt một mô hình mà bạn chọn.

    Xem danh mục mô hình LM StudioOllama. Để có trải nghiệm tốt nhất với Chế độ tác nhân trong Android Studio, hãy chọn một mô hình đã được huấn luyện để sử dụng công cụ.

    Hộp thoại cài đặt Android Studio cho thấy danh sách các mô hình cục bộ có sẵn.
    Hình 2. Các mô hình cục bộ hiện có.
  5. Khởi động môi trường suy luận.

    Môi trường suy luận sẽ phân phát mô hình của bạn cho các ứng dụng cục bộ. Định cấu hình cửa sổ mã thông báo có độ dài ngữ cảnh đủ lớn để đạt được hiệu suất tối ưu. Để biết hướng dẫn chi tiết về cách bắt đầu và định cấu hình môi trường, hãy xem tài liệu về Ollama hoặc LM Studio.

  6. Chọn một mô hình.

    Mở Android Studio Chuyển đến cửa sổ trò chuyện của Gemini. Sử dụng bộ chọn mô hình để chuyển từ mô hình Gemini mặc định sang mô hình cục bộ mà bạn đã định cấu hình.

    Cửa sổ trò chuyện Gemini trong Android Studio cho thấy bộ chọn mô hình có các lựa chọn cho Gemini và một mô hình cục bộ.
    Hình 3. Bộ chọn mô hình.

Sau khi kết nối Android Studio với mô hình cục bộ, bạn có thể sử dụng các tính năng trò chuyện trong IDE. Tất cả các lượt tương tác đều hoàn toàn dựa trên mô hình chạy trên máy cục bộ, mang đến cho bạn một môi trường phát triển AI độc lập.

Cân nhắc các hạn chế về hiệu suất

Một mô hình cục bộ, ngoại tuyến thường sẽ không hoạt động hiệu quả hoặc thông minh như các mô hình Gemini dựa trên đám mây. Câu trả lời trò chuyện từ các mô hình cục bộ thường kém chính xác hơn và có độ trễ cao hơn so với các mô hình dựa trên đám mây.

Các mô hình cục bộ thường không được tinh chỉnh cho quá trình phát triển Android và các mô hình cục bộ có thể trả về những phản hồi không có thông tin về giao diện người dùng Android Studio. Một số tính năng AI của Android Studio và các trường hợp sử dụng phát triển Android không hoạt động với mô hình cục bộ. Tuy nhiên, tính năng trò chuyện AI trong Android Studio thường được hỗ trợ bởi các mô hình cục bộ.

Để nhận được câu trả lời nhanh chóng và chính xác về mọi khía cạnh của hoạt động phát triển và hỗ trợ Android cho tất cả các tính năng của Android Studio, Gemini trong Android Studio (dựa trên các mô hình Gemini) là giải pháp tốt nhất cho bạn.