การอนุมานแบบไฮบริด

Google มีโมเดลและ API ของ AI ชั้นนำในอุตสาหกรรมให้เลือกมากมาย สำหรับการอนุมานทั้งในระบบคลาวด์และบนอุปกรณ์ การอนุมานแบบไฮบริดช่วยให้คุณ ปรับสมดุลภาระงาน AI ระหว่างอุปกรณ์ในพื้นที่กับระบบคลาวด์ได้อย่างราบรื่น เพื่อเพิ่มประสิทธิภาพ ต้นทุน และความพร้อมใช้งาน

การอนุมานแบบไฮบริดมีข้อดีหลัก 2 ประการสำหรับแอป Android ดังนี้

• เพิ่มการเข้าถึงสูงสุด: โมเดลระบบคลาวด์เป็นตัวเลือกสำรองที่สำคัญเมื่อโมเดลในอุปกรณ์ เช่น Gemini Nano ไม่พร้อมใช้งานเนื่องจากข้อจำกัดด้านฮาร์ดแวร์ของอุปกรณ์หรือระบบปฏิบัติการ ซึ่งจะช่วยให้มั่นใจว่าฟีเจอร์ AI จะยังคงทำงานได้ในอุปกรณ์ของผู้ใช้ที่หลากหลายที่สุด
• ความสามารถด้านต้นทุนและออฟไลน์: โมเดลในอุปกรณ์ช่วยให้มั่นใจได้ว่าฟีเจอร์ AI จะทำงานได้อย่างราบรื่นเมื่อผู้ใช้ออฟไลน์ นอกจากนี้ การส่งต่อ งานประจำไปยังอุปกรณ์ในพื้นที่ยังช่วยลดต้นทุนการอนุมานในระบบคลาวด์ได้อีกด้วย

ประโยชน์ของการอนุมานบนอุปกรณ์และการอนุมานในระบบคลาวด์มีดังนี้

ตัวเลือกในการใช้งาน

คุณสามารถใช้การอนุมานแบบไฮบริดได้โดยใช้วิธีการต่อไปนี้

Firebase AI Logic Hybrid API

Firebase AI Logic Hybrid API มีอินเทอร์เฟซแบบรวมเป็นหนึ่งเดียวสำหรับ การแยกการอนุมานระหว่างสภาพแวดล้อมในระบบคลาวด์และในอุปกรณ์

โดยมีพารามิเตอร์ onDeviceConfig ที่ให้การควบคุมเพื่อกำหนดโหมดการอนุมานและจัดการการกำหนดเส้นทาง ดังนี้

• PREFER_ON_DEVICE: พยายามใช้โมเดลในอุปกรณ์ และจะกลับไปใช้โมเดลที่โฮสต์ในระบบคลาวด์โดยอัตโนมัติ หากโมเดลในอุปกรณ์ไม่พร้อมใช้งานหรือไม่รองรับคำขอ

• PREFER_IN_CLOUD: พยายามใช้โมเดลที่โฮสต์ในระบบคลาวด์เมื่ออุปกรณ์ออนไลน์และโมเดลพร้อมใช้งาน โดยจะกลับไปใช้โมเดลในอุปกรณ์ก็ต่อเมื่ออุปกรณ์ออฟไลน์เท่านั้น

• ONLY_ON_DEVICE: พยายามใช้โมเดลในอุปกรณ์ แต่จะแสดงข้อยกเว้น หากโมเดลไม่พร้อมใช้งานหรือไม่รองรับคำขอ

• ONLY_IN_CLOUD: พยายามใช้โมเดลที่โฮสต์ในระบบคลาวด์เมื่ออุปกรณ์ออนไลน์และโมเดลพร้อมใช้งาน โดยจะส่งข้อยกเว้นในกรณีอื่นๆ ทั้งหมด

val model = Firebase.ai(backend = GenerativeBackend.Companion.googleAI())
    .generativeModel(
        modelName = "gemini-3.5-flash",
        onDeviceConfig = OnDeviceConfig(mode = InferenceMode.Companion.PREFER_ON_DEVICE)
    )

val response = model.generateContent("Write a story about a green robot.")
print(response.text)
HybridInferenceSnippets.kt

ดูรายละเอียดการติดตั้งใช้งานได้ในเอกสารประกอบของ Firebase และสำรวจ ตัวอย่าง AI แบบไฮบริดในแคตตาล็อก AI

การกำหนดเส้นทางที่กำหนดเอง

หากแอปมีข้อกำหนดทางธุรกิจหรือ UX ที่เฉพาะเจาะจง คุณก็สามารถใช้ตรรกะการกำหนดเส้นทางที่กำหนดเองได้ด้วย ซึ่งช่วยให้คุณกำหนดเส้นทางการอนุมานแบบไดนามิก โดยอิงตามปัจจัยแบบเรียลไทม์ เช่น

• เวลาในการตอบสนองของเครือข่าย
• ประสิทธิภาพการทำงานของระบบอุปกรณ์ (เช่น ระดับแบตเตอรี่และภาระของโปรเซสเซอร์)
• ความซับซ้อนของคำค้นหาของผู้ใช้

แอปชั้นนำที่ใช้การกำหนดเส้นทางที่กำหนดเองของตนเองเพื่อมอบประสบการณ์การใช้งาน AI ที่เชื่อถือได้ใช้แนวทางการอนุมานแบบไฮบริดที่กำหนดเองนี้ ซึ่งรวมถึงแอปต่อไปนี้

• GBoard: Gboard ใช้การอนุมานแบบไฮบริดที่กำหนดเองเพื่อขับเคลื่อนเครื่องมือการเขียน เช่น พิสูจน์อักษรและเขียนใหม่

• Kakao Mobility: Kakao Mobility สร้างเครื่องมือการแยกเอนทิตีโดยใช้การอนุมานแบบไฮบริดที่กำหนดเอง สำหรับบริการจัดส่งพัสดุ ซึ่งจะแยกชื่อผู้รับ ที่อยู่ และหมายเลขโทรศัพท์จากข้อความภาษาธรรมชาติโดยอัตโนมัติเพื่อปรับปรุง แบบฟอร์มคำสั่งซื้อ