การอนุมานแบบไฮบริด

Google มีโมเดล AI และ API ชั้นนำในอุตสาหกรรมให้เลือกมากมายสำหรับการอนุมานทั้งในระบบคลาวด์และในอุปกรณ์ การอนุมานแบบไฮบริดช่วยให้คุณ ปรับสมดุลภาระงาน AI ระหว่างอุปกรณ์ในพื้นที่กับระบบคลาวด์ได้อย่างราบรื่น เพื่อเพิ่มประสิทธิภาพ ต้นทุน และความพร้อมใช้งาน

การอนุมานแบบไฮบริดมีข้อดีหลัก 2 ประการสำหรับแอป Android ดังนี้

  • เพิ่มการเข้าถึงสูงสุด: โมเดลระบบคลาวด์เป็นตัวเลือกสำรองที่สำคัญเมื่อโมเดลในอุปกรณ์ เช่น Gemini Nano ไม่พร้อมใช้งานเนื่องจากข้อจำกัดด้านฮาร์ดแวร์ของอุปกรณ์หรือระบบปฏิบัติการ ซึ่งจะช่วยให้มั่นใจว่าฟีเจอร์ AI จะยังคงทำงานได้ในอุปกรณ์ของผู้ใช้ที่หลากหลายที่สุด
  • ความสามารถด้านต้นทุนและออฟไลน์: โมเดลในอุปกรณ์ช่วยให้มั่นใจได้ว่าฟีเจอร์ AI จะทำงานได้อย่างราบรื่นเมื่อผู้ใช้ออฟไลน์ นอกจากนี้ การส่งต่อ งานประจำไปยังอุปกรณ์ในพื้นที่ยังช่วยลดต้นทุนการอนุมานในระบบคลาวด์ได้อีกด้วย

ประโยชน์ของการอนุมานในอุปกรณ์และการอนุมานในระบบคลาวด์มีดังนี้

การอนุมานในอุปกรณ์ การอนุมานในระบบคลาวด์
ใช้งานแบบออฟไลน์ได้ ใช้ได้กับทุกอุปกรณ์
ไม่มีค่าใช้จ่ายในการอนุมาน ความสามารถขั้นสูงของโมเดล

ตัวเลือกในการใช้งาน

คุณสามารถใช้การอนุมานแบบไฮบริดได้โดยใช้วิธีการต่อไปนี้

Firebase AI Logic Hybrid API

Firebase AI Logic Hybrid API มีอินเทอร์เฟซแบบรวมเป็นหนึ่งเดียวสำหรับ การกำหนดเส้นทางการอนุมานระหว่างโมเดลในระบบคลาวด์และในอุปกรณ์

  • การเปลี่ยนอัตโนมัติ: คุณกำหนดค่าแอปให้เรียกใช้งาน AI ในอุปกรณ์ได้ทุกเมื่อที่เป็นไปได้ ซึ่งหมายความว่าฟีเจอร์ของแอปจะทำงานแบบออฟไลน์ มีการปรับปรุงความเป็นส่วนตัว และไม่มีค่าใช้จ่ายในการอนุมานบนคลาวด์ หากโมเดลในอุปกรณ์ไม่พร้อมใช้งาน SDK จะกำหนดเส้นทางคำขอไปยังโมเดล Gemini ที่โฮสต์ในระบบคลาวด์โดยอัตโนมัติ
  • การป้องกันการละเมิด: การเรียกใช้ Cloud API จากแอปบนอุปกรณ์เคลื่อนที่โดยตรงอาจเสี่ยงต่อการเปิดเผยข้อมูลเข้าสู่ระบบและทำให้เกิดค่าใช้จ่ายที่ไม่ต้องการ อย่างไรก็ตาม เมื่อใช้ Firebase AI Logic คุณจะบังคับใช้ Firebase App Check ด้วย ซึ่งจะช่วยป้องกันการละเมิดได้โดยการยืนยันว่ามีเพียงแอปของแท้ที่ไม่มีการดัดแปลงเท่านั้นที่เข้าถึง Gemini API บนระบบคลาวด์ได้
  • วงเงินใช้จ่าย: เมื่อกําหนดเส้นทางการส่งคําขอไปยังโมเดลที่โฮสต์ในระบบคลาวด์ คุณสามารถกําหนดค่าวงเงินใช้จ่ายเพื่อช่วยปกป้องงบประมาณในระบบคลาวด์และหลีกเลี่ยงการเรียกเก็บเงินที่ไม่คาดคิดได้

ในแอป คุณกำหนดพารามิเตอร์ onDeviceConfig เพื่อควบคุมโหมดการอนุมานและจัดการการกำหนดเส้นทาง ดังนี้

  • PREFER_ON_DEVICE: พยายามใช้โมเดลในอุปกรณ์ และจะกลับไปใช้โมเดลที่โฮสต์ในระบบคลาวด์โดยอัตโนมัติหากโมเดลในอุปกรณ์ไม่พร้อมใช้งานหรือไม่รองรับคำขอ

  • PREFER_IN_CLOUD: พยายามใช้โมเดลที่โฮสต์ในระบบคลาวด์เมื่ออุปกรณ์ออนไลน์และโมเดลพร้อมใช้งาน และจะกลับไปใช้โมเดลในอุปกรณ์ก็ต่อเมื่ออุปกรณ์ออฟไลน์เท่านั้น

  • ONLY_ON_DEVICE: พยายามใช้โมเดลในอุปกรณ์ และจะส่งข้อยกเว้นหากโมเดลในอุปกรณ์ไม่พร้อมใช้งานหรือไม่รองรับคำขอ

  • ONLY_IN_CLOUD: พยายามใช้โมเดลที่โฮสต์ในระบบคลาวด์เมื่ออุปกรณ์ ออนไลน์และโมเดลพร้อมใช้งาน และจะส่งข้อยกเว้นในกรณีอื่นๆ ทั้งหมด

val model = Firebase.ai(backend = GenerativeBackend.Companion.googleAI())
    .generativeModel(
        modelName = "gemini-3.5-flash",
        onDeviceConfig = OnDeviceConfig(mode = InferenceMode.Companion.PREFER_ON_DEVICE)
    )

val response = model.generateContent("Write a story about a green robot.")
print(response.text)

ดูรายละเอียดการติดตั้งใช้งานได้ในเอกสารประกอบของ Firebase และสำรวจ ตัวอย่าง AI แบบไฮบริดในแคตตาล็อก AI

การเปลี่ยนภาระงานไปใช้ระบบคลาวด์อาจทำให้ปลายทาง Cloud API ปรากฏ เมื่อใช้ Firebase AI Logic คุณจะเข้าถึงโมเดล Gemini บนระบบคลาวด์ได้อย่างปลอดภัยโดยตรงจากแอปฝั่งไคลเอ็นต์ด้วยการบังคับใช้ Firebase App Check ซึ่งจะช่วยปกป้องการอนุมานบนระบบคลาวด์จากการเข้าถึงที่ไม่ได้รับอนุญาตและการละเมิดการเรียกเก็บเงิน ซึ่งจะช่วยให้กลไกการทำงานสำรองแบบไฮบริดพร้อมใช้งานและปลอดภัย

การกำหนดเส้นทางที่กำหนดเอง

หากแอปมีข้อกำหนดทางธุรกิจหรือ UX ที่เฉพาะเจาะจง คุณก็สามารถใช้ตรรกะการกำหนดเส้นทางที่กำหนดเองได้ด้วย ซึ่งช่วยให้คุณกำหนดเส้นทางการอนุมานแบบไดนามิก โดยอิงตามปัจจัยแบบเรียลไทม์ เช่น

  • เวลาในการตอบสนองของเครือข่าย
  • ประสิทธิภาพการทำงานของระบบอุปกรณ์ (เช่น ระดับแบตเตอรี่และภาระของโปรเซสเซอร์)
  • ความซับซ้อนของคำค้นหาของผู้ใช้

แอปชั้นนำใช้แนวทางการอนุมานแบบไฮบริดที่กำหนดเองนี้ ซึ่งได้นำการกำหนดเส้นทางที่กำหนดเองมาใช้เพื่อมอบประสบการณ์การใช้งาน AI ที่เชื่อถือได้ ซึ่งรวมถึง

  • Gboard: Gboard ใช้การอนุมานแบบไฮบริดที่กำหนดเองเพื่อขับเคลื่อนเครื่องมือการเขียน เช่น การพิสูจน์อักษรและเขียนใหม่

  • Kakao Mobility: Kakao Mobility สร้างเครื่องมือการแยกเอนทิตีโดยใช้การอนุมานแบบไฮบริดที่กำหนดเอง สำหรับบริการจัดส่งพัสดุ ซึ่งจะแยกชื่อผู้รับ ที่อยู่ และหมายเลขโทรศัพท์จากข้อความภาษาธรรมชาติโดยอัตโนมัติเพื่อปรับปรุง แบบฟอร์มคำสั่งซื้อ