استنتاج ترکیبی

‫Google مجموعه گسترده‌ای از مدل‌های هوش مصنوعی و میاناهای برنامه‌سازی کاربردی پیشرو در صنعت را برای استنباط ابری و درون‌دستگاهی ارائه می‌دهد. استنباط ترکیبی به شما امکان می‌دهد بار کاری هوش مصنوعی را به‌طور یکپارچه بین دستگاه محلی و ابر تراز کنید و عملکرد، هزینه، و دردسترس بودن را بهینه‌سازی کنید.

استنباط ترکیبی دو مزیت اصلی برای برنامه Android شما فراهم می‌کند:

  • به‌حداکثر رساندن دسترسی: وقتی مدل‌های درون‌دستگاهی، مثل Gemini Nano، به‌دلیل محدودیت‌های سخت‌افزار دستگاه یا سیستم‌عامل دردسترس نباشند، مدل‌های ابری به‌عنوان یک پشتیبان حیاتی عمل می‌کنند. این کار کمک می‌کند تا ویژگی‌های هوش مصنوعی شما در وسیع‌ترین طیف ممکن از دستگاه‌های کاربران همچنان کار کنند.
  • هزینه و قابلیت‌های آفلاین: مدل‌های درون‌دستگاهی کمک می‌کنند ویژگی‌های هوش مصنوعی شما وقتی کاربر آفلاین است به‌طور یکپارچه کار کنند. علاوه‌براین، واگذاری کارهای معمول به دستگاه محلی به کاهش هزینه‌های استنباط ابری کمک می‌کند.

در اینجا مزایای استنباط درون‌دستگاهی و استنباط ابری به‌ترتیب آورده شده است:

استنباط درون‌دستگاهی استنتاج فضای ابری
دردسترس آفلاین سازگار با هر دستگاهی
بدون هزینه استنباط توانایی‌های پیشرفته مدل

گزینه‌های پیاده‌سازی

بااستفاده از رویکردهای زیر می‌توانید استنباط ترکیبی را پیاده‌سازی کنید:

Firebase AI Logic Hybrid API

Firebase AI Logic Hybrid API یک میانای یکپارچه و واحد برای تقسیم استنباط بین محیط‌های ابری و درون‌دستگاهی ارائه می‌دهد.

این شامل پارامتر onDeviceConfig است که کنترل‌هایی برای تعریف حالت استنباط و مدیریت مسیریابی ارائه می‌دهد:

  • PREFER_ON_DEVICE: تلاش می‌کند از مدل درون‌دستگاهی استفاده کند و اگر مدل درون‌دستگاهی دردسترس نباشد یا از درخواست پشتیبانی نکند، به‌طور خودکار به مدل میزبانی‌شده در فضای ابری برمی‌گردد.

  • ‫PREFER_IN_CLOUD: وقتی دستگاه آنلاین است و مدل دردسترس است، تلاش می‌کند از مدل میزبانی‌شده در فضای ابری استفاده کند و فقط درصورتی‌که دستگاه آفلاین باشد به مدل درون‌دستگاهی برمی‌گردد.

  • ‫ONLY_ON_DEVICE: تلاش می‌کند از مدل درون‌دستگاهی استفاده کند، اما اگر این مدل برای درخواست دردسترس نباشد یا پشتیبانی نشود، استثنایی ایجاد می‌کند.

  • ONLY_IN_CLOUD: وقتی دستگاه آنلاین باشد و مدل دردسترس باشد، سعی می‌کند از مدل میزبانی‌شده در فضای ابری استفاده کند، و در همه موارد دیگر استثنا ایجاد می‌کند.

val model = Firebase.ai(backend = GenerativeBackend.Companion.googleAI())
    .generativeModel(
        modelName = "gemini-3.5-flash",
        onDeviceConfig = OnDeviceConfig(mode = InferenceMode.Companion.PREFER_ON_DEVICE)
    )

val response = model.generateContent("Write a story about a green robot.")
print(response.text)

برای جزئیات پیاده‌سازی، اسناد Firebase را مرور کنید و نمونه هوش مصنوعی ترکیبی در کاتالوگ هوش مصنوعی را کاوش کنید.

مسیریابی سفارشی

اگر برنامه شما الزامات کسب‌وکار یا تجربه کاربری خاصی دارد، می‌توانید منطق مسیریابی سفارشی را نیز پیاده‌سازی کنید. این کار به شما امکان می‌دهد مسیر استنباط را به‌صورت پویا براساس عوامل هم‌زمان تعیین کنید، ازجمله:

  • تأخیر شبکه
  • سلامت سیستم دستگاه (برای مثال، سطح باتری و بار پردازنده)
  • پیچیدگی پُرسمان کاربر

برنامه‌های پیشرو که مسیریابی سفارشی خودشان را برای ارائه تجربه‌های هوش مصنوعی قابل‌اعتماد پیاده‌سازی کرده‌اند از این رویکرد استنباط ترکیبی سفارشی استفاده می‌کنند، ازجمله:

  • ‫GBoard: ‫Gboard از استنباط ترکیبی سفارشی برای تقویت ابزارهای نگارش مثل نمونه‌خوانی و بازنویسی استفاده می‌کند.

  • Kakao Mobility: ‫Kakao Mobility بااستفاده از استنباط ترکیبی سفارشی ابزار «استخراج نهاد» برای سرویس تحویل بسته‌های خود ساخته است که به‌طور خودکار نام، نشانی، و شماره تلفن گیرندگان را از پیام‌های زبان طبیعی استخراج می‌کند تا فرم‌های سفارش را ساده‌سازی کند.