کیت توسعه نرمافزاری هوش مصنوعی گوگل اج (Google AI Edge SDK) به توسعهدهندگانی که به دنبال آزمایش بهبود برنامههای خود با قابلیتهای هوش مصنوعی روی دستگاه از طریق Gemini Nano هستند، دسترسی آزمایشی میدهد.
معماری از طریق AICore
به عنوان یک ماژول سطح سیستم، شما از طریق مجموعهای از APIها به AICore دسترسی پیدا میکنید تا بتوانید استنتاج را روی دستگاه اجرا کنید. علاوه بر این، AICore دارای چندین ویژگی ایمنی داخلی است که ارزیابی کاملی را در برابر فیلترهای ایمنی ما تضمین میکند. نمودار زیر نحوه دسترسی یک برنامه به AICore برای اجرای Gemini Nano روی دستگاه را شرح میدهد.
دادههای کاربر را خصوصی و ایمن نگه دارید
هوش مصنوعی مولد روی دستگاه، دستورات را به صورت محلی اجرا میکند و فراخوانیهای سرور را حذف میکند. این رویکرد با نگه داشتن دادههای حساس روی دستگاه، حریم خصوصی را افزایش میدهد، عملکرد آفلاین را فعال میکند و هزینههای استنتاج را کاهش میدهد.
AICore به اصول هسته محاسبات خصوصی پایبند است و ویژگیهای کلیدی زیر را دارد:
- اتصال بسته محدود : AICore از اکثر بستههای دیگر جدا شده است، به جز استثنائات محدودی برای بستههای سیستمی خاص. هرگونه تغییر در این لیست مجاز فقط میتواند در طول بهروزرسانی کامل OTA اندروید رخ دهد.
- دسترسی غیرمستقیم به اینترنت : AICore دسترسی مستقیم به اینترنت ندارد. تمام درخواستهای اینترنتی، از جمله دانلود مدلها، از طریق APK همراه متنباز Private Compute Services هدایت میشوند. APIهای درون Private Compute Services باید صریحاً ماهیت حریم خصوصیمحور خود را نشان دهند.
علاوه بر این، AICore طوری ساخته شده است که هر درخواست را ایزوله کند و پس از پردازش، هیچ سابقهای از دادههای ورودی یا خروجیهای حاصل را ذخیره نمیکند تا از حریم خصوصی کاربر محافظت شود. برای کسب اطلاعات بیشتر، پست وبلاگ «مقدمهای بر حریم خصوصی و ایمنی برای Gemini Nano» را مطالعه کنید.
مزایای دسترسی به مدلهای پایه هوش مصنوعی با AICore
AICore سیستم عامل اندروید را قادر میسازد تا مدلهای پایه هوش مصنوعی را ارائه و مدیریت کند. این امر به طور قابل توجهی هزینه استفاده از این مدلهای بزرگ را در برنامه شما کاهش میدهد، که عمدتاً به دلایل زیر است:
- سهولت استقرار : AICore توزیع Gemini Nano را مدیریت میکند و بهروزرسانیهای آینده را مدیریت میکند. نیازی نیست نگران دانلود یا بهروزرسانی مدلهای بزرگ از طریق شبکه باشید و همچنین نگران تأثیر بر دیسک و بودجه حافظه زمان اجرای برنامه خود باشید.
- استنتاج شتابیافته : AICore از سختافزار روی دستگاه برای تسریع استنتاج استفاده میکند. برنامه شما بهترین عملکرد را در هر دستگاه دریافت میکند و نیازی نیست نگران رابطهای سختافزاری زیربنایی باشید.
قابلیتهای پشتیبانیشده
- دستگاههای پشتیبانیشده : جمینی نانو به همراه Google AI Edge SDK برای آزمایش روی دستگاههای سری پیکسل ۹ در دسترس است.
- روشهای پشتیبانیشده : AICore از روشهای متنی برای Gemini Nano پشتیبانی میکند.
پشتیبانی بیشتر از دستگاهها و روشهای درمانی، حوزههای سرمایهگذاری فعال هستند.
موارد استفاده
با توجه به محدودیت منابع دستگاههای تلفن همراه در مقایسه با سرورهای ابری، مدلهای هوش مصنوعی مولد روی دستگاه با تمرکز بر کارایی و اندازه طراحی میشوند. این بهینهسازی، وظایف خاص و تعریفشده را نسبت به برنامههای عمومیتر در اولویت قرار میدهد. موارد استفاده مناسب عبارتند از:
- تغییر متن : لحن و سبک متن را تغییر دهید (مثلاً از حالت خودمانی به حالت رسمی).
- پاسخ هوشمند : پاسخهای مرتبط با متن را در یک رشته چت ایجاد کنید.
- تصحیح متن : شناسایی و اصلاح خطاهای املایی و دستوری.
- خلاصهسازی : اسناد طولانی را به خلاصههای مختصر (پاراگراف یا نکات مهم) تبدیل کنید.
برای عملکرد بهینه، به مستندات استراتژیهای تشویقی مراجعه کنید.
جمینی نانو توسط چندین برنامه گوگل استفاده میشود. برخی از نمونهها عبارتند از:
- Talkback: اپلیکیشن دسترسیپذیری اندروید Talkback از قابلیتهای ورودی چندوجهی Gemini Nano برای بهبود توصیف تصاویر برای کاربران کمبینا استفاده میکند.
- ضبطکننده صدای پیکسل: برنامه ضبطکننده صدای پیکسل از Gemini Nano و AICore برای فعال کردن ویژگی خلاصهسازی روی دستگاه استفاده میکند. تیم ضبطکننده، جدیدترین مدل Gemini Nano را برای پشتیبانی از ضبطهای طولانیتر و ارائه خلاصههای با کیفیت بالاتر به کار گرفته است.
- جیبورد: پاسخ هوشمند جیبورد از Gemini Nano روی دستگاه به همراه AICore برای ارائه پاسخهای هوشمند دقیق استفاده میکند.