أخبار المنتجات

كيف يتيح "التحسين التلقائي للطلبات" تحقيق مكاسب في الجودة لواجهة ML Kit GenAI Prompt API؟

مدة القراءة: 3 دقائق

التحسين التلقائي للطلبات (APO)

لمساعدتكم بشكل أكبر في طرح حالات استخدام واجهة ML Kit Prompt API في مرحلة الإنتاج، يسرّنا الإعلان عن ميزة "التحسين التلقائي للطلبات" (APO) التي تستهدف النماذج على الجهاز في Vertex AI. ميزة "التحسين التلقائي للطلبات" هي أداة تساعدكم تلقائيًا في العثور على الطلب الأمثل لحالات استخدامكم.

لم يعُد الذكاء الاصطناعي على الجهاز مجرد وعد، بل أصبح حقيقة في مرحلة الإنتاج. مع إصدار ‫Gemini Nano v3، نضع إمكانات غير مسبوقة لفهم اللغة وإمكانات متعددة الوسائط في أيدي المستخدمين مباشرةً. من خلال مجموعة نماذج Gemini Nano، نوفّر تغطية واسعة للأجهزة المتوافقة في منظومة Android المتكاملة. ولكن بالنسبة إلى المطوّرين الذين ينشئون الجيل التالي من التطبيقات الذكية، لا يمثّل الوصول إلى نموذج قوي سوى الخطوة الأولى. يكمن التحدي الحقيقي في التخصيص: كيف يمكنكم تخصيص نموذج أساسي لتحقيق أداء على مستوى الخبراء لحالة استخدامكم المحدّدة بدون مخالفة قيود أجهزة الجوّال؟

في بيئات جهة الخادم، تميل النماذج اللغوية الكبيرة (LLM) إلى أن تكون عالية الإمكانات وتتطلب قدرًا أقل من التكيّف مع المجال. وحتى عند الحاجة إلى ذلك، يمكن أن تكون الخيارات الأكثر تقدّمًا، مثل الضبط الدقيق لـ LoRA (Low-Rank Adaptation)، خيارات مجدية. ومع ذلك، تمنح البنية الفريدة لـ Android AICore الأولوية لنموذج نظام مشترك وفعّال من حيث الذاكرة. ويعني ذلك أنّ نشر أدوات LoRA المخصّصة لكل تطبيق فردي يواجه تحديات في خدمات النظام المشتركة هذه.

ولكن هناك مسار بديل يمكن أن يكون له التأثير نفسه. من خلال الاستفادة من ميزة "التحسين التلقائي للطلبات" (APO) على Vertex AI، يمكن للمطوّرين تحقيق جودة تقترب من الجودة التي يتم الحصول عليها من خلال الضبط الدقيق، مع العمل بسلاسة ضمن بيئة التنفيذ الأصلية لنظام Android. من خلال التركيز على تعليمات النظام الفائقة، تتيح ميزة "التحسين التلقائي للطلبات" للمطوّرين تخصيص سلوك النموذج بمزيد من المتانة وقابلية التوسّع مقارنةً بحلول الضبط الدقيق التقليدية.

ملاحظة:  ‫Gemini Nano V3 هو إصدار محسّن من حيث الجودة من نموذج Gemma 3N الذي حظي بإشادة واسعة. وستسري أيضًا على Gemini Nano V3 أي تحسينات يتم إجراؤها على الطلبات في نموذج Gemma 3N المفتوح المصدر. على الأجهزة المتوافقة، تستفيد واجهات برمجة التطبيقات للذكاء الاصطناعي التوليدي في حزمة تعلّم الآلة من نموذج nano-v3 لتحقيق أقصى قدر من الجودة لمطوّري تطبيقات Android.

APO block diagram.jpg

لا تتعامل ميزة "التحسين التلقائي للطلبات" مع الطلب كنص ثابت، بل كسطح قابل للبرمجة يمكن تحسينه. تستفيد هذه الميزة من النماذج من جهة الخادم (مثل Gemini Pro وFlash) لاقتراح الطلبات وتقييم الاختلافات والعثور على الطلب الأمثل لمهمتكم المحدّدة. تستخدم هذه العملية ثلاث آليات فنية محدّدة لتحقيق أقصى قدر من الأداء:

  1. تحليل الأخطاء التلقائي: تحلّل ميزة "التحسين التلقائي للطلبات" أنماط الأخطاء من بيانات التدريب لتحديد نقاط الضعف المحدّدة في الطلب الأوّلي تلقائيًا.
  2. استخلاص التعليمات الدلالية: تحلّل هذه الميزة أمثلة تدريبية ضخمة لاستخلاص "الهدف الحقيقي" من مهمة، ما يؤدي إلى إنشاء تعليمات تعكس بشكل أكثر دقة توزيع البيانات الحقيقية.
  3. اختبار المرشّحين بالتوازي: بدلاً من اختبار فكرة واحدة في كل مرة، تنشئ ميزة "التحسين التلقائي للطلبات" وتختبر العديد من الطلبات المحتملة بالتوازي لتحديد الحد الأقصى العام للجودة.

لماذا يمكن أن تقترب جودة ميزة "التحسين التلقائي للطلبات" من جودة الضبط الدقيق؟

من المفاهيم الخاطئة الشائعة أنّ الضبط الدقيق يحقّق دائمًا جودة أفضل من الطلبات. بالنسبة إلى النماذج الأساسية الحديثة، مثل Gemini Nano v3، يمكن أن يكون لهندسة الطلبات تأثير كبير بحد ذاتها:

  • الحفاظ على الإمكانات العامة: يجبر الضبط الدقيق ( PEFT/LoRA) أوزان النموذج على التركيز بشكل مفرط على توزيع محدّد للبيانات. ويؤدي ذلك غالبًا إلى "النسيان الكارثي"، حيث يتحسّن النموذج في استخدام البنية المحدّدة، ولكنّه يصبح أسوأ في المنطق العام والسلامة. لا تغيّر ميزة "التحسين التلقائي للطلبات" الأوزان، ما يحافظ على إمكانات النموذج الأساسي.
  • اتّباع التعليمات واكتشاف الاستراتيجيات: تم تدريب Gemini Nano v3 بدقة على اتّباع تعليمات النظام المعقّدة. تستفيد ميزة "التحسين التلقائي للطلبات" من ذلك من خلال العثور على بنية التعليمات الدقيقة التي تتيح إمكانات النموذج الكامنة، وغالبًا ما تكتشف استراتيجيات قد يصعب على المهندسين البشريين العثور عليها. 

للتحقق من هذا النهج، قيّمنا ميزة "التحسين التلقائي للطلبات" في أحمال عمل متنوعة في مرحلة الإنتاج. أظهرت عملية التحقق مكاسب ثابتة في الدقة بنسبة تتراوح بين %5 و%8 في حالات استخدام مختلفة.وقدّمت ميزة "التحسين التلقائي للطلبات" تحسينات كبيرة في الجودة في ميزات متعدّدة تم نشرها على الجهاز فقط.

Use CaseTask TypeTask DescriptionMetricAPO Improvement
تصنيف المواضيعتصنيف النصوصتصنيف مقال إخباري في مواضيع مثل التمويل والرياضة وما إلى ذلكالدقة‎+5%
تصنيف النواياتصنيف النصوصتصنيف طلب خدمة عملاء في نواياالدقة‎+8.0%
ترجمة صفحة ويبترجمة نصترجمة صفحة ويب من اللغة الإنجليزية إلى لغة محليةBLEU‎+8.57%

سير عمل سلس وشامل للمطوّرين

من المفاهيم الخاطئة الشائعة أنّ الضبط الدقيق يحقّق دائمًا جودة أفضل من الطلبات. بالنسبة إلى النماذج الأساسية الحديثة، مثل Gemini Nano v3، يمكن أن يكون لهندسة الطلبات تأثير كبير بحد ذاتها:

  • الحفاظ على الإمكانات العامة: يجبر الضبط الدقيق ( PEFT/LoRA) أوزان النموذج على التركيز بشكل مفرط على توزيع محدّد للبيانات. ويؤدي ذلك غالبًا إلى "النسيان الكارثي"، حيث يتحسّن النموذج في استخدام البنية المحدّدة، ولكنّه يصبح أسوأ في المنطق العام والسلامة. لا تغيّر ميزة "التحسين التلقائي للطلبات" الأوزان، ما يحافظ على إمكانات النموذج الأساسي.
  • اتّباع التعليمات واكتشاف الاستراتيجيات: تم تدريب Gemini Nano v3 بدقة على اتّباع تعليمات النظام المعقّدة. تستفيد ميزة "التحسين التلقائي للطلبات" من ذلك من خلال العثور على بنية التعليمات الدقيقة التي تتيح إمكانات النموذج الكامنة، وغالبًا ما تكتشف استراتيجيات قد يصعب على المهندسين البشريين العثور عليها. 

للتحقق من هذا النهج، قيّمنا ميزة "التحسين التلقائي للطلبات" في أحمال عمل متنوعة في مرحلة الإنتاج. أظهرت عملية التحقق مكاسب ثابتة في الدقة بنسبة تتراوح بين %5 و%8 في حالات استخدام مختلفة.وقدّمت ميزة "التحسين التلقائي للطلبات" تحسينات كبيرة في الجودة في ميزات متعدّدة تم نشرها على الجهاز فقط.

الخاتمة

يمثّل إصدار ميزة "التحسين التلقائي للطلبات" (APO) نقطة تحوّل للذكاء الاصطناعي التوليدي على الجهاز فقط. من خلال سد الفجوة بين النماذج الأساسية والأداء على مستوى الخبراء، نمنح المطوّرين الأدوات اللازمة لإنشاء تطبيقات جوّال أكثر متانة. سواء كنتم في بداية استخدام ميزة "التحسين بدون أمثلة" أو كنتم بصدد التوسّع إلى مرحلة الإصدار العلني باستخدام التحسين المستند إلى البيانات ، أصبح المسار نحو الذكاء العالي الجودة على الجهاز فقط أكثر وضوحًا الآن.يمكنكم طرح حالات الاستخدام على الجهاز فقط في مرحلة الإنتاج اليوم باستخدام واجهة ML Kit Prompt API وميزة "التحسين التلقائي للطلبات" في Vertex AI. 

روابط ذات صلة: 

متابعة القراءة