أخبار المنتجات

كيف يساهم التحسين الآلي للطلبات في تحقيق مكاسب في الجودة لواجهة برمجة التطبيقات GenAI Prompt API في حزمة تعلّم الآلة؟

مدة القراءة: 3 دقائق

التحسين الآلي للطلبات (APO)

لمساعدتكم بشكل أكبر في طرح حالات استخدام واجهة برمجة التطبيقات Prompt API في حزمة تعلّم الآلة في مرحلة الإنتاج، يسرّنا الإعلان عن ميزة "التحسين الآلي للطلبات" (APO) التي تستهدف النماذج على الجهاز فقط على Vertex AI. ميزة "التحسين الآلي للطلبات" هي أداة تساعدكم في العثور تلقائيًا على الطلب الأمثل لحالات استخدامكم.

لم يعُد الذكاء الاصطناعي على الجهاز مجرد وعد، بل أصبح حقيقة في مرحلة الإنتاج. مع إصدار ‫Gemini Nano v3، نضع إمكانات فهم اللغة المتطورة والإمكانات المتعددة الوسائط غير المسبوقة في أيدي المستخدمين مباشرةً. من خلال مجموعة نماذج Gemini Nano، نوفّر تغطية واسعة للأجهزة المتوافقة في منظومة Android المتكاملة. ولكن بالنسبة إلى المطوّرين الذين ينشئون الجيل التالي من التطبيقات الذكية، لا يمثل الوصول إلى نموذج قوي سوى الخطوة الأولى. يكمن التحدي الحقيقي في التخصيص: كيف يمكنكم تخصيص نموذج أساسي لتحقيق أداء على مستوى الخبراء لحالة استخدامكم المحددة بدون مخالفة قيود أجهزة الجوّال؟

في بيئات جهة الخادم، تميل النماذج اللغوية الكبيرة (LLM) إلى أن تكون عالية الإمكانات وتتطلب قدرًا أقل من التكيّف مع المجال. وحتى عند الحاجة إلى ذلك، يمكن أن تكون الخيارات الأكثر تقدمًا، مثل الضبط الدقيق لـ LoRA (Low-Rank Adaptation)، خيارات قابلة للتطبيق. ومع ذلك، تمنح البنية الفريدة لـ Android AICore الأولوية لنموذج نظام مشترك وفعّال من حيث الذاكرة. ويعني ذلك أنّ نشر أدوات LoRA المخصّصة لكل تطبيق فردي يواجه تحديات على مستوى خدمات النظام المشتركة هذه.

ولكن هناك مسار بديل يمكن أن يكون له التأثير نفسه. من خلال الاستفادة من ميزة التحسين الآلي للطلبات (APO) على Vertex AI، يمكن للمطوّرين تحقيق جودة تقترب من الجودة التي يتم الحصول عليها من خلال الضبط الدقيق، مع العمل بسلاسة ضمن بيئة التنفيذ الأصلية لنظام Android. من خلال التركيز على تعليمات النظام المتفوّقة، تتيح ميزة "تحسين الطلبات آليًا" للمطوّرين تخصيص سلوك النموذج بمزيد من المتانة وقابلية التوسّع مقارنةً بحلول الضبط الدقيق التقليدية.

ملاحظة:  ‫Gemini Nano V3 هو إصدار محسّن من حيث الجودة من نموذج Gemma 3N الذي حظي بإشادة واسعة. سيتم تطبيق أي تحسينات على الطلبات يتم إجراؤها على نموذج Gemma 3N المفتوح المصدر على Gemini Nano V3 أيضًا. على الأجهزة المتوافقة، تستفيد واجهات برمجة التطبيقات GenAI في حزمة تعلّم الآلة من نموذج nano-v3 لتحقيق أقصى قدر من الجودة لمطوّري تطبيقات Android.

APO block diagram.jpg

لا تتعامل ميزة "تحسين الطلبات آليًا" مع الطلب كنص ثابت، بل كمساحة قابلة للبرمجة يمكن تحسينها. تستفيد هذه الميزة من النماذج على جانب الخادم (مثل Gemini Pro وFlash) لاقتراح الطلبات وتقييم الاختلافات والعثور على الطلب الأمثل لمهمتكم المحددة. تستخدم هذه العملية ثلاث آليات فنية محددة لتحقيق أقصى قدر من الأداء:

  1. تحليل الأخطاء آليًا: تحلّل ميزة "تحسين الطلبات آليًا" أنماط الأخطاء من بيانات التدريب لتحديد نقاط الضعف المحددة في الطلب الأولي تلقائيًا.
  2. استخلاص التعليمات الدلالية: تحلّل هذه الميزة أمثلة تدريبية ضخمة لاستخلاص "الهدف الحقيقي" من مهمة، ما يؤدي إلى إنشاء تعليمات تعكس بشكل أكثر دقة توزيع البيانات الحقيقية.
  3. اختبار المرشّحين بالتوازي: بدلاً من اختبار فكرة واحدة في كل مرة، تنشئ ميزة "تحسين الطلبات آليًا" العديد من الطلبات المرشّحة وتختبرها بالتوازي لتحديد الحد الأقصى العام للجودة.

لماذا يمكن أن تقترب ميزة "تحسين الطلبات آليًا" من جودة الضبط الدقيق؟

من المفاهيم الخاطئة الشائعة أنّ الضبط الدقيق يحقق دائمًا جودة أفضل من الطلبات. بالنسبة إلى النماذج الأساسية الحديثة، مثل Gemini Nano v3، يمكن أن يكون لهندسة الطلبات تأثير كبير بحد ذاتها:

  • الحفاظ على الإمكانات العامة: يجبر الضبط الدقيق ( PEFT/LoRA) أوزان النموذج على أن تكون أكثر تركيزًا على توزيع معيّن للبيانات. ويؤدي ذلك غالبًا إلى "النسيان الكارثي"، حيث يتحسّن النموذج في استخدام البنية المحددة، ولكنّه يصبح أسوأ في المنطق العام والأمان. لا تغيّر ميزة "تحسين الطلبات آليًا" الأوزان، ما يحافظ على إمكانات النموذج الأساسي.
  • اتّباع التعليمات واكتشاف الاستراتيجيات: تم تدريب Gemini Nano v3 بدقة على اتّباع تعليمات النظام المعقدة. تستفيد ميزة "تحسين الطلبات آليًا" من ذلك من خلال العثور على بنية التعليمات الدقيقة التي تتيح إمكانات النموذج الكامنة، وغالبًا ما تكتشف استراتيجيات قد يصعب على المهندسين البشريين العثور عليها. 

للتحقق من هذا النهج، قيّمنا ميزة "تحسين الطلبات آليًا" على مستوى أحمال عمل متنوعة في مرحلة الإنتاج. أظهرت عملية التحقق مكاسب متسقة في الدقة بنسبة تتراوح بين %5 و%8 في حالات استخدام متنوعة.وقد حققت ميزة "تحسين الطلبات آليًا" تحسينات كبيرة في الجودة على مستوى ميزات متعددة تم نشرها على الجهاز فقط.

Use CaseTask TypeTask DescriptionMetricAPO Improvement
تصنيف المواضيعتصنيف النصوصتصنيف مقال إخباري ضمن مواضيع مثل الشؤون المالية والرياضة وما إلى ذلكالدقة‎+5%
تصنيف الأهدافتصنيف النصوصتصنيف طلب خدمة عملاء ضمن الأهدافالدقة‎+8.0%
ترجمة صفحة ويبترجمة نصترجمة صفحة ويب من الإنجليزية إلى لغة محليةBLEU‎+8.57%

سير عمل سلس وشامل للمطوّرين

من المفاهيم الخاطئة الشائعة أنّ الضبط الدقيق يحقق دائمًا جودة أفضل من الطلبات. بالنسبة إلى النماذج الأساسية الحديثة، مثل Gemini Nano v3، يمكن أن يكون لهندسة الطلبات تأثير كبير بحد ذاتها:

  • الحفاظ على الإمكانات العامة: يجبر الضبط الدقيق ( PEFT/LoRA) أوزان النموذج على أن تكون أكثر تركيزًا على توزيع معيّن للبيانات. ويؤدي ذلك غالبًا إلى "النسيان الكارثي"، حيث يتحسّن النموذج في استخدام البنية المحددة، ولكنّه يصبح أسوأ في المنطق العام والأمان. لا تغيّر ميزة "تحسين الطلبات آليًا" الأوزان، ما يحافظ على إمكانات النموذج الأساسي.
  • اتّباع التعليمات واكتشاف الاستراتيجيات: تم تدريب Gemini Nano v3 بدقة على اتّباع تعليمات النظام المعقدة. تستفيد ميزة "تحسين الطلبات آليًا" من ذلك من خلال العثور على بنية التعليمات الدقيقة التي تتيح إمكانات النموذج الكامنة، وغالبًا ما تكتشف استراتيجيات قد يصعب على المهندسين البشريين العثور عليها. 

للتحقق من هذا النهج، قيّمنا ميزة "تحسين الطلبات آليًا" على مستوى أحمال عمل متنوعة في مرحلة الإنتاج. أظهرت عملية التحقق مكاسب متسقة في الدقة بنسبة تتراوح بين %5 و%8 في حالات استخدام متنوعة.وقد حققت ميزة "تحسين الطلبات آليًا" تحسينات كبيرة في الجودة على مستوى ميزات متعددة تم نشرها على الجهاز فقط.

الخاتمة

يمثّل إصدار ميزة تحسين الطلبات آليًا (APO) نقطة تحوّل للذكاء الاصطناعي التوليدي على الجهاز. من خلال سد الفجوة بين النماذج الأساسية والأداء على مستوى الخبراء، نمنح المطوّرين الأدوات اللازمة لإنشاء تطبيقات جوّال أكثر متانة. سواء كنتم في بداية استخدام التحسين بدون أمثلة أو كنتم بصدد التوسّع إلى مرحلة الإصدار العلني باستخدام التحسين المستند إلى البيانات ، أصبح المسار نحو الذكاء العالي الجودة على الجهاز فقط أكثر وضوحًا الآن. يمكنكم طرح حالات الاستخدام على الجهاز فقط في مرحلة الإنتاج اليوم باستخدام واجهة برمجة التطبيقات Prompt API في حزمة تعلّم الآلة وميزة "التحسين الآلي للطلبات" في Vertex AI. 

روابط ذات صلة: 

Written by:
Continue reading