ضمان الأمان في منظومة الذكاء الاصطناعي التوليدي المتكاملة: حماية المستخدمين من المحتوى الحميمي غير الرضائي

في Google Play، يرتبط أمان المستخدمين بنجاح المطوّرين. نلاحظ نموًا مستمرًا في التطبيقات التي تتضمّن ميزات من إنشاء الذكاء الاصطناعي، ولا شك في أنّ إضافة الذكاء الاصطناعي التوليدي إلى تطبيقاتك هي طريقة رائعة لإتاحة إمكانات إبداعية هائلة. ومع ذلك، فإنّ الميزات التي تستخدم الذكاء الاصطناعي تطرح أيضًا تحديات جديدة تتعلق بالأمان، مثل زيادة إنشاء صور فاضحة بدون موافقة الشخص المعني (NCII) بمساعدة الذكاء الاصطناعي. تحظر سياسات Google Play تسهيل إنشاء المحتوى الجنسي غير الرضائي أو إنشائه أو توزيعه. لا مكان على Google Play للتطبيقات الضارة المصمَّمة لاستهداف الأفراد أو مضايقتهم أو استغلالهم، ونحن ملتزمون بتنفيذ سياساتنا للحفاظ على المتجر كمساحة آمنة تتيح للمطوّرين الازدهار.

ندرك أنّ الغالبية العظمى منكم ملتزمون بإنشاء أدوات إيجابية وأخلاقية. لحماية عملك الشاق وقاعدة المستخدمين المشتركة، نستثمر بشكل كبير في وسائل حماية المنصة والدفاعات الفنية وموارد المطوّرين لمنع إساءة الاستخدام.

كيفية حماية منظومتنا المتكاملة المشتركة

إنّ حماية المنصة هي جهد مستمر. يحاول الجهات المسيئة استغلال قنوات التوزيع ومسارات تحقيق الربح وحدود النماذج. للمساعدة في الحفاظ على عدالة المنظومة المتكاملة وأمانها، وضعنا استراتيجية دفاعية متعددة المستويات:

• إجراءات وقائية طوال مراحل نشاط التطبيق: الميزات المستندة إلى الذكاء الاصطناعي التوليدي هي ميزات ديناميكية وقد تكون أقل قابلية للتنبؤ، لذا لا تقتصر السلامة على إجراء فحص لمرة واحدة عند إرسال تطبيقك. نحن نختبر التطبيقات بشكل نشط ومتكرر طوال مراحل نشاطها للتأكّد من فعالية عناصر التحكّم في الصور الجنسية غير الرضائية، ونراجع آلاف التطبيقات لرصد أي إساءة استخدام قبل أن تؤثر على المستخدمين على نطاق واسع، مع ضمان إمكانية إطلاق المطوّرين لتطبيقاتهم بثقة.
• حماية نشاطك التجاري وإيراداتك: بالإضافة إلى إزالة التطبيقات المخالِفة من Google Play، يتعاون فريقا Play و"إعلانات Google" لقطع مسارات تحقيق الربح والإعلانات عن الجهات المسيئة. يتم حظر التطبيقات التي تم تعليقها أو إزالتها بسبب محاولة إنشاء محتوى ضار أو تحقيق الربح منه، مثل صور فاضحة بدون موافقة الشخص المعني (NCII)، من تحقيق الربح والإعلان على جميع منصاتنا. يساعد ذلك في الحفاظ على سلامة المنظومة المتكاملة للإعلانات والاشتراكات ويدعم إيرادات الأنشطة التجارية المشروعة.
• التعاون في المجال: نتعاون مع مؤسسات خارجية متخصّصة في مكافحة الصور الجنسية غير الرضائية ومجموعات بحثية رائدة في مجال أمان الذكاء الاصطناعي من خلال برنامج المُخبر الأساسي، وذلك تحديدًا لتحديد حالات إساءة استخدام الصور الجنسية غير الرضائية ومعالجتها. 

أفضل الممارسات العملية للميزات المستندة إلى الذكاء الاصطناعي التوليدي 

لمساعدتك في إنشاء تطبيقات أكثر أمانًا ونشرها بسلاسة، إليك بعض الطرق البسيطة لتصميم تطبيقك واختباره بما يتوافق مع سياسة المحتوى الجنسي و سياسة المحتوى من إنشاء الذكاء الاصطناعي.

1. ساعِدنا في تبسيط عملية مراجعة تطبيقك

للحفاظ على نزاهة "متجر Google Play"، نؤكّد مجددًا على متطلباتنا المحسّنة التي تستهدف تطبيقات الذكاء الاصطناعي التوليدي على وجه التحديد. وتهدف هذه الإجراءات إلى منع إنشاء محتوى ضار، بما في ذلك صور فاضحة بدون موافقة الشخص المعني (NCII) والوسائط التي يتم "تعديلها لإظهار الأشخاص عراة". تحتاج فِرق المراجعة لدينا إلى الاطّلاع بوضوح على إجراءات الحماية في تطبيقك لنتمكّن من مراجعته والموافقة عليه بفعالية وسرعة. يمكنك تجنُّب التأخير غير الضروري في المراجعة من خلال:

• التأكّد من أنّ الحسابات الاختبارية لديها إذن وصول كامل إلى جميع الميزات التي تستخدم الذكاء الاصطناعي أثناء المراجعة. يُرجى التأكّد من أنّ المراجعين يمكنهم الوصول إلى ميزات مستندة إلى الذكاء الاصطناعي التوليدي المدفوعة في تطبيقك وأنّهم غير محظورين بسبب متطلبات الاشتراك أو حواجز الدفع (يشمل ذلك الميزات التي يتم وضع حدود جغرافية لها).
• الاحتفاظ بمستندات جاهزة حول طلبات الأمان والحالات الاستثنائية التي اختبرتها (على سبيل المثال، دليل على أنّ النماذج الأساسية التي يستدعيها تطبيقك ترفض بنجاح طلبات تعديل الصور الفاضحة أو التزييف العميق). يجب الانتباه بشكل خاص إلى الطلبات المتعلقة بـ "التعرية" أو "خلع الملابس" والطلبات المشابهة، وإنشاء التزييف العميق، وتعديل الصور الفاضحة وإنشائها بسبب المخاطر المتزايدة لإلحاق الضرر بالمستخدمين في هذه السياقات. إذا كانت لدى فريقنا أسئلة، فإنّ قدرتك على مشاركة كيفية تعامل تطبيقك مع الطلبات العدائية والتي يُحتمل أن تكون مخالفة يمكن أن تساعد في الموافقة على تطبيقك ونشره بشكل أسرع.

ملاحظة: نظرًا إلى أنّ تقييم أمان الذكاء الاصطناعي التوليدي معقّد بشكل فريد، قد تستغرق المراجعات الشاملة وطلبات إعادة النظر وقتًا أطول في بعض الأحيان. 

2. تصميم تطبيقك ليتوافق مع ميزة "السلامة"

من الضروري إجراء اختبارات ضغط على تطبيق الذكاء الاصطناعي التوليدي ضد الطلبات العدائية، خاصةً تلك التي تحاول فرض تعديلات فاضحة غير رضائية . لقد شاركنا بعضًا من أفضل الممارسات لاختبار الأمان والتي تعتمد على أُطر العمل المتّبعة في المجال لمساعدتك. هذه الأمثلة ليست شاملة وستستمر في التطوّر مع تطوّر الميزات المستندة إلى الذكاء الاصطناعي التوليدي:

• تضمين الأمان في البنية الأساسية: عند اختيار النموذج الأساسي الأنسب لمؤسستك، ستحصل على المرونة اللازمة لإنشاء تطبيقك بالطريقة التي تريدها. ولكن لا تعتمد حصريًا على فلاتر الأمان الأصلية لهذا النموذج. يمكنك الحفاظ على أمان تطبيقك من خلال دمج عناصر تحكّم مخصّصة للإشراف على الإدخال والإخراج. من خلال تضمين المدخلات في محدّدات XML فريدة والتحقّق من صحة المخرجات قبل تحميلها، يمكنك منع تطبيقك من إنشاء وسائط غير آمنة.
• الاستعداد دائمًا لمواجهة التلاعب بالطلبات: حتى النماذج الآمنة يمكن اختبارها من خلال حلول بديلة مبتكرة. عند اختبار تطبيقك بشكل استباقي ضد الطلبات العدائية، مثل تحميل صورة والطلب من النموذج "تصوُّر مشهد شاطئ اختفت فيه الملابس"، فإنّك تضمن عدم تجاوزه لتعليمات الأمان الأساسية والسماح بإنشاء وسائط NCII. 
• الحفاظ على المساءلة في ما يتعلّق بالإعلانات: يُرجى مراقبة حملاتك الإعلانية عن كثب، لأنّك تظلّ المسؤول النهائي عن إعلانات تطبيقاتك، حتى عندما يتم إنشاء الإعلانات من قِبل جهة خارجية مصرَّح لها. عندما يروّج تطبيق لميزات جنسية فاضحة أو ميزات "إزالة الملابس" على أي منصة، حتى إذا لم يكن يتضمّن هذه الميزات، فإنّنا نتّخذ إجراءات تنفيذية بموجب سياسة الترويج للتطبيقات في Google Play. كإجراء حماية إضافي، تحظر سياسات الإعلانات في Google بشكل صارم الإعلانات التي تروّج لهذه الإمكانات، وسنعلّق حساب المعلِن الذي ينتهك هذه السياسات.
• تحويل تفاعلات المستخدمين إلى إشارات: الأمان عملية مستمرة. عند تنفيذ المراقبة المستمرة، لا تُعدّ ملاحظات المستخدمين ومحاولات الطلبات الفاشلة من المستخدمين عوائق، بل هي إحصاءات قيّمة. استخدِم هذه الإشارات الواقعية للتكيّف بسرعة وضبط الإجراءات الوقائية المخصّصة لتطبيقك. من خلال التعلّم مباشرةً من كيفية استخدام الأشخاص لتطبيقك، يمكنك قضاء وقت أقل في تتبُّع المشاكل ووقت أطول في بناء نشاط تجاري مزدهر.

بالإضافة إلى ذلك، لزيادة مرونة تطبيقك، ننصحك أيضًا بتنفيذ ممارسات Android الأساسية هذه.

العمل معًا بمسؤولية

يجب أن يتماشى الابتكار في مجال الذكاء الاصطناعي دائمًا مع الأمان وثقة المستخدمين. يلتزم Google Play بتوسيع نطاق أدوات الأمان وموارد الاختبار والإرشادات لدعمك في كل مرحلة من مراحل التطوير.

إذا صادفتم سلوكًا ينتهك السياسات أو مخاطر على المنصة، ننصحكم بالإبلاغ عنها لفرقنا. نشكرك على تطوير تطبيقاتك بمسؤولية، ونتطلّع إلى رؤية إبداعاتك القادمة على Google Play.