تضمین ایمنی در اکوسیستم هوش مصنوعی مولد: محافظت از کاربران در برابر محتوای خصوصی بدون رضایت
۴ دقیقه مطالعه
در گوگل پلی، ایمنی کاربر و موفقیت توسعهدهنده دست در دست هم پیش میروند. ما همچنان شاهد رشد برنامههایی با ویژگیهای تولید شده توسط هوش مصنوعی هستیم و در واقع، افزودن هوش مصنوعی مولد به برنامههای شما راهی عالی برای گشودن امکانات خلاقانه باورنکردنی است. با این حال، ویژگیهای هوش مصنوعی چالشهای ایمنی جدیدی را نیز به همراه دارند - مانند ظهور تولید تصاویر صمیمی بدون رضایت (NCII) با تسهیل هوش مصنوعی. سیاستهای گوگل پلی، تسهیل، ایجاد یا توزیع محتوای جنسی بدون رضایت را ممنوع میکند. برنامههای مضری که برای هدف قرار دادن، آزار و اذیت یا سوءاستفاده از افراد طراحی شدهاند، مطلقاً جایی در گوگل پلی ندارند و ما متعهد به اجرای سیاستهای خود هستیم تا فروشگاه را به فضایی امن برای پیشرفت توسعهدهندگان تبدیل کنیم.
ما میدانیم که اکثریت قریب به اتفاق شما به ساخت ابزارهای مثبت و اخلاقی متعهد هستید. برای محافظت از زحمات شما و پایگاه کاربری مشترکمان، ما سرمایهگذاری سنگینی روی محافظت از پلتفرم، دفاع فنی و منابع توسعهدهندگان انجام میدهیم تا از سوءاستفاده جلوگیری کنیم.
چگونه از اکوسیستم مشترک خود محافظت میکنیم
محافظت از پلتفرم یک تلاش مداوم است. بازیگران بد تلاش میکنند از کانالهای توزیع، مسیرهای کسب درآمد و مرزهای مدل سوءاستفاده کنند. برای کمک به حفظ انصاف و امنیت اکوسیستم، ما یک استراتژی دفاعی چندلایه را در پیش گرفتهایم:
- محافظت در طول چرخه عمر برنامه: ویژگیهای هوش مصنوعی مولد پویا هستند و میتوانند کمتر قابل پیشبینی باشند، بنابراین ایمنی فقط یک بررسی یکباره هنگام ارسال برنامه شما نیست. ما به طور فعال و مکرر برنامهها را در طول چرخه عمرشان برای کنترلهای قوی NCII آزمایش میکنیم - هزاران برنامه را بررسی میکنیم تا سوءاستفاده را قبل از اینکه کاربران را در مقیاس بزرگ تحت تأثیر قرار دهد، شناسایی کنیم، در حالی که اطمینان حاصل میکنیم که توسعهدهندگان میتوانند با اطمینان خاطر شروع به کار کنند.
- محافظت از کسب و کار و درآمد شما: علاوه بر حذف برنامههای متخلف از گوگل پلی، تیمهای پلی و تبلیغات ما با هم همکاری میکنند تا مسیرهای کسب درآمد و تبلیغات را برای افراد بدخواه قطع کنند. برنامههایی که به دلیل تلاش برای تولید یا کسب درآمد از محتوای مضر مانند NCII به حالت تعلیق درآمده یا حذف میشوند، از کسب درآمد و تبلیغات در سراسر پلتفرمهای ما مسدود میشوند. این امر به سالم نگه داشتن اکوسیستم تبلیغات و اشتراک کمک میکند و از درآمد مشروع کسب و کار پشتیبانی میکند.
- همکاریهای صنعتی: ما از طریق برنامهی Priority Flagger خود، بهویژه برای شناسایی و مقابله با سوءاستفاده از NCII، با سازمانهای تخصصی شخص ثالث دفاع از NCII و گروههای تحقیقاتی پیشرو در زمینهی ایمنی هوش مصنوعی همکاری میکنیم.
بهترین شیوههای عملی برای ویژگیهای هوش مصنوعی مولد شما
برای کمک به شما در ساخت برنامههای امنتر و داشتن تجربه انتشار روانتر، در اینجا چند روش ساده برای طراحی و آزمایش برنامه شما، مطابق با سیاست محتوای جنسی و سیاست محتوای تولید شده توسط هوش مصنوعی ما، ارائه شده است.
۱. به ما در سادهسازی بررسی برنامهتان کمک کنید
برای حفظ یکپارچگی فروشگاه Play، ما الزامات بهبود یافته خود را که به طور خاص برنامههای هوش مصنوعی مولد را هدف قرار میدهند، تکرار میکنیم. این اقدامات برای جلوگیری از ایجاد محتوای مضر، از جمله NCII و رسانههای "برهنهسازی" طراحی شدهاند. تیمهای بررسی ما به دید واضحی از حفاظهای برنامه شما نیاز دارند تا بتوانیم برنامه شما را به طور موثر و سریع بررسی و تأیید کنیم. شما میتوانید با انجام موارد زیر از تأخیرهای غیرضروری در بررسی جلوگیری کنید:
- اطمینان حاصل کنید که حسابهای آزمایشی در طول بررسی به تمام ویژگیهای هوش مصنوعی دسترسی کامل دارند . لطفاً مطمئن شوید که بررسیکنندگان میتوانند به ویژگیهای هوش مصنوعی تولیدی پریمیوم برنامه شما دسترسی داشته باشند و توسط الزامات اشتراک یا دیوارهای پرداخت مسدود نشده باشند (این شامل ویژگیهایی میشود که دارای محدودیت جغرافیایی هستند).
- مستندات مربوط به نکات ایمنی و موارد حاشیهای که آزمایش کردهاید را در دسترس داشته باشید (مثلاً مدرکی مبنی بر اینکه مدلهای اساسی که برنامه شما فراخوانی میکند، با موفقیت درخواستهای ویرایش تصاویر صریح یا دیپفیک را رد میکنند). به دلیل خطرات بالای آسیب به کاربر در این زمینهها، باید به نکات مرتبط و مشابه «برهنهسازی» یا «درآوردن» تصاویر، تولید دیپفیک و ویرایش و تولید تصاویر صریح توجه ویژهای شود. اگر تیم ما سوالی دارد، امکان به اشتراک گذاشتن سریع نحوه برخورد برنامه شما با درخواستهای خصمانه و بالقوه نقضکننده میتواند به تأیید و انتشار سریعتر برنامه شما کمک کند.
توجه: از آنجا که ارزیابی ایمنی هوش مصنوعی مولد منحصر به فرد و پیچیده است، بررسیهای کامل و درخواستهای تجدیدنظر ممکن است گاهی اوقات بیشتر طول بکشد.
۲. اپلیکیشن خود را برای ایمنی طراحی کنید
تست استرس برنامه هوش مصنوعی مولد شما در برابر درخواستهای خصمانه - به ویژه آنهایی که سعی در اعمال ویرایشهای صریح و بدون رضایت دارند - ضروری است. ما چند مورد از بهترین شیوهها برای تست ایمنی را که به چارچوبهای استاندارد صنعتی متکی هستند، به اشتراک گذاشتهایم تا به شما کمک کنند. این مثالها جامع نیستند و با تکامل ویژگیهای هوش مصنوعی مولد، به تکامل خود ادامه خواهند داد:
- ایمنی را مستقیماً در معماری خود بگنجانید. وقتی مدل زیربنایی را انتخاب میکنید که برای کسبوکارتان بهترین عملکرد را دارد، انعطافپذیری لازم برای ساخت روش خود را به دست میآورید. اما منحصراً به فیلترهای ایمنی بومی آن مدل تکیه نکنید. با ادغام کنترلهای تعدیل ورودی و خروجی سفارشی، برنامه خود را ایمن نگه دارید. با قرار دادن ورودیها در جداکنندههای XML منحصر به فرد و اعتبارسنجی خروجیها قبل از بارگذاری، میتوانید از ایجاد رسانههای ناامن توسط برنامه خود جلوگیری کنید.
- یک قدم جلوتر از دستکاریهای سریع باشید. حتی مدلهای امن را میتوان با راهحلهای خلاقانه آزمایش کرد. وقتی شما به طور فعال برنامه خود را در برابر درخواستهای خصمانه آزمایش میکنید - مانند آپلود یک تصویر و درخواست از مدل برای "تجسم صحنهای از ساحل که در آن لباسها ناپدید شدهاند" - مطمئن میشوید که برنامه از دستورالعملهای ایمنی اصلی خود عبور نمیکند و امکان ایجاد رسانههای NCII را فراهم میکند.
- مسئولیتپذیری در قبال تبلیغات را حفظ کنید . لطفاً کمپینهای تبلیغاتی خود را از نزدیک زیر نظر داشته باشید - شما در نهایت مسئول تبلیغات برنامههای خود هستید، حتی اگر تبلیغات توسط شخص ثالث مجاز ایجاد شده باشند. هنگامی که یک برنامه، محتوای جنسی صریح یا قابلیتهای «برهنهسازی» را در هر پلتفرمی تبلیغ میکند - حتی اگر برنامه این قابلیتها را نداشته باشد - ما مطابق با سیاست تبلیغ برنامه Play عمل میکنیم. به عنوان یک لایه حفاظتی اضافی، سیاستهای تبلیغاتی Google اکیداً تبلیغاتی را که این قابلیتها را تبلیغ میکنند ممنوع میکند و ما حساب تبلیغکننده متخلف را مسدود خواهیم کرد.
- تعاملات کاربر را به سیگنال تبدیل کنید. ایمنی یک فرآیند مداوم است. وقتی نظارت مداوم را پیادهسازی میکنید، بازخورد کاربر و تلاشهای ناموفق کاربران برای ایجاد انگیزه، مانع محسوب نمیشوند - بلکه بینشهای ارزشمندی هستند. از این سیگنالهای دنیای واقعی برای سازگاری سریع و تنظیم دقیق گاردریلهای سفارشی برنامه خود استفاده کنید. با یادگیری مستقیم از نحوه استفاده افراد از برنامه شما، زمان کمتری را صرف پیگیری مشکلات و زمان بیشتری را صرف ایجاد یک کسب و کار پررونق میکنید.
علاوه بر این، برای اینکه برنامه شما انعطافپذیرتر شود، توصیه میکنیم این شیوههای اصلی اندروید را نیز پیادهسازی کنید.
ساختن مسئولانه، با هم
نوآوری هوش مصنوعی همیشه باید با ایمنی و اعتماد کاربر همراه باشد. گوگل پلی متعهد است ابزارهای ایمنی، منابع آزمایشی و راهنماییهای خود را گسترش دهد تا در هر مرحله از توسعه از شما پشتیبانی کند.
اگر تا به حال با رفتاری که ناقض خطمشیها یا خطرات پلتفرم باشد مواجه شدید، شما را تشویق میکنیم که آنها را به تیمهای ما گزارش دهید . از شما بابت ساخت و ساز مسئولانه متشکریم - مشتاقانه منتظر دیدن آنچه در ادامه در Google Play خلق میکنید هستیم.
اخبار محصولاوایل امسال، ما تعهد خود را برای ایمن نگه داشتن اندروید و گوگل پلی برای همه و حفظ محیطی پررونق که در آن کاربران بتوانند به برنامههایی که دانلود میکنند اعتماد کنند و کسب و کار شما بتواند شکوفا شود، تکرار کردیم.
Matthew Forsythe , Ron Aquino • ۳ دقیقه مطالعه
اخبار محصولاین آخرین نسخه پایدار اندروید استودیو Quail است. ویژگیهای جدید اندروید استودیو شما را قادر میسازد تا برنامههای پریمیوم با هوش مصنوعی را به طور مؤثر و کارآمد بسازید.
Amman Asfaw • ۵ دقیقه مطالعه
اخبار محصولحفظ یک اکوسیستم سالم اندروید یک تعهد مشترک است که در آن هر برنامه و بازی نقشی برای ایفا دارد.
Raghavendra Hareesh Pottamsetty • 4 دقیقه خواندن
جدیدترین بینشهای توسعه اندروید را به صورت هفتگی در صندوق ورودی خود دریافت کنید.
تضمین ایمنی در اکوسیستم هوش مصنوعی مولد: محافظت از کاربران در برابر محتوای خصوصی بدون رضایت
۴ دقیقه مطالعهدر گوگل پلی، ایمنی کاربر و موفقیت توسعهدهنده دست در دست هم پیش میروند. ما همچنان شاهد رشد برنامههایی با ویژگیهای تولید شده توسط هوش مصنوعی هستیم و در واقع، افزودن هوش مصنوعی مولد به برنامههای شما راهی عالی برای گشودن امکانات خلاقانه باورنکردنی است. با این حال، ویژگیهای هوش مصنوعی چالشهای ایمنی جدیدی را نیز به همراه دارند - مانند ظهور تولید تصاویر صمیمی بدون رضایت (NCII) با تسهیل هوش مصنوعی. سیاستهای گوگل پلی، تسهیل، ایجاد یا توزیع محتوای جنسی بدون رضایت را ممنوع میکند. برنامههای مضری که برای هدف قرار دادن، آزار و اذیت یا سوءاستفاده از افراد طراحی شدهاند، مطلقاً جایی در گوگل پلی ندارند و ما متعهد به اجرای سیاستهای خود هستیم تا فروشگاه را به فضایی امن برای پیشرفت توسعهدهندگان تبدیل کنیم.
ما میدانیم که اکثریت قریب به اتفاق شما به ساخت ابزارهای مثبت و اخلاقی متعهد هستید. برای محافظت از زحمات شما و پایگاه کاربری مشترکمان، ما سرمایهگذاری سنگینی روی محافظت از پلتفرم، دفاع فنی و منابع توسعهدهندگان انجام میدهیم تا از سوءاستفاده جلوگیری کنیم.
چگونه از اکوسیستم مشترک خود محافظت میکنیم
محافظت از پلتفرم یک تلاش مداوم است. بازیگران بد تلاش میکنند از کانالهای توزیع، مسیرهای کسب درآمد و مرزهای مدل سوءاستفاده کنند. برای کمک به حفظ انصاف و امنیت اکوسیستم، ما یک استراتژی دفاعی چندلایه را در پیش گرفتهایم:
- محافظت در طول چرخه عمر برنامه: ویژگیهای هوش مصنوعی مولد پویا هستند و میتوانند کمتر قابل پیشبینی باشند، بنابراین ایمنی فقط یک بررسی یکباره هنگام ارسال برنامه شما نیست. ما به طور فعال و مکرر برنامهها را در طول چرخه عمرشان برای کنترلهای قوی NCII آزمایش میکنیم - هزاران برنامه را بررسی میکنیم تا سوءاستفاده را قبل از اینکه کاربران را در مقیاس بزرگ تحت تأثیر قرار دهد، شناسایی کنیم، در حالی که اطمینان حاصل میکنیم که توسعهدهندگان میتوانند با اطمینان خاطر شروع به کار کنند.
- محافظت از کسب و کار و درآمد شما: علاوه بر حذف برنامههای متخلف از گوگل پلی، تیمهای پلی و تبلیغات ما با هم همکاری میکنند تا مسیرهای کسب درآمد و تبلیغات را برای افراد بدخواه قطع کنند. برنامههایی که به دلیل تلاش برای تولید یا کسب درآمد از محتوای مضر مانند NCII به حالت تعلیق درآمده یا حذف میشوند، از کسب درآمد و تبلیغات در سراسر پلتفرمهای ما مسدود میشوند. این امر به سالم نگه داشتن اکوسیستم تبلیغات و اشتراک کمک میکند و از درآمد مشروع کسب و کار پشتیبانی میکند.
- همکاریهای صنعتی: ما از طریق برنامهی Priority Flagger خود، بهویژه برای شناسایی و مقابله با سوءاستفاده از NCII، با سازمانهای تخصصی شخص ثالث دفاع از NCII و گروههای تحقیقاتی پیشرو در زمینهی ایمنی هوش مصنوعی همکاری میکنیم.
بهترین شیوههای عملی برای ویژگیهای هوش مصنوعی مولد شما
برای کمک به شما در ساخت برنامههای امنتر و داشتن تجربه انتشار روانتر، در اینجا چند روش ساده برای طراحی و آزمایش برنامه شما، مطابق با سیاست محتوای جنسی و سیاست محتوای تولید شده توسط هوش مصنوعی ما، ارائه شده است.
۱. به ما در سادهسازی بررسی برنامهتان کمک کنید
برای حفظ یکپارچگی فروشگاه Play، ما الزامات بهبود یافته خود را که به طور خاص برنامههای هوش مصنوعی مولد را هدف قرار میدهند، تکرار میکنیم. این اقدامات برای جلوگیری از ایجاد محتوای مضر، از جمله NCII و رسانههای "برهنهسازی" طراحی شدهاند. تیمهای بررسی ما به دید واضحی از حفاظهای برنامه شما نیاز دارند تا بتوانیم برنامه شما را به طور موثر و سریع بررسی و تأیید کنیم. شما میتوانید با انجام موارد زیر از تأخیرهای غیرضروری در بررسی جلوگیری کنید:
- اطمینان حاصل کنید که حسابهای آزمایشی در طول بررسی به تمام ویژگیهای هوش مصنوعی دسترسی کامل دارند . لطفاً مطمئن شوید که بررسیکنندگان میتوانند به ویژگیهای هوش مصنوعی تولیدی پریمیوم برنامه شما دسترسی داشته باشند و توسط الزامات اشتراک یا دیوارهای پرداخت مسدود نشده باشند (این شامل ویژگیهایی میشود که دارای محدودیت جغرافیایی هستند).
- مستندات مربوط به نکات ایمنی و موارد حاشیهای که آزمایش کردهاید را در دسترس داشته باشید (مثلاً مدرکی مبنی بر اینکه مدلهای اساسی که برنامه شما فراخوانی میکند، با موفقیت درخواستهای ویرایش تصاویر صریح یا دیپفیک را رد میکنند). به دلیل خطرات بالای آسیب به کاربر در این زمینهها، باید به نکات مرتبط و مشابه «برهنهسازی» یا «درآوردن» تصاویر، تولید دیپفیک و ویرایش و تولید تصاویر صریح توجه ویژهای شود. اگر تیم ما سوالی دارد، امکان به اشتراک گذاشتن سریع نحوه برخورد برنامه شما با درخواستهای خصمانه و بالقوه نقضکننده میتواند به تأیید و انتشار سریعتر برنامه شما کمک کند.
توجه: از آنجا که ارزیابی ایمنی هوش مصنوعی مولد منحصر به فرد و پیچیده است، بررسیهای کامل و درخواستهای تجدیدنظر ممکن است گاهی اوقات بیشتر طول بکشد.
۲. اپلیکیشن خود را برای ایمنی طراحی کنید
تست استرس برنامه هوش مصنوعی مولد شما در برابر درخواستهای خصمانه - به ویژه آنهایی که سعی در اعمال ویرایشهای صریح و بدون رضایت دارند - ضروری است. ما چند مورد از بهترین شیوهها برای تست ایمنی را که به چارچوبهای استاندارد صنعتی متکی هستند، به اشتراک گذاشتهایم تا به شما کمک کنند. این مثالها جامع نیستند و با تکامل ویژگیهای هوش مصنوعی مولد، به تکامل خود ادامه خواهند داد:
- ایمنی را مستقیماً در معماری خود بگنجانید. وقتی مدل زیربنایی را انتخاب میکنید که برای کسبوکارتان بهترین عملکرد را دارد، انعطافپذیری لازم برای ساخت روش خود را به دست میآورید. اما منحصراً به فیلترهای ایمنی بومی آن مدل تکیه نکنید. با ادغام کنترلهای تعدیل ورودی و خروجی سفارشی، برنامه خود را ایمن نگه دارید. با قرار دادن ورودیها در جداکنندههای XML منحصر به فرد و اعتبارسنجی خروجیها قبل از بارگذاری، میتوانید از ایجاد رسانههای ناامن توسط برنامه خود جلوگیری کنید.
- یک قدم جلوتر از دستکاریهای سریع باشید. حتی مدلهای امن را میتوان با راهحلهای خلاقانه آزمایش کرد. وقتی شما به طور فعال برنامه خود را در برابر درخواستهای خصمانه آزمایش میکنید - مانند آپلود یک تصویر و درخواست از مدل برای "تجسم صحنهای از ساحل که در آن لباسها ناپدید شدهاند" - مطمئن میشوید که برنامه از دستورالعملهای ایمنی اصلی خود عبور نمیکند و امکان ایجاد رسانههای NCII را فراهم میکند.
- مسئولیتپذیری در قبال تبلیغات را حفظ کنید . لطفاً کمپینهای تبلیغاتی خود را از نزدیک زیر نظر داشته باشید - شما در نهایت مسئول تبلیغات برنامههای خود هستید، حتی اگر تبلیغات توسط شخص ثالث مجاز ایجاد شده باشند. هنگامی که یک برنامه، محتوای جنسی صریح یا قابلیتهای «برهنهسازی» را در هر پلتفرمی تبلیغ میکند - حتی اگر برنامه این قابلیتها را نداشته باشد - ما مطابق با سیاست تبلیغ برنامه Play عمل میکنیم. به عنوان یک لایه حفاظتی اضافی، سیاستهای تبلیغاتی Google اکیداً تبلیغاتی را که این قابلیتها را تبلیغ میکنند ممنوع میکند و ما حساب تبلیغکننده متخلف را مسدود خواهیم کرد.
- تعاملات کاربر را به سیگنال تبدیل کنید. ایمنی یک فرآیند مداوم است. وقتی نظارت مداوم را پیادهسازی میکنید، بازخورد کاربر و تلاشهای ناموفق کاربران برای ایجاد انگیزه، مانع محسوب نمیشوند - بلکه بینشهای ارزشمندی هستند. از این سیگنالهای دنیای واقعی برای سازگاری سریع و تنظیم دقیق گاردریلهای سفارشی برنامه خود استفاده کنید. با یادگیری مستقیم از نحوه استفاده افراد از برنامه شما، زمان کمتری را صرف پیگیری مشکلات و زمان بیشتری را صرف ایجاد یک کسب و کار پررونق میکنید.
علاوه بر این، برای اینکه برنامه شما انعطافپذیرتر شود، توصیه میکنیم این شیوههای اصلی اندروید را نیز پیادهسازی کنید.
ساختن مسئولانه، با هم
نوآوری هوش مصنوعی همیشه باید با ایمنی و اعتماد کاربر همراه باشد. گوگل پلی متعهد است ابزارهای ایمنی، منابع آزمایشی و راهنماییهای خود را گسترش دهد تا در هر مرحله از توسعه از شما پشتیبانی کند.
اگر تا به حال با رفتاری که ناقض خطمشیها یا خطرات پلتفرم باشد مواجه شدید، شما را تشویق میکنیم که آنها را به تیمهای ما گزارش دهید . از شما بابت ساخت و ساز مسئولانه متشکریم - مشتاقانه منتظر دیدن آنچه در ادامه در Google Play خلق میکنید هستیم.
- اخبار محصول
اوایل امسال، ما تعهد خود را برای ایمن نگه داشتن اندروید و گوگل پلی برای همه و حفظ محیطی پررونق که در آن کاربران بتوانند به برنامههایی که دانلود میکنند اعتماد کنند و کسب و کار شما بتواند شکوفا شود، تکرار کردیم.
Matthew Forsythe , Ron Aquino • ۳ دقیقه مطالعه - اخبار محصول
این آخرین نسخه پایدار اندروید استودیو Quail است. ویژگیهای جدید اندروید استودیو شما را قادر میسازد تا برنامههای پریمیوم با هوش مصنوعی را به طور مؤثر و کارآمد بسازید.
Amman Asfaw • ۵ دقیقه مطالعه - اخبار محصول
حفظ یک اکوسیستم سالم اندروید یک تعهد مشترک است که در آن هر برنامه و بازی نقشی برای ایفا دارد.
Raghavendra Hareesh Pottamsetty • 4 دقیقه خواندن
جدیدترین بینشهای توسعه اندروید را به صورت هفتگی در صندوق ورودی خود دریافت کنید.
تضمین ایمنی در اکوسیستم هوش مصنوعی مولد: محافظت از کاربران در برابر محتوای خصوصی بدون رضایت
۴ دقیقه مطالعهدر گوگل پلی، ایمنی کاربر و موفقیت توسعهدهنده دست در دست هم پیش میروند. ما همچنان شاهد رشد برنامههایی با ویژگیهای تولید شده توسط هوش مصنوعی هستیم و در واقع، افزودن هوش مصنوعی مولد به برنامههای شما راهی عالی برای گشودن امکانات خلاقانه باورنکردنی است. با این حال، ویژگیهای هوش مصنوعی چالشهای ایمنی جدیدی را نیز به همراه دارند - مانند ظهور تولید تصاویر صمیمی بدون رضایت (NCII) با تسهیل هوش مصنوعی. سیاستهای گوگل پلی، تسهیل، ایجاد یا توزیع محتوای جنسی بدون رضایت را ممنوع میکند. برنامههای مضری که برای هدف قرار دادن، آزار و اذیت یا سوءاستفاده از افراد طراحی شدهاند، مطلقاً جایی در گوگل پلی ندارند و ما متعهد به اجرای سیاستهای خود هستیم تا فروشگاه را به فضایی امن برای پیشرفت توسعهدهندگان تبدیل کنیم.
ما میدانیم که اکثریت قریب به اتفاق شما به ساخت ابزارهای مثبت و اخلاقی متعهد هستید. برای محافظت از زحمات شما و پایگاه کاربری مشترکمان، ما سرمایهگذاری سنگینی روی محافظت از پلتفرم، دفاع فنی و منابع توسعهدهندگان انجام میدهیم تا از سوءاستفاده جلوگیری کنیم.
چگونه از اکوسیستم مشترک خود محافظت میکنیم
محافظت از پلتفرم یک تلاش مداوم است. بازیگران بد تلاش میکنند از کانالهای توزیع، مسیرهای کسب درآمد و مرزهای مدل سوءاستفاده کنند. برای کمک به حفظ انصاف و امنیت اکوسیستم، ما یک استراتژی دفاعی چندلایه را در پیش گرفتهایم:
- محافظت در طول چرخه عمر برنامه: ویژگیهای هوش مصنوعی مولد پویا هستند و میتوانند کمتر قابل پیشبینی باشند، بنابراین ایمنی فقط یک بررسی یکباره هنگام ارسال برنامه شما نیست. ما به طور فعال و مکرر برنامهها را در طول چرخه عمرشان برای کنترلهای قوی NCII آزمایش میکنیم - هزاران برنامه را بررسی میکنیم تا سوءاستفاده را قبل از اینکه کاربران را در مقیاس بزرگ تحت تأثیر قرار دهد، شناسایی کنیم، در حالی که اطمینان حاصل میکنیم که توسعهدهندگان میتوانند با اطمینان خاطر شروع به کار کنند.
- محافظت از کسب و کار و درآمد شما: علاوه بر حذف برنامههای متخلف از گوگل پلی، تیمهای پلی و تبلیغات ما با هم همکاری میکنند تا مسیرهای کسب درآمد و تبلیغات را برای افراد بدخواه قطع کنند. برنامههایی که به دلیل تلاش برای تولید یا کسب درآمد از محتوای مضر مانند NCII به حالت تعلیق درآمده یا حذف میشوند، از کسب درآمد و تبلیغات در سراسر پلتفرمهای ما مسدود میشوند. این امر به سالم نگه داشتن اکوسیستم تبلیغات و اشتراک کمک میکند و از درآمد مشروع کسب و کار پشتیبانی میکند.
- همکاریهای صنعتی: ما از طریق برنامهی Priority Flagger خود، بهویژه برای شناسایی و مقابله با سوءاستفاده از NCII، با سازمانهای تخصصی شخص ثالث دفاع از NCII و گروههای تحقیقاتی پیشرو در زمینهی ایمنی هوش مصنوعی همکاری میکنیم.
بهترین شیوههای عملی برای ویژگیهای هوش مصنوعی مولد شما
برای کمک به شما در ساخت برنامههای امنتر و داشتن تجربه انتشار روانتر، در اینجا چند روش ساده برای طراحی و آزمایش برنامه شما، مطابق با سیاست محتوای جنسی و سیاست محتوای تولید شده توسط هوش مصنوعی ما، ارائه شده است.
۱. به ما در سادهسازی بررسی برنامهتان کمک کنید
برای حفظ یکپارچگی فروشگاه Play، ما الزامات بهبود یافته خود را که به طور خاص برنامههای هوش مصنوعی مولد را هدف قرار میدهند، تکرار میکنیم. این اقدامات برای جلوگیری از ایجاد محتوای مضر، از جمله NCII و رسانههای "برهنهسازی" طراحی شدهاند. تیمهای بررسی ما به دید واضحی از حفاظهای برنامه شما نیاز دارند تا بتوانیم برنامه شما را به طور موثر و سریع بررسی و تأیید کنیم. شما میتوانید با انجام موارد زیر از تأخیرهای غیرضروری در بررسی جلوگیری کنید:
- اطمینان حاصل کنید که حسابهای آزمایشی در طول بررسی به تمام ویژگیهای هوش مصنوعی دسترسی کامل دارند . لطفاً مطمئن شوید که بررسیکنندگان میتوانند به ویژگیهای هوش مصنوعی تولیدی پریمیوم برنامه شما دسترسی داشته باشند و توسط الزامات اشتراک یا دیوارهای پرداخت مسدود نشده باشند (این شامل ویژگیهایی میشود که دارای محدودیت جغرافیایی هستند).
- مستندات مربوط به نکات ایمنی و موارد حاشیهای که آزمایش کردهاید را در دسترس داشته باشید (مثلاً مدرکی مبنی بر اینکه مدلهای اساسی که برنامه شما فراخوانی میکند، با موفقیت درخواستهای ویرایش تصاویر صریح یا دیپفیک را رد میکنند). به دلیل خطرات بالای آسیب به کاربر در این زمینهها، باید به نکات مرتبط و مشابه «برهنهسازی» یا «درآوردن» تصاویر، تولید دیپفیک و ویرایش و تولید تصاویر صریح توجه ویژهای شود. اگر تیم ما سوالی دارد، امکان به اشتراک گذاشتن سریع نحوه برخورد برنامه شما با درخواستهای خصمانه و بالقوه نقضکننده میتواند به تأیید و انتشار سریعتر برنامه شما کمک کند.
توجه: از آنجا که ارزیابی ایمنی هوش مصنوعی مولد منحصر به فرد و پیچیده است، بررسیهای کامل و درخواستهای تجدیدنظر ممکن است گاهی اوقات بیشتر طول بکشد.
۲. اپلیکیشن خود را برای ایمنی طراحی کنید
تست استرس برنامه هوش مصنوعی مولد شما در برابر درخواستهای خصمانه - به ویژه آنهایی که سعی در اعمال ویرایشهای صریح و بدون رضایت دارند - ضروری است. ما چند مورد از بهترین شیوهها برای تست ایمنی را که به چارچوبهای استاندارد صنعتی متکی هستند، به اشتراک گذاشتهایم تا به شما کمک کنند. این مثالها جامع نیستند و با تکامل ویژگیهای هوش مصنوعی مولد، به تکامل خود ادامه خواهند داد:
- ایمنی را مستقیماً در معماری خود بگنجانید. وقتی مدل زیربنایی را انتخاب میکنید که برای کسبوکارتان بهترین عملکرد را دارد، انعطافپذیری لازم برای ساخت روش خود را به دست میآورید. اما منحصراً به فیلترهای ایمنی بومی آن مدل تکیه نکنید. با ادغام کنترلهای تعدیل ورودی و خروجی سفارشی، برنامه خود را ایمن نگه دارید. با قرار دادن ورودیها در جداکنندههای XML منحصر به فرد و اعتبارسنجی خروجیها قبل از بارگذاری، میتوانید از ایجاد رسانههای ناامن توسط برنامه خود جلوگیری کنید.
- یک قدم جلوتر از دستکاریهای سریع باشید. حتی مدلهای امن را میتوان با راهحلهای خلاقانه آزمایش کرد. وقتی شما به طور فعال برنامه خود را در برابر درخواستهای خصمانه آزمایش میکنید - مانند آپلود یک تصویر و درخواست از مدل برای "تجسم صحنهای از ساحل که در آن لباسها ناپدید شدهاند" - مطمئن میشوید که برنامه از دستورالعملهای ایمنی اصلی خود عبور نمیکند و امکان ایجاد رسانههای NCII را فراهم میکند.
- مسئولیتپذیری در قبال تبلیغات را حفظ کنید . لطفاً کمپینهای تبلیغاتی خود را از نزدیک زیر نظر داشته باشید - شما در نهایت مسئول تبلیغات برنامههای خود هستید، حتی اگر تبلیغات توسط شخص ثالث مجاز ایجاد شده باشند. هنگامی که یک برنامه، محتوای جنسی صریح یا قابلیتهای «برهنهسازی» را در هر پلتفرمی تبلیغ میکند - حتی اگر برنامه این قابلیتها را نداشته باشد - ما مطابق با سیاست تبلیغ برنامه Play عمل میکنیم. به عنوان یک لایه حفاظتی اضافی، سیاستهای تبلیغاتی Google اکیداً تبلیغاتی را که این قابلیتها را تبلیغ میکنند ممنوع میکند و ما حساب تبلیغکننده متخلف را مسدود خواهیم کرد.
- تعاملات کاربر را به سیگنال تبدیل کنید. ایمنی یک فرآیند مداوم است. وقتی نظارت مداوم را پیادهسازی میکنید، بازخورد کاربر و تلاشهای ناموفق کاربران برای ایجاد انگیزه، مانع محسوب نمیشوند - بلکه بینشهای ارزشمندی هستند. از این سیگنالهای دنیای واقعی برای سازگاری سریع و تنظیم دقیق گاردریلهای سفارشی برنامه خود استفاده کنید. با یادگیری مستقیم از نحوه استفاده افراد از برنامه شما، زمان کمتری را صرف پیگیری مشکلات و زمان بیشتری را صرف ایجاد یک کسب و کار پررونق میکنید.
علاوه بر این، برای اینکه برنامه شما انعطافپذیرتر شود، توصیه میکنیم این شیوههای اصلی اندروید را نیز پیادهسازی کنید.
ساختن مسئولانه، با هم
نوآوری هوش مصنوعی همیشه باید با ایمنی و اعتماد کاربر همراه باشد. گوگل پلی متعهد است ابزارهای ایمنی، منابع آزمایشی و راهنماییهای خود را گسترش دهد تا در هر مرحله از توسعه از شما پشتیبانی کند.
اگر تا به حال با رفتاری که ناقض خطمشیها یا خطرات پلتفرم باشد مواجه شدید، شما را تشویق میکنیم که آنها را به تیمهای ما گزارش دهید . از شما بابت ساخت و ساز مسئولانه متشکریم - مشتاقانه منتظر دیدن آنچه در ادامه در Google Play خلق میکنید هستیم.
- اخبار محصول
اوایل امسال، ما تعهد خود را برای ایمن نگه داشتن اندروید و گوگل پلی برای همه و حفظ محیطی پررونق که در آن کاربران بتوانند به برنامههایی که دانلود میکنند اعتماد کنند و کسب و کار شما بتواند شکوفا شود، تکرار کردیم.
Matthew Forsythe , Ron Aquino • ۳ دقیقه مطالعه - اخبار محصول
این آخرین نسخه پایدار اندروید استودیو Quail است. ویژگیهای جدید اندروید استودیو شما را قادر میسازد تا برنامههای پریمیوم با هوش مصنوعی را به طور مؤثر و کارآمد بسازید.
Amman Asfaw • ۵ دقیقه مطالعه - اخبار محصول
حفظ یک اکوسیستم سالم اندروید یک تعهد مشترک است که در آن هر برنامه و بازی نقشی برای ایفا دارد.
Raghavendra Hareesh Pottamsetty • 4 دقیقه خواندن
جدیدترین بینشهای توسعه اندروید را به صورت هفتگی در صندوق ورودی خود دریافت کنید.
تضمین ایمنی در اکوسیستم هوش مصنوعی مولد: محافظت از کاربران در برابر محتوای خصوصی بدون رضایت
۴ دقیقه مطالعهدر گوگل پلی، ایمنی کاربر و موفقیت توسعهدهنده دست در دست هم پیش میروند. ما همچنان شاهد رشد برنامههایی با ویژگیهای تولید شده توسط هوش مصنوعی هستیم و در واقع، افزودن هوش مصنوعی مولد به برنامههای شما راهی عالی برای گشودن امکانات خلاقانه باورنکردنی است. با این حال، ویژگیهای هوش مصنوعی چالشهای ایمنی جدیدی را نیز به همراه دارند - مانند ظهور تولید تصاویر صمیمی بدون رضایت (NCII) با تسهیل هوش مصنوعی. سیاستهای گوگل پلی، تسهیل، ایجاد یا توزیع محتوای جنسی بدون رضایت را ممنوع میکند. برنامههای مضری که برای هدف قرار دادن، آزار و اذیت یا سوءاستفاده از افراد طراحی شدهاند، مطلقاً جایی در گوگل پلی ندارند و ما متعهد به اجرای سیاستهای خود هستیم تا فروشگاه را به فضایی امن برای پیشرفت توسعهدهندگان تبدیل کنیم.
ما میدانیم که اکثریت قریب به اتفاق شما به ساخت ابزارهای مثبت و اخلاقی متعهد هستید. برای محافظت از زحمات شما و پایگاه کاربری مشترکمان، ما سرمایهگذاری سنگینی روی محافظت از پلتفرم، دفاع فنی و منابع توسعهدهندگان انجام میدهیم تا از سوءاستفاده جلوگیری کنیم.
چگونه از اکوسیستم مشترک خود محافظت میکنیم
محافظت از پلتفرم یک تلاش مداوم است. بازیگران بد تلاش میکنند از کانالهای توزیع، مسیرهای کسب درآمد و مرزهای مدل سوءاستفاده کنند. برای کمک به حفظ انصاف و امنیت اکوسیستم، ما یک استراتژی دفاعی چندلایه را در پیش گرفتهایم:
- محافظت در طول چرخه عمر برنامه: ویژگیهای هوش مصنوعی مولد پویا هستند و میتوانند کمتر قابل پیشبینی باشند، بنابراین ایمنی فقط یک بررسی یکباره هنگام ارسال برنامه شما نیست. ما به طور فعال و مکرر برنامهها را در طول چرخه عمرشان برای کنترلهای قوی NCII آزمایش میکنیم - هزاران برنامه را بررسی میکنیم تا سوءاستفاده را قبل از اینکه کاربران را در مقیاس بزرگ تحت تأثیر قرار دهد، شناسایی کنیم، در حالی که اطمینان حاصل میکنیم که توسعهدهندگان میتوانند با اطمینان خاطر شروع به کار کنند.
- محافظت از کسب و کار و درآمد شما: علاوه بر حذف برنامههای متخلف از گوگل پلی، تیمهای پلی و تبلیغات ما با هم همکاری میکنند تا مسیرهای کسب درآمد و تبلیغات را برای افراد بدخواه قطع کنند. برنامههایی که به دلیل تلاش برای تولید یا کسب درآمد از محتوای مضر مانند NCII به حالت تعلیق درآمده یا حذف میشوند، از کسب درآمد و تبلیغات در سراسر پلتفرمهای ما مسدود میشوند. این امر به سالم نگه داشتن اکوسیستم تبلیغات و اشتراک کمک میکند و از درآمد مشروع کسب و کار پشتیبانی میکند.
- همکاریهای صنعتی: ما از طریق برنامهی Priority Flagger خود، بهویژه برای شناسایی و مقابله با سوءاستفاده از NCII، با سازمانهای تخصصی شخص ثالث دفاع از NCII و گروههای تحقیقاتی پیشرو در زمینهی ایمنی هوش مصنوعی همکاری میکنیم.
بهترین شیوههای عملی برای ویژگیهای هوش مصنوعی مولد شما
برای کمک به شما در ساخت برنامههای امنتر و داشتن تجربه انتشار روانتر، در اینجا چند روش ساده برای طراحی و آزمایش برنامه شما، مطابق با سیاست محتوای جنسی و سیاست محتوای تولید شده توسط هوش مصنوعی ما، ارائه شده است.
۱. به ما در سادهسازی بررسی برنامهتان کمک کنید
برای حفظ یکپارچگی فروشگاه Play، ما الزامات بهبود یافته خود را که به طور خاص برنامههای هوش مصنوعی مولد را هدف قرار میدهند، تکرار میکنیم. این اقدامات برای جلوگیری از ایجاد محتوای مضر، از جمله NCII و رسانههای "بیارزش" طراحی شدهاند. تیمهای بررسی ما به دید واضحی از حفاظهای برنامه شما نیاز دارند تا بتوانیم برنامه شما را به طور موثر و سریع بررسی و تأیید کنیم. شما میتوانید با انجام موارد زیر از تأخیرهای غیرضروری در بررسی جلوگیری کنید:
- اطمینان حاصل کنید که حسابهای آزمایشی در طول بررسی به تمام ویژگیهای هوش مصنوعی دسترسی کامل دارند . لطفاً مطمئن شوید که بررسیکنندگان میتوانند به ویژگیهای هوش مصنوعی تولیدی پریمیوم برنامه شما دسترسی داشته باشند و توسط الزامات اشتراک یا دیوارهای پرداخت مسدود نشده باشند (این شامل ویژگیهایی میشود که دارای محدودیت جغرافیایی هستند).
- مستندات مربوط به نکات ایمنی و موارد حاشیهای که آزمایش کردهاید را در دسترس داشته باشید (مثلاً مدرکی مبنی بر اینکه مدلهای اساسی که برنامه شما فراخوانی میکند، با موفقیت درخواستهای ویرایش تصاویر صریح یا دیپفیک را رد میکنند). به دلیل خطرات بالای آسیب به کاربر در این زمینهها، باید به نکات مرتبط و مشابه «برهنهسازی» یا «درآوردن» تصاویر، تولید دیپفیک و ویرایش و تولید تصاویر صریح توجه ویژهای شود. اگر تیم ما سوالی دارد، امکان به اشتراک گذاشتن سریع نحوه برخورد برنامه شما با درخواستهای خصمانه و بالقوه نقضکننده میتواند به تأیید و انتشار سریعتر برنامه شما کمک کند.
توجه: از آنجا که ارزیابی ایمنی هوش مصنوعی مولد منحصر به فرد و پیچیده است، بررسیهای کامل و درخواستهای تجدیدنظر ممکن است گاهی اوقات بیشتر طول بکشد.
۲. اپلیکیشن خود را برای ایمنی طراحی کنید
تست استرس برنامه هوش مصنوعی مولد شما در برابر درخواستهای خصمانه - به ویژه آنهایی که سعی در اعمال ویرایشهای صریح و بدون رضایت دارند - ضروری است. ما چند مورد از بهترین شیوهها برای تست ایمنی را که به چارچوبهای استاندارد صنعتی متکی هستند، به اشتراک گذاشتهایم تا به شما کمک کنند. این مثالها جامع نیستند و با تکامل ویژگیهای هوش مصنوعی مولد، به تکامل خود ادامه خواهند داد:
- ایمنی را مستقیماً در معماری خود بگنجانید. وقتی مدل زیربنایی را انتخاب میکنید که برای کسب و کار شما بهترین عملکرد را دارد، انعطافپذیری لازم برای ساخت روش خود را به دست میآورید. اما منحصراً به فیلترهای ایمنی بومی آن مدل تکیه نکنید. با ادغام کنترلهای تعدیل ورودی و خروجی سفارشی، برنامه خود را ایمن نگه دارید. با قرار دادن ورودیها در جداکنندههای XML منحصر به فرد و اعتبارسنجی خروجیها قبل از بارگذاری، میتوانید از ایجاد رسانههای ناامن توسط برنامه خود جلوگیری کنید.
- یک قدم جلوتر از دستکاریهای سریع باشید. حتی مدلهای امن را میتوان با راهحلهای خلاقانه آزمایش کرد. وقتی شما به طور فعال برنامه خود را در برابر درخواستهای خصمانه آزمایش میکنید - مانند آپلود یک تصویر و درخواست از مدل برای "تجسم صحنهای از ساحل که در آن لباسها ناپدید شدهاند" - مطمئن میشوید که برنامه از دستورالعملهای ایمنی اصلی خود عبور نمیکند و امکان ایجاد رسانههای NCII را فراهم میکند.
- مسئولیتپذیری در قبال تبلیغات را حفظ کنید . لطفاً کمپینهای تبلیغاتی خود را از نزدیک زیر نظر داشته باشید - شما در نهایت مسئول تبلیغات برنامههای خود هستید، حتی اگر تبلیغات توسط شخص ثالث مجاز ایجاد شده باشند. هنگامی که یک برنامه، محتوای جنسی صریح یا قابلیتهای «برهنهسازی» را در هر پلتفرمی تبلیغ میکند - حتی اگر برنامه این قابلیتها را نداشته باشد - ما مطابق با سیاست تبلیغ برنامه Play عمل میکنیم. به عنوان یک لایه حفاظتی اضافی، سیاستهای تبلیغاتی Google اکیداً تبلیغاتی را که این قابلیتها را تبلیغ میکنند ممنوع میکند و ما حساب تبلیغکننده متخلف را مسدود خواهیم کرد.
- تعاملات کاربر را به سیگنال تبدیل کنید. ایمنی یک فرآیند مداوم است. وقتی نظارت مداوم را پیادهسازی میکنید، بازخورد کاربر و تلاشهای ناموفق کاربران برای ایجاد انگیزه، مانع محسوب نمیشوند - بلکه بینشهای ارزشمندی هستند. از این سیگنالهای دنیای واقعی برای سازگاری سریع و تنظیم دقیق گاردریلهای سفارشی برنامه خود استفاده کنید. با یادگیری مستقیم از نحوه استفاده افراد از برنامه شما، زمان کمتری را صرف پیگیری مشکلات و زمان بیشتری را صرف ایجاد یک کسب و کار پررونق میکنید.
علاوه بر این، برای اینکه برنامه شما انعطافپذیرتر شود، توصیه میکنیم این شیوههای اصلی اندروید را نیز پیادهسازی کنید.
ساختن مسئولانه، با هم
نوآوری هوش مصنوعی همیشه باید با ایمنی و اعتماد کاربر همراه باشد. گوگل پلی متعهد است ابزارهای ایمنی، منابع آزمایشی و راهنماییهای خود را گسترش دهد تا در هر مرحله از توسعه از شما پشتیبانی کند.
اگر تا به حال با رفتاری که ناقض خطمشیها یا خطرات پلتفرم باشد مواجه شدید، شما را تشویق میکنیم که آنها را به تیمهای ما گزارش دهید . از شما بابت ساخت و ساز مسئولانه متشکریم - مشتاقانه منتظر دیدن آنچه در ادامه در Google Play خلق میکنید هستیم.
- اخبار محصول
اوایل امسال، ما تعهد خود را برای ایمن نگه داشتن اندروید و گوگل پلی برای همه و حفظ محیطی پررونق که در آن کاربران بتوانند به برنامههایی که دانلود میکنند اعتماد کنند و کسب و کار شما بتواند شکوفا شود، تکرار کردیم.
Matthew Forsythe , Ron Aquino • ۳ دقیقه مطالعه - اخبار محصول
این آخرین نسخه پایدار اندروید استودیو Quail است. ویژگیهای جدید اندروید استودیو شما را قادر میسازد تا برنامههای پریمیوم با هوش مصنوعی را به طور مؤثر و کارآمد بسازید.
Amman Asfaw • ۵ دقیقه مطالعه - اخبار محصول
حفظ یک اکوسیستم سالم اندروید یک تعهد مشترک است که در آن هر برنامه و بازی نقشی برای ایفا دارد.
Raghavendra Hareesh Pottamsetty • 4 دقیقه خواندن
جدیدترین بینشهای توسعه اندروید را به صورت هفتگی در صندوق ورودی خود دریافت کنید.