Üretken Yapay Zeka Ekosisteminde Güvenliği Sağlama: Kullanıcıları Rıza Dışı Mahrem İçeriklerden Koruma

Google Play'de kullanıcı güvenliği ve geliştirici başarısı birbiriyle yakından ilişkilidir. Yapay zeka tarafından üretilen özelliklere sahip uygulamaların sayısının artmaya devam ettiğini görüyoruz. Uygulamalarınıza üretken yapay zeka eklemek, inanılmaz yaratıcı olanakların kapısını açmanın harika bir yoludur. Ancak yapay zeka özellikleri, izinsiz oluşturulan/yayınlanan mahrem görüntülerin (NCII) yapay zeka tarafından üretilmesindeki artış gibi yeni güvenlik sorunlarını da beraberinde getiriyor. Google Play politikaları, rıza dışı cinsel içeriklerin kolaylaştırılmasını, oluşturulmasını veya dağıtılmasını yasaklar. Bireyleri hedef almak, taciz etmek veya istismar etmek için tasarlanmış zararlı uygulamaların Google Play'de kesinlikle yeri yoktur. Mağazayı geliştiricilerin başarılı olabileceği güvenli bir alan olarak tutmak için politikalarımızı uygulamaya kararlıyız.

Büyük çoğunluğunuzun olumlu ve etik araçlar geliştirmeye odaklandığını biliyoruz. Hem sizin emeğinizi hem de ortak kullanıcı tabanımızı korumak için platform korumalarına, teknik savunmalara ve kötüye kullanımı önlemeye yönelik geliştirici kaynaklarına büyük yatırımlar yapıyoruz.

Ortak ekosistemimizi nasıl koruyoruz?

Platformu korumak sürekli bir çaba gerektirir. Kötü niyetli kişiler; dağıtım kanallarını, para kazanma yollarını ve model sınırlarını kötüye kullanmaya çalışır. Ekosistemin adil ve güvenli kalmasına yardımcı olmak için çok katmanlı bir savunma stratejisi uyguluyoruz:

• Uygulama yaşam döngüsü boyunca koruma önlemleri: Üretken yapay zeka özellikleri dinamiktir ve daha az öngörülebilir olabilir. Bu nedenle güvenlik, uygulamanızı gönderdiğinizde yalnızca bir kez kontrol edilen bir şey değildir. Uygulamaları yaşam döngüleri boyunca aktif ve tekrar tekrar test ederek NCII kontrollerinin sağlamlığını değerlendiriyoruz. Binlerce uygulamayı inceleyerek kötüye kullanımı, kullanıcıları geniş ölçekte etkilemeden önce tespit ediyor ve geliştiricilerin güvenle uygulama yayınlamasını sağlıyoruz.
• İşletmenizi ve gelirinizi koruma: Play ve Ads ekiplerimiz, ihlalde bulunan uygulamaları Google Play'den kaldırmanın yanı sıra kötü niyetli kişilerin para kazanma ve reklamcılık yollarını engellemek için birlikte çalışır. NCII gibi zararlı içerikler oluşturmaya veya bunlardan para kazanmaya çalıştığı için askıya alınan ya da kaldırılan uygulamaların platformlarımızda para kazanması ve reklam yayınlaması engellenir. Bu sayede reklam ve abonelik ekosisteminin sağlıklı kalması sağlanır ve yasal işletme gelirleri desteklenir.
• Sektör işbirlikleri: NCII'nin kötüye kullanımını tespit edip ele almak için özellikle Öncelikli İşaretleyici Programımız aracılığıyla NCII'ye karşı savunma yapan uzman üçüncü taraf kuruluşlar ve önde gelen yapay zeka güvenliği araştırma gruplarıyla işbirliği yapıyoruz. 

Üretken yapay zeka özellikleriniz için pratik en iyi uygulamalar 

Daha güvenli uygulamalar geliştirmenize ve daha sorunsuz bir yayınlama deneyimi yaşamanıza yardımcı olmak için uygulamanızı Cinsel İçerik Politikamıza ve  Yapay Zekayla Üretilmiş İçerik Politikamıza uygun şekilde tasarlayıp test etmenin birkaç basit yolunu aşağıda bulabilirsiniz.

1. Uygulama inceleme sürecinizi kolaylaştırmamıza yardımcı olun

Google Play Store'un bütünlüğünü korumak için özellikle üretken yapay zeka uygulamalarını hedefleyen gelişmiş şartlarımızı yineliyoruz. Bu önlemler, NCII ve "çıplaklaştırma" medyası dahil olmak üzere zararlı içeriklerin oluşturulmasını önlemek için tasarlanmıştır. İnceleme ekiplerimizin uygulamanızı etkili ve hızlı bir şekilde inceleyip onaylayabilmesi için uygulamanızın güvenlik önlemlerini net bir şekilde görebilmesi gerekir. İnceleme sürecinde gereksiz gecikmeleri önlemek için:

• İnceleme sırasında test hesaplarının tüm yapay zeka özelliklerine tam erişimi olduğundan emin olun. Lütfen inceleme uzmanlarının uygulamanızın premium üretken yapay zeka özelliklerine erişebildiğinden ve abonelik şartları veya ödeme duvarları tarafından engellenmediğinden emin olun (coğrafi sınır belirleme uygulanan özellikler de buna dahildir).
• Test ettiğiniz güvenlik istemleri ve uç durumlarla ilgili belgeleri hazır bulundurma (ör. uygulamanızın çağırdığı temel modellerin, müstehcen resim düzenleme veya deepfake isteklerini başarıyla reddettiğine dair kanıt). Bu bağlamlarda kullanıcıların zarar görme riski daha yüksek olduğundan "çıplaklaştırma" veya "soyunma" ile ilgili ve benzer istemlere, deepfake oluşturmaya ve müstehcen resim düzenleme ve oluşturmaya özellikle dikkat edilmelidir. Ekibimizin soruları olursa uygulamanızın, düşmanca ve ihlalde bulunabilecek istekleri nasıl ele aldığını hızlıca paylaşabilmeniz, uygulamanızın daha da hızlı onaylanıp yayınlanmasına yardımcı olabilir.

Not: Üretken yapay zeka güvenlik değerlendirmesi son derece karmaşık olduğundan kapsamlı incelemeler ve itirazlar bazen daha uzun sürebilir. 

2. Uygulamanızı güvenli olacak şekilde tasarlama

Üretken yapay zeka uygulamanızı yanıltıcı istemlere (özellikle de rıza dışı uygunsuz düzenlemeler yapmaya zorlayan istemlere ) karşı stres testine tabi tutmanız çok önemlidir. Size yardımcı olmak için endüstri standardı çerçevelere dayalı güvenlik testleriyle ilgili birkaç en iyi uygulamayı paylaştık. Bu örnekler kapsamlı değildir ve üretken yapay zeka özellikleri geliştikçe değişmeye devam edecektir:

• Güvenliği doğrudan mimarinize entegre edin. İşletmeniz için en uygun temel modeli seçtiğinizde, kendi yönteminizi oluşturma esnekliğine sahip olursunuz. Ancak yalnızca bu modelin yerel güvenlik filtrelerine güvenmeyin. Özelleştirilmiş giriş ve çıkış moderasyon kontrollerini entegre ederek uygulamanızın güvenliğini sağlayın. Girişleri benzersiz XML sınırlayıcılarla sarmalayarak ve çıkışları yüklenmeden önce doğrulayarak uygulamanızın güvenli olmayan medya oluşturmasını önleyebilirsiniz.
• İstem manipülasyonunun bir adım önünde olun. Güvenli modeller bile yaratıcı geçici çözümlerle test edilebilir. Uygulamanızı yanıltıcı istemlere karşı proaktif olarak test ettiğinizde (ör. bir resim yükleyip modelden "giysilerin kaybolduğu bir plaj sahnesini görselleştirmesini" istediğinizde) uygulamanın temel güvenlik talimatlarını atlamamasını ve NCII medya oluşturulmasına izin vermemesini sağlarsınız.
• Reklamlar için hesap verebilirliği sürdürme Lütfen reklam kampanyalarınızı yakından izleyin. Reklamlar yetkili bir üçüncü tarafça oluşturulmuş olsa bile uygulamalarınızın reklamlarından nihai olarak siz sorumlu olursunuz. Bir uygulama herhangi bir platformda müstehcen veya "çıplaklık içeren" özelliklerin reklamını yapıyorsa (uygulamada bu özellikler olmasa bile) Google Play Uygulama Tanıtımı Politikası uyarınca yaptırım uygularız. Ek bir koruma katmanı olarak, Google'ın reklam politikaları bu özellikleri tanıtan reklamları kesinlikle yasaklar ve ihlalde bulunan reklamverenin hesabını askıya alırız.
• Kullanıcı etkileşimlerini sinyallere dönüştürün. Güvenlik, devam eden bir süreçtir. Sürekli izleme uyguladığınızda, kullanıcı geri bildirimleri ve kullanıcılarınızın başarısız istem denemeleri birer engel değil, değerli analizler haline gelir. Uygulamanızın özelleştirilmiş güvenlik önlemlerini hızlıca uyarlamak ve hassas bir şekilde ayarlamak için bu gerçek dünya sinyallerini kullanın. Kullanıcıların uygulamanızı nasıl kullandığını doğrudan öğrenerek sorunları çözmek için daha az zaman harcar ve başarılı bir işletme kurmaya daha fazla zaman ayırabilirsiniz.

Ayrıca, uygulamanızı daha dayanıklı hale getirmek için bu Android temel uygulamalarını da kullanmanızı öneririz.

Birlikte, sorumluluk bilinciyle geliştirme

Yapay zeka inovasyonu her zaman güvenlik ve kullanıcı güveniyle birlikte ilerlemelidir. Google Play, geliştirme sürecinin her aşamasında sizi desteklemek için güvenlik araçlarımızı, test kaynaklarımızı ve rehberliğimizi genişletmeye kararlıdır.

Politikaları ihlal eden davranışlarla veya platform riskleriyle karşılaşırsanız bunları ekiplerimize bildirmenizi öneririz. Sorumlu bir şekilde uygulama geliştirdiğiniz için teşekkür ederiz. Google Play'de oluşturacağınız yeni içerikleri görmek için sabırsızlanıyoruz.