確保生成式 AI 生態系統安全：保護使用者免於未經同意的私密內容

Google Play 致力於維護使用者安全，同時協助開發人員締造佳績。我們發現，具備 AI 生成功能的應用程式持續增加。在應用程式中加入生成式 AI，確實是發揮創意潛力的絕佳方式。不過，AI 功能也帶來新的安全挑戰，例如 AI 輔助生成未經當事人同意的私密影像 (NCII) 的情況日益增加。Google Play 政策禁止協助製作或散布未經當事人同意的色情內容。Google Play 絕不允許有害應用程式針對、騷擾或剝削個人，我們致力於落實政策，確保 Google 商店是開發人員蓬勃發展的安全空間。

我們知道，絕大多數開發人員都致力於打造正面、合乎道德的工具。為保護您的心血結晶和我們共同的使用者族群，我們投入大量資源，強化平台防護機制、技術防禦措施和開發人員資源，全力防範濫用行為。

我們如何保護共同的生態系統

保護平台需要持續努力。惡意行為人會試圖利用發布管道、營利途徑和模型界線。為維護生態系統的公平與安全，我們採取多層防禦策略：

• 在應用程式生命週期中實施安全防護措施：生成式 AI 功能具有動態特性，較難預測，因此安全防護不只是在提交應用程式時進行一次性檢查。我們會在應用程式生命週期中主動反覆測試，確保 NCII 控制措施完善，並審查數千個應用程式，在濫用行為大規模影響使用者前加以攔截，同時確保開發人員能安心推出應用程式。
• 保護您的業務和收益：除了從 Google Play 移除違規應用程式，Play 和 Google Ads 團隊也會合作，切斷不肖業者的營利和廣告管道。如果應用程式試圖產生或透過有害內容 (例如 NCII) 營利，就會遭到停權或移除，且無法在我們的平台上營利或放送廣告。這有助於維護廣告和訂閱生態系統的健全，並保障合法商家的收益。
• 產業合作：我們透過優先檢舉計畫，與專門防範 NCII 的第三方機構和頂尖 AI 安全研究團隊合作，找出並處理 NCII 濫用行為。

生成式 AI 功能的實用最佳做法 

為協助您建構更安全的應用程式，並享有更順暢的發布體驗，我們提供幾種簡單的方法，讓您設計及測試應用程式時，能符合「色情內容政策」和「 AI 生成內容政策」規定。

1. 協助我們簡化應用程式審查程序

為維護 Play 商店的完整性，我們將重申針對生成式 AI 應用程式的強化規定。這些措施旨在防止生成有害內容，包括未經當事人同意的私密影像和「裸露」媒體。審查團隊需要清楚瞭解應用程式的防護措施，才能有效率地審查及核准應用程式。為避免不必要的審查延遲，請採取下列措施：

• 確保測試帳戶在審查期間可完整存取所有 AI 功能。請確保審查人員可以存取應用程式的進階生成式 AI 功能，且不會因訂閱需求或付費牆而遭到封鎖 (包括設有地理圍欄的功能)。
• 隨時備妥您測試過的安全提示和極端案例文件 (例如證明應用程式呼叫的基礎模型，能成功拒絕編輯煽情露骨圖片或深偽內容的要求)。請特別注意「裸照」或「脫衣」相關和類似提示、深偽生成，以及色情圖像編輯和生成，因為在這些情況下，使用者受害的風險較高。如果我們的團隊有疑問，您能快速說明應用程式如何處理對抗性及可能違規的要求，有助於加快應用程式通過審查並發布。

注意：生成式 AI 安全性評估作業相當複雜，因此有時需要較長時間才能完成全面審查和申訴程序。 

2. 為安全設計應用程式

請務必對生成式 AI 應用程式進行壓力測試，防範對抗性提示詞，尤其是試圖強制進行未經同意的煽情露骨編輯 。我們分享了幾項安全測試最佳做法，這些做法採用業界標準架構，可協助您這些範例僅供參考，隨著生成式 AI 功能不斷發展，範例也會持續更新：

• 在架構中內建安全防護機制。您可以選擇最適合貴公司的基礎模型，靈活建構所需內容。但請勿完全依賴該模型的原生安全篩選器。整合自訂的輸入和輸出內容審核控制項，確保應用程式安全。只要將輸入內容包裝在專屬的 XML 分隔符中，並在載入前驗證輸出內容，即可防止應用程式建立不安全的媒體。
• 預先防範提示操控：即使是安全模型，也可能透過創意變通方法進行測試。主動測試應用程式是否會受到對抗性提示詞影響，例如上傳圖片並要求模型「顯示衣服消失的海灘場景」，確保應用程式不會略過核心安全指示，並允許建立未經當事人同意的私密影像。
• 對廣告負起責任。請密切監控廣告活動，即使廣告是由授權第三方製作，您仍須對應用程式廣告負最終責任。如果應用程式在任何平台宣傳情色露骨或「裸照生成」功能，即使應用程式不具備這些功能，我們仍會依據 Google Play 應用程式宣傳政策採取處置。為提供多一層保障，Google 的廣告政策嚴禁宣傳這類功能的廣告，並會將違規廣告主的帳戶停權。
• 將使用者互動轉換為信號。安全防護需要持續維護。實作持續監控機制後，使用者意見回饋和失敗的提示嘗試就不再是阻礙，而是寶貴的洞察資訊。運用這些實際信號快速調整及微調應用程式的自訂防護措施。直接瞭解使用者如何使用應用程式，就能減少解決問題的時間，將更多心力投入在打造蓬勃發展的業務。

此外，為提升應用程式的彈性，建議您也導入這些 Android 核心做法。

攜手以負責任的方式建構

AI 創新應與安全和使用者信任並行。Google Play 致力於擴充安全工具、測試資源和指南，在開發的各個階段提供支援。

如果發現違反政策的行為或平台風險，請向我們的團隊檢舉。感謝您負責任地開發應用程式，期待您在 Google Play 推出更多精彩作品。