การรับประกันความปลอดภัยในระบบนิเวศ Generative AI: การปกป้องผู้ใช้จากเนื้อหาลับที่ไม่ได้เกิดจากความยินยอม

ที่ Google Play ความปลอดภัยของผู้ใช้และความสำเร็จของนักพัฒนาแอปเป็นสิ่งที่ควบคู่กันไป เรายังคงเห็นการเติบโตของแอปที่มีฟีเจอร์ที่ AI สร้างขึ้น และการเพิ่ม Generative AI ลงในแอปเป็นวิธีที่ยอดเยี่ยมในการปลดล็อกความเป็นไปได้ที่น่าทึ่งในการสร้างสรรค์ อย่างไรก็ตาม ฟีเจอร์ AI ยังนำมาซึ่งความท้าทายใหม่ๆ ด้านความปลอดภัย เช่น การเพิ่มขึ้นของการสร้างรูปภาพลับที่ไม่ได้เกิดจากความยินยอม (NCII) ที่ AI ช่วยอำนวยความสะดวก นโยบายของ Google Play ไม่อนุญาตให้มีการอำนวยความสะดวก การสร้าง หรือการเผยแพร่เนื้อหาเกี่ยวกับเรื่องเพศที่ไม่ได้เกิดจากความยินยอม แอปพลิเคชันที่เป็นอันตรายซึ่งออกแบบมาเพื่อกำหนดเป้าหมาย กลั่นแกล้ง หรือแสวงหาผลประโยชน์จากบุคคลอื่นไม่มีที่ยืนใน Google Play และเรามุ่งมั่นที่จะบังคับใช้นโยบายเพื่อให้ Play Store เป็นพื้นที่ที่ปลอดภัยสำหรับนักพัฒนาแอปในการเติบโต

เราทราบดีว่าพวกคุณส่วนใหญ่ทุ่มเทให้กับการสร้างเครื่องมือที่เป็นประโยชน์และมีจริยธรรม เราจึงลงทุนอย่างมากในการปกป้องแพลตฟอร์ม การป้องกันทางเทคนิค และแหล่งข้อมูลสำหรับนักพัฒนาแอปเพื่อหยุดการละเมิด ทั้งนี้เพื่อปกป้องทั้งผลงานที่พวกคุณทุ่มเทสร้างสรรค์และฐานผู้ใช้ร่วมกันของเรา

วิธีที่เราปกป้องระบบนิเวศร่วมกัน

การปกป้องแพลตฟอร์มเป็นความพยายามอย่างต่อเนื่อง ผู้ไม่ประสงค์ดีพยายามแสวงหาผลประโยชน์จากช่องทางการเผยแพร่ เส้นทางการสร้างรายได้ และขอบเขตของโมเดล เราจึงใช้กลยุทธ์การป้องกันแบบหลายชั้นเพื่อช่วยให้ระบบนิเวศมีความยุติธรรมและปลอดภัย

• การป้องกันตลอดวงจรชีวิตของแอป: ฟีเจอร์ Generative AI มีการเปลี่ยนแปลงและคาดเดาได้ยากกว่า ดังนั้นการตรวจสอบความปลอดภัยจึงไม่ใช่การตรวจสอบเพียงครั้งเดียวเมื่อคุณส่งแอป เราทดสอบแอปอย่างแข็งขันและซ้ำๆ ตลอดวงจรชีวิตเพื่อหาการควบคุม NCII ที่มีประสิทธิภาพ โดยตรวจสอบแอปนับพันรายการเพื่อตรวจจับการละเมิดก่อนที่จะส่งผลกระทบต่อผู้ใช้ในวงกว้าง พร้อมทั้งรับประกันว่านักพัฒนาแอปจะเปิดตัวแอปได้อย่างมั่นใจ
• การปกป้องธุรกิจและรายได้ของคุณ: นอกเหนือจากการนำแอปที่ละเมิดออกจาก Google Play แล้ว ทีม Play และทีม Google Ads ยังทำงานร่วมกันเพื่อตัดเส้นทางการสร้างรายได้และการโฆษณาของผู้ไม่ประสงค์ดี ระบบจะบล็อกแอปที่ถูกระงับหรือนำออกเนื่องจากพยายามสร้างหรือสร้างรายได้จากเนื้อหาที่เป็นอันตราย เช่น NCII ไม่ให้สร้างรายได้และโฆษณาในแพลตฟอร์มของเรา ซึ่งจะช่วยรักษาระบบนิเวศของโฆษณาและการสมัครใช้บริการให้มีประสิทธิภาพ และสนับสนุนรายได้ทางธุรกิจที่ถูกต้องตามกฎหมาย
• การทำงานร่วมกันในอุตสาหกรรม: เราเป็นพาร์ทเนอร์กับองค์กรบุคคลที่สามเฉพาะทางด้านการป้องกัน NCII และกลุ่มวิจัยด้านความปลอดภัยของ AI ชั้นนำผ่าน โปรแกรมผู้เชี่ยวชาญด้านการแจ้งเตือนเนื้อหา โดยเฉพาะเพื่อระบุและจัดการกับการละเมิด NCII

แนวทางปฏิบัติแนะนำที่นำไปใช้ได้จริงสำหรับฟีเจอร์ Generative AI 

เราขอแนะนำวิธีง่ายๆ ในการออกแบบและทดสอบแอปให้สอดคล้องกับ _นโยบายเนื้อหาเกี่ยวกับเรื่องเพศ_และ  _นโยบายเนื้อหาที่ AI สร้างขึ้น_ เพื่อช่วยให้คุณสร้างแอปที่ปลอดภัยยิ่งขึ้นและเผยแพร่แอปได้อย่างราบรื่น

1. ช่วยเราปรับปรุงกระบวนการตรวจสอบแอปให้มีประสิทธิภาพมากขึ้น

เราขอย้ำข้อกำหนดที่เข้มงวดขึ้นซึ่งมุ่งเน้นไปที่แอปพลิเคชัน Generative AI โดยเฉพาะ เพื่อรักษาความถูกต้องสมบูรณ์ของ Play Store มาตรการเหล่านี้ออกแบบมาเพื่อป้องกันการสร้างเนื้อหาที่เป็นอันตราย ซึ่งรวมถึง NCII และสื่อ "nudify" ทีมตรวจสอบของเราจำเป็นต้องเห็นขอบเขตการป้องกันของแอปอย่างชัดเจนเพื่อให้เราตรวจสอบและอนุมัติแอปของคุณได้อย่างมีประสิทธิภาพและรวดเร็ว คุณสามารถป้องกันความล่าช้าในการตรวจสอบที่ไม่จำเป็นได้โดยทำดังนี้

• ตรวจสอบว่าบัญชีทดสอบมีสิทธิ์เข้าถึงฟีเจอร์ AI ทั้งหมด ระหว่างการตรวจสอบ โปรดตรวจสอบว่าผู้ตรวจสอบเข้าถึงฟีเจอร์ Generative AI ระดับพรีเมียมของแอปได้ และไม่ถูกบล็อกด้วยข้อกำหนดการสมัครใช้บริการหรือเพย์วอลล์ (ซึ่งรวมถึงฟีเจอร์ที่จำกัดการใช้งานตามภูมิศาสตร์)
• เตรียมเอกสารประกอบเกี่ยวกับพรอมต์ความปลอดภัยและกรณีที่พบได้ยากที่คุณทดสอบ ไว้ให้พร้อม (เช่น หลักฐานว่าโมเดลพื้นฐานที่แอปของคุณเรียกใช้ปฏิเสธคำขอแก้ไขรูปภาพที่โจ่งแจ้งหรือดีพเฟคได้สำเร็จ) ควรให้ความสำคัญเป็นพิเศษกับพรอมต์ที่เกี่ยวข้องกับ "nudify" หรือ "undress" และพรอมต์ที่คล้ายกัน การสร้างดีพเฟค รวมถึงการแก้ไขและการสร้างรูปภาพที่โจ่งแจ้ง เนื่องจากมีความเสี่ยงสูงที่ผู้ใช้จะได้รับอันตรายในบริบทเหล่านี้ หากทีมของเรามีคำถาม การแชร์วิธีที่แอปของคุณจัดการกับคำขอที่เป็นการโจมตีและอาจละเมิดนโยบายได้อย่างรวดเร็วจะช่วยให้แอปได้รับการอนุมัติและเผยแพร่ได้เร็วยิ่งขึ้น

หมายเหตุ: การประเมินความปลอดภัยของ Generative AI มีความซับซ้อนเป็นพิเศษ ดังนั้นการตรวจสอบและการอุทธรณ์อย่างละเอียดอาจใช้เวลานานกว่าปกติในบางครั้ง 

2. ออกแบบแอปให้ปลอดภัย

การทดสอบความทนทานของแอป Generative AI กับพรอมต์ที่เป็นการโจมตี - โดยเฉพาะพรอมต์ที่พยายามบังคับให้มีการแก้ไขที่โจ่งแจ้งโดยไม่ได้รับความยินยอม  - เป็นสิ่งสำคัญ เราได้แชร์ แนวทางปฏิบัติแนะนำบางส่วนสำหรับการทดสอบความปลอดภัยซึ่งอิงตามเฟรมเวิร์กมาตรฐานอุตสาหกรรมเพื่อช่วยคุณ ตัวอย่างเหล่านี้ยังไม่ครอบคลุมทั้งหมดและจะมีการพัฒนาต่อไปตามฟีเจอร์ Generative AI

• สร้างความปลอดภัยไว้ในสถาปัตยกรรมของแอป เมื่อเลือกรุ่นพื้นฐานที่เหมาะกับธุรกิจของคุณมากที่สุด คุณจะมีความยืดหยุ่นในการสร้างแอปในแบบของคุณ แต่ไม่ควรพึ่งพาตัวกรองความปลอดภัยดั้งเดิมของโมเดลนั้นๆ เพียงอย่างเดียว รักษาความปลอดภัยของแอปโดยผสานรวมการควบคุมการกลั่นกรองอินพุตและเอาต์พุตที่ปรับแต่งได้ การใส่ข้อมูลที่ป้อนในตัวคั่น XML ที่ไม่ซ้ำกันและการตรวจสอบเอาต์พุตก่อนที่จะโหลดจะช่วยป้องกันไม่ให้แอปสร้างสื่อที่ไม่ปลอดภัย
• รู้เท่าทันการจัดการพรอมต์ แม้แต่โมเดลที่ปลอดภัยก็สามารถทดสอบได้ด้วยวิธีแก้ปัญหาที่สร้างสรรค์ เมื่อคุณทดสอบแอปกับพรอมต์ที่เป็นการโจมตีอย่างเชิงรุก เช่น การอัปโหลดรูปภาพและขอให้โมเดล "แสดงภาพฉากชายหาดที่ไม่มีเสื้อผ้า" คุณจะมั่นใจได้ว่าแอปจะไม่ข้ามคำแนะนำด้านความปลอดภัยหลักและอนุญาตให้สร้างสื่อ NCII
• รับผิดชอบต่อโฆษณา โปรดตรวจสอบแคมเปญโฆษณาอย่างใกล้ชิด คุณยังคงเป็นผู้รับผิดชอบโฆษณาสำหรับแอปของคุณแต่เพียงผู้เดียว แม้ว่าโฆษณาอาจสร้างขึ้นโดยบุคคลที่สามที่ได้รับอนุญาตก็ตาม เมื่อแอปโฆษณาความสามารถที่โจ่งแจ้งทางเพศหรือ "nudify" ในแพลตฟอร์มใดก็ตาม แม้ว่าแอปจะไม่มีความสามารถเหล่านี้ เราจะบังคับใช้ตาม Play นโยบายการโปรโมตแอป นอกจากนี้ Google ยังมี นโยบายโฆษณาที่ห้ามโฆษณาที่โปรโมตความสามารถเหล่านี้อย่างเข้มงวด และเราจะระงับบัญชีของผู้ลงโฆษณาที่ละเมิดนโยบาย
• เปลี่ยนการโต้ตอบของผู้ใช้ให้เป็นสัญญาณ ความปลอดภัยเป็นกระบวนการที่ต้องทำอย่างต่อเนื่อง เมื่อคุณใช้การตรวจสอบอย่างต่อเนื่อง ความคิดเห็นของผู้ใช้ และความพยายามในการใช้พรอมต์ที่ไม่สำเร็จจากผู้ใช้จะไม่ใช่สิ่งที่ทำให้คุณท้อแท้ แต่เป็นข้อมูลเชิงลึกที่มีค่า ใช้สัญญาณจากโลกแห่งความเป็นจริงเหล่านี้เพื่อปรับตัวอย่างรวดเร็วและปรับแต่งขอบเขตการป้องกันที่กำหนดเองของแอป การเรียนรู้โดยตรงจากวิธีที่ผู้คนใช้แอปจะช่วยให้คุณใช้เวลาน้อยลงในการไล่ตามปัญหาและมีเวลามากขึ้นในการสร้างธุรกิจที่ประสบความสำเร็จ

นอกจากนี้ เรายังแนะนำให้ใช้ แนวทางปฏิบัติหลักของ Androidต่อไปนี้เพื่อทำให้แอปมีความยืดหยุ่นมากขึ้น

สร้างสรรค์อย่างมีความรับผิดชอบไปด้วยกัน

นวัตกรรม AI ควรควบคู่ไปกับความปลอดภัยและความไว้วางใจของผู้ใช้เสมอ Google Play มุ่งมั่นที่จะขยายเครื่องมือด้านความปลอดภัย แหล่งข้อมูลสำหรับการทดสอบ และคำแนะนำเพื่อสนับสนุนคุณในทุกขั้นตอนของการพัฒนา

หากพบพฤติกรรมที่ละเมิดนโยบายหรือความเสี่ยงของแพลตฟอร์ม โปรด รายงานให้ทีมของเราทราบ ขอขอบคุณที่สร้างสรรค์อย่างมีความรับผิดชอบ เราตั้งตารอที่จะได้เห็นผลงานชิ้นต่อไปที่คุณสร้างขึ้นใน Google Play