Bu kılavuz, üretken yapay zekayı (GenAI) kullanarak Android uygulamaları geliştiren geliştiriciler için önemli bilgiler sağlar. Üretken yapay zeka entegrasyonu, standart yazılım geliştirmenin ötesine geçen benzersiz zorluklar sunar.
Bu kılavuz, yeni ve gelişen yapay zeka risklerini yansıtacak şekilde sürekli olarak güncellenir. Bu içerik sayesinde, üretken yapay zeka özelliklerini uygulamalarınıza entegre etmeyle ilişkili önemli riskleri anlayabilir ve etkili azaltma stratejilerini keşfedebilirsiniz.
İstem enjeksiyonu
Saldırgan, modeli güvenlik ve emniyet politikalarını atlatmaya veya istenmeyen eylemler gerçekleştirmeye ikna etmek için kötü amaçlı girişler (istemler) oluşturur. Başarılı bir saldırı, modelin hassas verileri ortaya çıkarmasına, zararlı içerik oluşturmasına veya istenmeyen eylemler gerçekleştirmesine neden olarak kullanıcıların güvenini zedeleyebilir. İstem enjeksiyonu saldırılarını nasıl azaltacağınızı öğrenin.
Hassas bilgilerin ifşası
Üretken yapay zeka modelleri, hassas bilgilerin ifşa edilmesi konusunda önemli bir risk oluşturur. Bu modeller, hem LLM'yi hem de uygulama bağlamını etkileyen çok çeşitli verilerin sızmasına neden olabilir. Sızıntılar, model bu gizli verileri diğer kullanıcılara verdiğinde, hizmet olarak makine öğrenimi (MLaaS) sağlayıcıları istemleri güvenli olmayan bir şekilde depoladığında veya kötü niyetli kişiler sistemi kullanarak iç mantığı ortaya çıkardığında meydana gelebilir. Bu durumun sonuçları, fikri mülkiyet ihlalleri ve yasal cezalar (ör. GDPR, CCPA) ile kullanıcı güveninin tamamen kaybedilmesi ve sistemin tehlikeye atılması arasında değişen ciddi sonuçlar doğurur. Hassas bilgilerin ifşa edilmesi riskini nasıl azaltacağınızı öğrenin.
Aşırı ajans
LLM aracılarını işlem yapmak için işlevler veya araçlarla entegre etmek güvenlik risklerine yol açabilir. İşlev çağrısından yararlanan kötü amaçlı istemler, istenmeyen veri kaybına yol açabilir. Geliştiriciler, zararlı yapay zeka işlemlerini önlemek için koruma önlemleri (ör. kullanıcı izni, doğrulama, erişim kontrolleri) uygulamaktan sorumludur. Aşırı aracı riskini nasıl azaltacağınızı öğrenin.
Özet
Üretken yapay zeka sistemlerinin güvenliğini sağlamak için geleneksel siber güvenlik uygulamalarını genişleterek yapay zeka modellerinin (ör. geliştirme yaşam döngüsü) ve kullanıcılar ile sistemlerle etkileşimlerin getirdiği benzersiz zorlukları ele alan çok yönlü bir yaklaşım gerekir. Bu kapsamlı çalışma; proaktif testler, sürekli izleme, güçlü yönetişim ve gelişen yasal çerçevelere uyumu içerir. Bu ilkeleri uygulamaya koymanın harika bir yolu, riskleri daha iyi anlamak ve azaltmak için SAIF Risk Öz Değerlendirmesi gibi sektör araçlarını kullanmaktır.