Yapay Zeka Modelleri Zehirleniyor!
Yapay Zeka Zehirleme Nedir?
Yapay zeka zehirleme, bir modele bilerek yanlış bilgi öğretilmesi anlamına gelir. Hedef, modelin davranışını değiştirerek hatalı sonuçlar üretmesini sağlamak veya gizli kötü niyetli komutlar eklemektir.
Arka Kapı Saldırıları
Örneğin, saldırganlar eğitim verisine fark edilmeyecek şekilde özel bir tetikleyici kelime ekleyebilir. Model bu kelimeyi gördüğünde istenilen yönde cevaplar vermeye başlar. Bu yönteme “arka kapı” saldırısı denir.
Misinformasyon ve Siber Tehditler
Bazı saldırılar, modelin genel performansını düşürmeyi amaçlar. Saldırganlar, yanlış bilgileri binlerce sahte siteye yayarak modelin yanlış bilgiyi doğru olarak öğrenmesini sağlayabilir. Bu saldırıya “konu yönlendirme” denir.
Sanatçıların Ters Hamlesi
Bazı sanatçılar ise yapay zeka modellerinin izinsiz içerik toplamasını engellemek için kendi eserlerine “zehir” yerleştiriyor. Bu sayede model, bozuk veya işe yaramaz sonuçlar üretir.
Uzmanların Uyarısı
Uzmanlara göre yapay zeka modellerinin zehirlenmesi, bu teknolojinin sağlamlığının sorgulanmasını sağlar. “Zehirli” modeller, gelecekte yanlış bilgi yayılması ve siber güvenlik açıkları açısından ciddi tehditler oluşturabilir.
