Yapay Zeka Modelleri Zehirleniyor!

Yapay Zeka Zehirleme Nedir?

Yapay zeka zehirleme, bir modele bilerek yanlış bilgi öğretilmesi anlamına gelir. Hedef, modelin davranışını değiştirerek hatalı sonuçlar üretmesini sağlamak veya gizli kötü niyetli komutlar eklemektir.

Arka Kapı Saldırıları

Örneğin, saldırganlar eğitim verisine fark edilmeyecek şekilde özel bir tetikleyici kelime ekleyebilir. Model bu kelimeyi gördüğünde istenilen yönde cevaplar vermeye başlar. Bu yönteme “arka kapı” saldırısı denir.

Misinformasyon ve Siber Tehditler

Bazı saldırılar, modelin genel performansını düşürmeyi amaçlar. Saldırganlar, yanlış bilgileri binlerce sahte siteye yayarak modelin yanlış bilgiyi doğru olarak öğrenmesini sağlayabilir. Bu saldırıya “konu yönlendirme” denir.

Sanatçıların Ters Hamlesi

Bazı sanatçılar ise yapay zeka modellerinin izinsiz içerik toplamasını engellemek için kendi eserlerine “zehir” yerleştiriyor. Bu sayede model, bozuk veya işe yaramaz sonuçlar üretir.

Uzmanların Uyarısı

Uzmanlara göre yapay zeka modellerinin zehirlenmesi, bu teknolojinin sağlamlığının sorgulanmasını sağlar. “Zehirli” modeller, gelecekte yanlış bilgi yayılması ve siber güvenlik açıkları açısından ciddi tehditler oluşturabilir.