Yapay Zekanın Manipülasyon Potansiyeli: Deepfake ve Sahte İçerikler

Rusya-Ukrayna Savaşı’nda Deepfake Tehlikesi

Yapay zeka tehdit tespit platformu Sensity AI’nın araştırmasına göre, Ukraynalı siyasetçi ve askerler, Rusya-Ukrayna Savaşı’nda deepfake videolarla hedef alınıyor. Videolar, kişileri “teslim olmaya çağıran” ya da “savaş suçu işlediğini itiraf eden” şeklinde gösteriyor.

Çin’in Seçim Manipülasyonu

Tayvan’da seçim dönemlerinde, politikacıların sahte konuşmaları ve uydurma skandalları, Çin kaynaklı yapay zeka içerikleriyle sosyal medyada yayılarak karşıt görüşlü adayları hedef alıyor.

Japonya’da Doğal Afet Kurguları

Japonya’da ise yapay zekayla üretilmiş sahte doğal afet görüntüleri, nükleer kaza veya sel felaketi gibi kurgularla halkı panik içinde bırakmak için kullanılıyor.

Yapay Zekanın Yeni Nesil Silahlar Olarak Kullanılması

Sensity AI’nin kurucu ortağı Francesco Cavalli, yapay zekayla üretilen içeriklerin etki ve tehlikelerine dikkat çekiyor. Cavalli’ye göre, yapay zeka araçları geliştikçe gerçek ile sahte arasındaki farkı anlamak zorlaşıyor.

Manipülasyonun Yeni Yüzü: Deepfake Sesler

Yapay zekayla taklit edilen seslerin, en büyük tehlike yaratan unsurlardan biri olduğu belirtiliyor. Sesleri taklit eden dolandırıcılar, siyasileri kandırmak için yapılan sahte hesaplar açarak gerçek dışı bilgiler yayabiliyor.

Proaktif Denetim ve İşbirliği Gerekliliği

Teknoloji şirketleri ve platformlara, yapay zeka tabanlı görsel manipülasyonla mücadele çağrısı yapılıyor. Cavalli, yapay zeka destekli propaganda ve manipülasyonun, küresel çatışmalarda aktif olarak kullanılan bir silah haline geldiğini belirtiyor.

Gelecekte ‘Görmek İnanmak Değil’ Olacak

Sensity’nin geliştirdiği sistemler, yapay zeka ile üretilen içerikleri tespit edebilmek için dört aşamalı bir analiz sürecinden geçiyor. Bu analizlerin raporları, resmi soruşturmalarda ve mahkemelerde kanıt olarak kullanılabiliyor. Cavalli, görsel medyaya güvenin azaldığına dikkat çekerek, insanların yapay zeka manipülasyonu konusunda eğitilmesi gerektiğini vurguluyor.