Yapay zeka ve İslamofobi: Hindistan’daki dijital nefretin yeni yüzü

Yeni bir rapor, Hindistan’da yapay zeka (YZ) destekli görsellerin İslamofobik içerikler üretmek amacıyla kullanımının arttığını belgeliyor. Bu rapor, "Organize Nefret Çalışmaları Merkezi" (CSOH) tarafından yayınlandı ve yapay zeka araçlarının, dezenformasyon yaymak ve Müslümanlara karşı şiddet kışkırtmak için nasıl kullanıldığını inceliyor.

Yapay zeka ile metinden görsele dönüştürme teknolojisinin gelişimi, dünya genelinde zorluklar yaratırken, kötü niyetli kişiler, özellikle azınlık gruplarını hedef alarak nefret söylemleri yaymak amacıyla bu araçları kullanıyor.

Çeşitli yapay zeka araçlarının kullanımı ve sonrasında üretilen YZ görselleri hızla arttı, ancak bu görsellerin çevrimiçi tartışmaları şekillendirmedeki rolü henüz tam olarak incelenmedi. Hindistan'da sosyal medyanın bölücü rolü son dönemde dikkat çekse de, yapay zeka ile üretilen görsellerin etkisi üzerine henüz bir analiz yapılmamıştı.

Raporun eş araştırmacılarından Nabiya Khan, Hindistan’daki sosyal medyada artan İslamofobik içerikleri, "YZ’nin yükselişinin bir semptomu ve aynı zamanda bu risklerin bir amplifikatörü" olarak tanımlıyor. Khan, "Bu araçlar eski önyargıları daha hızlı, daha ucuz ve daha zor takip edilebilir hale getirdi. Bu yüzden bunları belgelemeye karar verdik" dedi.

Rapor, son on yılda Hindistan’da artan Müslüman karşıtı duyguların medyada ve siyasi söylemlerde nasıl büyüdüğünü vurguluyor. Bu duygular, Müslümanlara yönelik şiddeti, halk linçlerini, yargısız infazları ve Müslümanlara ait mülklerin ve ibadet yerlerinin yıkılmasını normalleştiren ciddi sonuçlara yol açtı.

Rapor, bu araçların yaygın şekilde kullanılmasının Hindistan’ın dini azınlıkları için "ciddi sonuçlara yol açabileceğini" belirtiyor.

Raporun bir diğer bulgusu, YZ içeriklerinin "Hindistan’ın bilgi alanını daha da kolonize etme tehdidi oluşturduğunu" ve bu alanda zaten yaygın olan yanlış bilgi, azınlık karşıtı önyargılar ve güven krizinin derinleştiğini ortaya koyuyor.

Nabiya Khan, "Bizi en çok etkileyen şey, bu yeni 'YZ yapımı' görsellerin nasıl birdenbire yayıldığıydı. Şiddet eğilimli Müslüman erkekleri ya da cinsel obje haline getirilen Müslüman kadınları tasvir eden hiperrealistik fotoğraflar, haber fotoğrafları gibi gerçeğe yakın görünüyordu" şeklinde belirtti.

Raporda, 1.326 adet halka açık YZ yapımı görsel analiz edildi. Bu görseller, X (eski Twitter), Facebook ve Instagram gibi sosyal medya hesaplarından alındı. Bu hesaplar, nefret içerikleri paylaşma geçmişine sahip ve paylaşımlarında yüksek etkileşim almış hesaplar olarak belirlendi.

Raporda, toplamda 27.3 milyon etkileşim aldığı belirtilen bu paylaşımlar, nefret içeriklerinin hızla yayıldığını gözler önüne seriyor. Instagram’ın en yüksek etkileşimi aldığı, platformda ise denetim mekanizmalarının yetersiz olduğu vurgulandı.

Raporun araştırma sürecinde bulunan bir diğer önemli bulgu ise, "YZ’nin yeni bir nefret yaratmadığı, mevcut nefreti otomatikleştirdiği" oldu. Hindistan’daki anti-Müslüman nefreti, Müslümanları şiddetli, predatör ve ahlaksız olarak tasvir eden eski temellere dayanıyor. YZ ile üretilen görseller bu önyargıyı pekiştiriyor.

İncelenen paylaşımlar, Müslümanların şiddet suçlusu olarak gösterilmesi için olayların sektörel bir açıdan kurgulandığını ve bunların gerçeğe dayanmayan şekilde abartıldığını ortaya koyuyor. Örneğin, Jalgaon tren trajedisi, "Demir Yolu Cihadı" olarak yeniden paketlendi ve YZ görselleriyle desteklendi.

Raporda, "YZ içerikleri, özellikle cinsel olarak tasvir edilen Müslüman kadınların görsellerinin ciddi bir etkileşim aldığını" vurgulayan Khan, İslamofobi ve kadın düşmanlığının birbirini beslediğini ifade etti.

Araştırma, 2024’te AI araçlarının daha fazla sağcı Hindu milliyetçileri tarafından kullanıldığını ve bu araçların aşırı sağcı medya platformlarında yayıldığını gözler önüne seriyor.

Raporda, bu tür içeriklerin üretilmesinin önüne geçilmesi için, sosyal medya platformlarının yapay zeka farkındalığına sahip denetim sistemlerine yatırım yapması gerektiği ve kuralların tutarlı bir şekilde uygulanması gerektiği öneriliyor. Ayrıca kamuoyunun, bu görselleri eleştirel bir bakış açısıyla değerlendirmeyi öğrenmesi gerektiği vurgulanıyor.