Yapay zekânın karanlık yüzü: Deepfake tacizleri

Finansingundemi.com – Dış Haberler Servisi

Günümüzde akıllı telefonu olan herkesin dijital ortamda deepfake içerikleri üretmesi internette yayınlaması artık son derece basit bir hâl aldı. Ancak Wall Street Journal tarafından hazırlanan bir habere göre, "müstehcen deepfake" olarak adlandırılan sahte görüntüler gençler arasında yeni bir zorbalık ve taciz dalgası başlattı.

Yapay zekâ destekli müstehcen içerik üretme araçları hızla çoğalırken, yasal düzenlemelerin yetersiz kalması ebeveynleri ve okulları çaresiz bırakıyor.

Hedef artık sadece ünlüler değil

2015 yılı civarında ortaya çıkan deepfake teknolojisi, önceleri yüzlerce fotoğraf gerektirdiği için sadece ünlüleri hedef alıyordu. Ancak günümüzde tek bir fotoğraf karesi, yapay zekânın bir kişinin kıyafetlerini sanal olarak çıkarması için yeterli oluyor.

WSJ haberine göre, California Üniversitesi'nden Dijital Adli Bilişim Profesörü Hany Farid bu durumu, "Tehdidin hedefi artık Taylor Swift gibi ünlü isimlerden, internette tek bir görüntüsü olan herkese yöneldi," sözleriyle özetliyor.

Farid'e göre bu durum, sosyal medya kullanan her gencin potansiyel bir kurban olduğu anlamına geliyor.

Gençler arasında kullanım oranı korkutucu boyutta

Uygulama mağazalarında rahatça erişilebilen bu araçlar, gençler arasında hızla yayılıyor.

George Mason Üniversitesi tarafından yapılan bir ankete göre, gençlerin yarısından fazlası bu araçları kullanarak en az bir görüntü oluşturduklarını itiraf etti. Araştırmayı yürüten Chad M.S. Steel, yapay zekâlı araçları kullanan gençlerin oranının beklediklerinden çok daha yüksek olduğunu ifade ediyor.

Öte yandan The Tech Transparency Project, ocak ayında uygulama mağazalarında 100'den fazla müstehcen içerik üretme uygulaması tespit etti. Bu uygulamaların 700 milyondan fazla indirilerek milyonlarca dolar gelir elde ettiği belirtiliyor.

Kurbanlar için telafisi zor yıkımlar

Deepfake tacizine uğrayan mağdurlar, eğitim ve sosyal hayatlarında derin yaralar alıyor. Kimi öğrenciler okullarını değiştirmek veya uzaktan eğitime geçmek zorunda kalıyor. Üretilen içeriklerin yaşattığı kâbustan yetişkinler bile kaçamıyor.

WSJ haberinde, Indianapolis'te öğrencileri tarafından deepfake görüntüleri oluşturulan öğretmen Angela Tipton, yaşadığı baskılar nedeniyle başka bir şehre taşınıp ismini değiştirmeye hazırlanıyor.

Durum bazen çok daha trajik boyutlara ulaşabiliyor.

Deepfake üzerinden yaratılan çıplak görüntülerle şantaja uğrayan gençlerin intihara sürüklendiği vakalar yürek burkacak cinsten.

Hukuki boşluklar ve platformların sorumluluğu

Amerika Birleşik Devletleri ve Avrupa Birliği bu uygulamaları kısıtlamak veya tamamen yasaklamak için adımlar atsa da uzmanlar yasaların uygulanmasında ciddi sorunlar yaşandığını belirtiyor.

Avukat Carrie Goldberg, vakaların hâlâ yeterince bildirilmediğini ve soruşturulmadığını vurguluyor. Özellikle X platformuna ait Grok gibi sohbet robotlarının, kısa sürede milyonlarca cinselleştirilmiş görüntü üretebilmesi tartışmaları alevlendirdi.

Grok'a karşı açılan davanın baş avukatı Annika Martin, bu teknolojinin erişilebilirliğini tehlikeli bir silaha benzeterek, "Eskiden sınıf arkadaşının yıllıktaki resmine kalemle çizim yapan çocuğun elinde artık bir bazuka var," uyarısında bulunuyor.

Sadece var olmak bile risk oluşturuyor

Tehlike sadece fotoğraflarla da sınırlı kalmıyor. Sadece 10 saniyelik ses kayıtlarıyla oluşturulan yapay zekâ botları, kişilerin seslerini rızası dışında cinsel fantezi araçlarına dönüştürülebiliyor.

Uzmanlar, çevrimdışı kalmanın veya internetten uzak durmanın bile tam bir koruma sağlamadığına dikkat çekiyor. Komşularının gizlice çekilen fotoğraflarından bile deepfake üreten kişilerin varlığı, durumun vahametini gözler önüne seriyor.

Çocuk güvenliği grubu Heat Initiative'in Yöneticisi Sarah Gardener'ın sözleri ise tablonun ciddiyetini özetliyor: "Dünyada var olmak bile sizi bu suçlar için risk altına sokuyor."

Barclays uyardı: Yapay zekânın en büyük etkisi sigortaya olacak

"Bilge" sahnede: Türkiye’nin yerli yapay zekası tanıtıldı

ABD'nin isteği üzerine yeni yapay zekâ modelini askıya aldı