Yapay zekâ teknolojilerinin giderek daha geniş bir kitleye ulaşması, bu teknolojinin istismara ne kadar açık olduğunu da daha belirgin hâle getirdi. Özellikle yapay zekâ yardımıyla gerçek kişilerin sahte görüntülerini oluşturan “deepfake” teknolojierli, bugün hem dezenformasyon açısından hem de kişisel mahremiyetin ihlali açısından büyük bir soruna dönüşmüş durumda. Üstelik bu istismardan çocuklar da nasibini alıyor.
UNICEF (Birleşmiş Milletler Çocuklara Yardım Fonu), son bir yıl içinde en az 1,2 milyon çocuğun görüntülerinin cinsel içerikli deepfake materyaller üretmek için manipüle edildiğini açıkladı. Internet Watch Foundation’ın verileri de bu açıklamayı destekliyor. IWF, yapay zekâ üretimi çocuk istismarı videolarında bir yıl içinde yüzde 26 binin üzerinde artış tespit edildiğini bildiriyor.
Bazı Ülkelerde Artık Her 25 Çocuktan Biri Bu Sorunu Yaşıyor
UNICEF’in çocukların cinsel sömürüsüne karşı çalışan küresel ECPAT ağı ve INTERPOL ile birlikte yürüttüğü araştırmaya göre, 11 ülkede yapılan anketlerde 1.2 milyondan fazla çocuk görüntülerinin izinsiz biçimde yapay zekâ araçlarıyla değiştirilerek cinsel içerikli materyallere dönüştürüldüğünü beyan etti. Bazı ülkelerde mağduriyet oranının 25 çocuktan birine kadar çıktığı belirtiliyor ki bu da ortalama bir sınıfta en az bir çocuğun bu tür bir istismara maruz kalmış olabileceği anlamına geliyor.
UNICEF’in özellikle dikkat çektiği noktalardan biri ise “nudification” olarak adlandırılan uygulamalar. Bu tür araçlar, mevcut bir fotoğraf üzerinde yapay zekâ kullanarak kıyafetleri dijital olarak kaldırıyor ya da değiştiriyor ve gerçekte var olmayan çıplak veya cinselleştirilmiş görüntüler üretiyor. Kurumun vurguladığı gibi, görüntü yapay olsa bile kullanılan yüz, beden ya da kimlik gerçek bir çocuğa ait olduğunda, ortaya çıkan zarar da son derece gerçek oluyor. “Deepfake istismarı istismardır; verdiği zararda hiçbir şey sahte değildir” ifadesi, açıklamanın en çarpıcı bölümlerinden biri olarak öne çıkıyor.
Deepfake Tehlikesi Çocuklar Üzerinde Psikolojik Baskı Yaratıyor
Araştırma verileri, çocukların da bu tehdidin farkında olduğunu gösteriyor. Bazı ülkelerde ankete katılan çocukların üçte ikisine yakını, deepfake ile kendileri hakkında sahte görüntü ya da video üretileceğinden endişe duyduğunu dile getiriyor. Bu durum, yalnızca fiili mağduriyetlerin değil, potansiyel istismar korkusunun da çocuklar üzerinde psikolojik bir baskı yarattığını ortaya koyuyor.
UNICEF, artan tehdide karşı hükümetlere net bir yol haritası sunuyor. Mevcut çocuk cinsel istismarı materyali (CSAM) tanımlarının, yapay zekâ tarafından üretilen içerikleri de kapsayacak şekilde genişletilmesi gerektiği belirtiliyor. Yalnızca dağıtımın değil; üretim, edinim ve bulundurmanın da açık biçimde suç sayılması isteniyor. Ayrıca yapay zekâ geliştiricilerine “safety-by-design” yaklaşımını benimsemeleri, yani sistemleri en baştan güvenlik öncelikli şekilde tasarlamaları çağrısı yapılıyor. Dijital platformların da bu tür içerikleri sonradan kaldırmak yerine, dolaşıma girmesini baştan engelleyecek önlemler alması gerektiği ifade ediliyor.
Bazı ülkeler bu konuda adım atmaya başlamış durumda. Örneğin Birleşik Krallık, yapay zekâ kullanarak çocuk cinsel istismarı materyali üretmeye yarayan araçların bulundurulmasını, oluşturulmasını ya da dağıtılmasını suç kapsamına alan ilk ülkelerden biri oldu. Bu suçları işleyenler için beş yıla kadar hapis cezası öngörülüyor. Ancak UNICEF’in de dikkat çektiği üzere, bu toplumsal krizle başa çıkmak için çok daha sistematik bir yaklaşım gerekiyor ki bu konuda da en büyük görev teknoloji şirketlerine düşüyor.
Kaynak : https://www.donanimhaber.com/unicef-1-2-milyon-cocugun-mustehcen-deepfake-leri-olusturuldu–201702
