Yapay zeka destekli görsel ve video üretim araçları ilk ortaya çıktığında, sahte içerikleri ayırt etmek görece daha kolaydı. Bozuk yüz oranları, hatalı dudak senkronizasyonu, yapay gölgeler ya da bulanık detaylar, bir içeriğin deepfake olduğunu ele veren bariz ipuçları sunuyordu. Ancak üretken yapay zekalar bugün artık bu ayırt edici kusurların neredeyse tamamından kurtulmuş durumda. Bu da deepfake teknolojilerini çok daha büyük bir tehdit hâlinegetiriyor. Güvenlik uzmanları, pek çok insanın artık deepfake içerikleri tespit edemediği konusunda uyarıyor.
Uzmanlara göre deepfake’ler artık insan gözüyle ayırt edilemeyecek kritik bir eşiği aşmak üzere. Güvenlik uzmanı Perry Carpenter’a göre, artık bireylerin odaklanması gereken şey teknik detaylar değil, içeriklerin tetiklediği duygusal tepkiler. Carpenter, özellikle korku, panik, aciliyet ya da otorite hissi uyandıran içeriklerin bir uyarı sinyali olarak görülmesi gerektiğini söylüyor. Ona göre yapılabilecek en etkili şey, bu duygular devreye girdiğinde bilinçli olarak yavaşlamak ve içeriği sorgulamaya başlamak.
Deepfake teknolojisinin yaygınlaşması, kadınlara ve çocuklara yönelik dijital istismar vakalarında da artışa sebep olmuş durumda. Internet Watch Foundation’ın paylaştığı rakamlara göre, yapay zeka ile üretilmiş çocuk istismarı içeriklerine dair raporlar yalnızca bir yıl içinde iki kattan fazla arttı. Güvenlik uzmanları, “çıplaklaştırma” uygulamalarının giderek yaygınlaşmasına da dikkat çekiyor.
Araştırmalar, deepfake tehdidinin bireysel vakaların çok ötesine geçtiğini de ortaya koyuyor. Kurumlara yönelik saldırılar ve manipülasyon operasyonları da giderek artıyor. Üstelik bu teknolojilere ulaşım da giderek kolaylaşıyor. Dolandırıcılar bugün, sentetik yüzlerden sahte seslere, dijital geçmişlerden sosyal medya profillerine kadar her şeyi içeren hazır “persona paketleri”ni satın alabiliyor. Bu da biyometrik koruma yöntemlerini de zorluyor. Entrust’un 2026 Kimlik Dolandırıcılığı Raporu’na göre deepfake saldırıları, artık her beş biyometrik dolandırıcılık girişiminden birinde rol oynuyor.
Birleşik Krallık, Saldırgan Deepfake İçeriklerinin Önüne Geçmek İçin Yasa Çıkarıyor
Bu tablo karşısında teknoloji şirketleri de savunma mekanizmalarını hızlandırmış durumda. Google, 18 Aralık’ta SynthID adlı deepfake tespit aracını doğrudan Gemini uygulamasına entegre etti. Bu özellikle birlikte kullanıcılar, yükledikleri bir görselin ya da videonun Google’ın yapay zeka sistemleri tarafından üretilip üretilmediğini ya da sonradan değiştirilip değiştirilmediğini kontrol edebiliyor. 2023’te kullanıma sunulan SynthID’nin bugüne kadar 20 milyardan fazla yapay zeka içeriğini görünmez filigranlarla işaretlemiş olması, şirketin bu alana ne kadar erken odaklandığını da gösteriyor. Ancak Google’ın attığı bu adım, sektör genelinde artan şeffaflık baskısının yalnızca bir parçası.
Bu tehdit karşısında artık hükûmtler de yavaş yavaş devreye giriyor. Nitekim son dönemde bu yönde de adımlar atıldığını görmeye başladık. Birleşik Krallık, geçtiğimiz günlerde, “çıplaklaştırma” uygulamalarını geliştiren ve kullanan kişilere karşı cezai yaptırımlar getiren yeni bir yasa hazırladığını duyurdu. Teknoloji Bakanı Liz Kendall, bu tür araçların açıkça bir istismar ve aşağılama aracı hâline geldiğini vurgulayarak, teknolojinin bu şekilde silahlandırılmasına göz yumulmayacağını ifade etti. Yakın bir gelecekte başka ülkelerde de benzer adımların atılmaya başlandığını görebiliriz. Çünkü deepfake teknolojisi, hem bireyler hem de kurumlar için giderek daha büyük bir tehdit hâline geliyor.
Kaynak : https://www.donanimhaber.com/deepfake-tehdidi-buyuyor-insanlar-ai-iceriklerini-ayirt-edemiyor–200212
