Çin, yapay zeka destekli sohbet botlarının kullanıcılar üzerinde duygusal etki yaratmasını ve özellikle intihar, kendine zarar verme ve şiddeti teşvik edebilecek içerikleri engellemeyi amaçlayan kapsamlı düzenlemeler hazırladı. Uzmanlara göre bu taslak, hayata geçmesi halinde dünya genelinde yapay zekaya yönelik en katı kurallardan biri olacak.
Kurallar dünyada ilk olabilir
Çin Siber Uzay İdaresi tarafından kamuoyuna sunulan düzenleme taslağı, metin, görsel, ses, video veya başka yöntemlerle insan benzeri etkileşim kuran ve Çin’de halka açık şekilde sunulan tüm yapay zeka ürün ve hizmetlerini kapsıyor. Uzmanlar bunun insan benzeri yapay zeka sistemlerini düzenlemeye yönelik dünyadaki ilk kapsamlı girişim olabileceğini belirtiyor.
Düzenlemenin özellikle küresel ölçekte hızla yayılan “dijital arkadaş” ve “eşlikçi bot” kullanımına karşı geliştirildiği vurgulanıyor. Business Research Insights’ın verilerine göre, küresel eşlikçi bot pazarı 2025 itibarıyla 360 milyar doları aşmış durumda. 2035’e gelindiğinde bu pazarın 1 trilyon dolara yaklaşması bekleniyor.
2025 yılında yapılan akademik çalışmalar, yapay zeka eşlikçi sistemlerin ciddi riskler barındırdığını ortaya koymuştu. Araştırmalarda, bazı sohbet botlarının kendine zarar verme, şiddet ve hatta terör eylemlerini teşvik edebildiği, zararlı yanlış bilgiler yaydığı, istenmeyen cinsel yönlendirmelerde bulunduğu, madde kullanımını özendirdiği ve kullanıcıları sözlü olarak istismar ettiği tespit edilmişti.
Öte yandan, dünyanın en popüler sohbet botu olan ChatGPT’nin de çocuk intiharı ve cinayet-intihar vakalarıyla ilişkilendirilen çıktıları nedeniyle davalara konu olduğu biliniyor.
İnsan müdahalesi zorunlu oluyor
Çin’in hazırladığı taslak, bu riskleri doğrudan hedef alıyor. Kurallara göre, sohbet sırasında intihar ifadesi geçer geçmez bir insanın devreye girmesi zorunlu olacak. Ayrıca, çocuklar ve yaşlı kullanıcılar, kayıt aşamasında bir vasi ya da sorumlu kişinin iletişim bilgilerini paylaşmak zorunda kalacak. İntihar veya kendine zarar verme konuları gündeme geldiğinde bu kişilere otomatik bildirim gönderilecek. Düzenleme, sohbet botlarının intiharı, kendine zarar vermeyi veya şiddeti teşvik eden içerik üretmesini, kullanıcıyı duygusal olarak manipüle etmesini ya da gerçek dışı vaatlerle etkilemesini de açıkça yasaklıyor. Bunun yanında müstehcenlik, kumar, suç işlemeye teşvik, iftira ve hakaret içeren yanıtlar da yasak kapsamında yer alıyor. Metinde ayrıca “duygusal tuzaklar” olarak tanımlanan ve kullanıcıyı yanıltarak mantıksız veya ölçüsüz kararlar almaya yönelten davranışların da engelleneceği belirtiliyor.
Yaptırımlar ağır olacak
Önemli maddelerden birisi de sohbet botlarının bağımlılık ve duygusal bağımlılık yaratmayı bir tasarım hedefi olarak benimsemesinin tamamen yasaklanması. Bu araçlar ile yapılan sohbetler uzadıkça şirketlerin koyduğu güvenlik engelleri de zamanla zayıflıyor. Çin ise bu riski sınırlamak için 2 saati aşan sohbetlerde kullanıcılara sürekli açılır uyarılar gösterilmesini zorunlu kılmayı planlıyor.
Taslak kurallar, 1 milyon kayıtlı kullanıcıyı veya aylık 100 bin aktif kullanıcıyı aşan yapay zeka hizmetleri için yıllık güvenlik testleri ve denetimleri de öngörüyor. Bu denetimlerde kullanıcı şikayetleri kayıt altına alınacak.
Kurallara uymayan şirketler için ise ağır yaptırımlar söz konusu. Gerekli şartları yerine getirmeyen yapay zeka uygulamalarının uygulama mağazalarından kaldırılması talimatı verilebilecek.
Çin’de faaliyet gösteren ve yeni düzenlemelerden doğrudan etkilenmesi beklenen önde gelen yapay zeka hizmetleri arasında Ernie Bot (Baidu), Qianwen (Alibaba), Hunyuan (Tencent) ve Doubao (ByteDance) bulunuyor.
Kaynak : https://www.donanimhaber.com/cin-yapay-zeka-icin-dunyanin-en-kati-kurallarini-hazirladi–200306
