Kısa bir süre önce OpenAI’ın ChatGPT tarafından yazılan yazıları yüksek bir doğrulukla tespit edebilecek bir araç üzerinde uzunca bir süredir çalıştığı ortaya çıktı. Öte yandan firma, metin filigranlama konusundaki araştırmaları ve tespit yöntemini neden şimdiye kadar yayınlamadığı konusunda bazı bilgiler paylaştı.
ChatGPT için fligran geliyor
Aktarılanlar göre ilgili yapay zeka fligranı esasında bir yıldır hazır durumda ancak şimdiye kadar gün yüzüne çıkarılmadı. OpenAI ise “Ekiplerimiz, alternatifleri araştırırken göz önünde bulundurmaya devam ettiğimiz bir metin filigranlama yöntemi geliştirdi“ dedi. Firma, sınıflandırıcılar ve meta veriler de dahil olmak üzere çok sayıda çözüm üzerinde çalıştıklarını aktarırken geliştirdikleri yöntem ile oldukça doğru sonuçlar (yüzde 99,9) elde ettiklerini belirtiyor.
Ancak bu performans noktasına her zaman ve her durumda ulaşılamıyor. Zira metin üzerinde çeviri sistemleri kullanmak, başka bir üretici modelle yeniden ifade etmek veya modelden her kelime arasına özel bir karakter eklemesini ve ardından bu karakteri silmesini istemek gibi belirli tahrifatlar sonucunda performans düşüyor. OpenAI, buradaki performansı geliştirmeye çalışırken neden şimdiye kadar fligran aracını kullanıma sunmadığını da açıkladı. Firma, metin filigranının bazı grupları orantısız bir şekilde etkileyebileceğinden endişe duyduklarını belirtti.
Blog yazısına göre, OpenAI bu riskleri değerlendiriyor. Şirket ayrıca görsel-işitsel içerik için kimlik doğrulama araçlarına ağırlık vereceğini de söylüyor. Metin fligranı için geliştirmeler tamamlandığında ise araç hizmete sokulabilir. Ancak bunun için bir takvim henüz belirlenmemiş durumda. Şirket “bazı grupları orantısız bir şekilde etkileme” riskinin yanı sıra muhtemelen gelir kaybı yaşama olasılığını da değerlendiriyor.
Kaynak : https://www.donanimhaber.com/odevleri-chatgpt-ye-yaptiran-ogrenciler-icin-kotu-haber–180325
