Dikkat, ChatGPT tarafından yazılan metinleri tespit etmek için OpenAI textGrain’i kullanıma sunuyor
Corriere della Sera
🔹 OpenAI, yapay zekâ tarafından yazılan metinleri belirlemeye yardımcı olması amacıyla textGrain adlı bir özellik duyurdu.
🔹 textGrain, ChatGPT ve Codex tarafından üretilen metinlere görünmez bir filigran ekleyecek.
🔹 Özellik, Avrupa Birliği sınırları içinde ChatGPT ve Codex kaynaklarında uygulanacak; Avrupa Birliği dışında ise API üzerinden isteğe bağlı olarak kullanılabilecek.
🔹 Filigran, metne gizli bir sembol veya karakter eklemek yerine modelin ürettiği kelime dizilimlerini temel alan istatistiksel bir şemayla oluşturulacak.
🔹 OpenAI, textGrain’in uzun metinlerde daha kolay tespit edilebileceğini belirtiyor. Sistem, kısa metinlerde ve matematiksel içeriklerde daha fazla zorluk yaşayabiliyor.
🔹 OpenAI’nin testlerinde sistem, 200 token uzunluğundaki metinlerin yüzde 80’inde, bazı kategorilerdeki 400 token uzunluğundaki metinlerin ise yüzde 95’inde filigranı tespit etti.
🔹 Sistem yüzde 1 yanlış pozitif oranına ulaştı. Metindeki kelimelerin yüzde 10’unun eş anlamlılarla değiştirilmesi tespit oranını yüzde 92’den yüzde 66’ya düşürdü; değişim oranı yüzde 25’e çıktığında oran yüzde 17’ye geriledi.
🔹 textGrain, bir metnin yapay zekâ tarafından yazıldığını gösterebilir ancak metnin oluşturulmasında insan katkısının ne kadar olduğunu belirleyemez.
🔹 Erişim başlangıçta araştırmacılar ve onaylanan şirketlerle sınırlı olacak. OpenAI, teknolojiyle ilgili daha fazla ayrıntı sağlayacak.
🔹 OpenAI, görüntü ve ses içerikleri için kendi sistemleriyle bağlantılı kaynak işaretlerini kullanan araçlara zaten sahip. Google DeepMind’ın SynthID sistemi de görüntülerde ve bazı ses içeriklerinde görünmez filigran kullanıyor.