CHATGPT METİNLERİNE GÖRÜNMEZ FİLİGRAN GELİYOR: İLK UYGULAMA AB’DE BAŞLAYACAK

OpenAI, Avrupa Birliği’nin yapay zeka alanındaki şeffaflık kurallarına uyum kapsamında ChatGPT ve Codex tarafından oluşturulan metinlere görünmez ve makineler tarafından tespit edilebilir filigran eklemeye hazırlanıyor. “textGrain” adı verilen sistem ilk aşamada Avrupa Birliği’ndeki uygun kullanıcılara uygulanacak.

SİSTEMİN ADI TEXTGRAIN

OpenAI tarafından geliştirilen textGrain, kullanıcıların doğrudan görebileceği bir işaret veya etiket eklemek yerine metnin oluşturulma biçimine istatistiksel bir sinyal yerleştiriyor. Bu sinyal, OpenAI tarafından geliştirilen özel bir tespit sistemi aracılığıyla kontrol edilebiliyor.

Böylece bir metinde OpenAI tarafından eklenen filigranın bulunup bulunmadığı belirlenebilecek. Şirket, textGrain'in Google'ın SynthID for Text sistemi gibi diğer yöntemlerle benzer veya daha yüksek performans gösterebildiğini belirtiyor.

KISA METİNLERDE BAŞARI ORANI YÜZDE 80 CİVARINDA

OpenAI, sistemin her durumda kesin sonuç vermediğinin altını çiziyor. Özellikle kısa metinlerde filigranı tespit etme başarısının yaklaşık yüzde 80 seviyesinde kaldığı belirtiliyor.

Matematiksel içeriklerde de tespit işleminin zorlaşabildiği ifade ediliyor. Metnin oluşturulmasının ardından üzerinde değişiklik yapılması ise filigranın tespit edilme oranını düşürebiliyor.

Bu nedenle bir metinde textGrain sinyalinin bulunamaması, içeriğin yapay zeka tarafından oluşturulmadığını kesin olarak göstermeyecek.

METNİN DOĞRULUĞUNU VEYA SAHİBİNİ GÖSTERMEYECEK

Filigran sistemi yalnızca metinde OpenAI tarafından eklenen işaretin bulunup bulunmadığını belirlemek amacıyla kullanılacak. Sistem, metindeki bilgilerin doğru olduğunu veya içeriğin kime ait olduğunu kanıtlamayacak.

Aynı şekilde metinde ne kadar insan katkısı bulunduğu ya da içeriğin bir insan tarafından yazılıp yazılmadığı konusunda kesin bir sonuç vermeyecek.

İLK OLARAK AVRUPA BİRLİĞİ’NDE UYGULANACAK

OpenAI, önümüzdeki haftalarda Avrupa Birliği’nde tüm planlardaki uygun ChatGPT ve Codex kullanıcılarının oluşturduğu metinlere textGrain filigranı eklemeye başlayacak. Şirket, uygulamanın başlangıç aşamasında dünya genelinde varsayılan olarak kullanılmayacağını belirtiyor.

API müşterileri ise seçili modellerde filigranlı metin çıktısını isteğe bağlı şekilde etkinleştirebilecek. Önümüzdeki haftalarda bulut hizmeti ortakları üzerinden erişilen OpenAI modellerinin çıktılarında da sistemin kullanılabilmesi planlanıyor.

TESPİT ARACI HERKESE AÇILMAYACAK

OpenAI, textGrain filigranlarını kontrol etmek için hazırladığı tespit aracını başlangıçta genel kullanıma sunmayacak. Onaylanmış araştırmacılar ve uzman kuruluşlar erişim için başvurabilecek ve talepler ayrı ayrı değerlendirilecek.

Tespit sistemi yalnızca OpenAI filigranının bulunup bulunmadığına ilişkin sonuç verecek. Kullanıcının kimliğini belirlemeyecek, kullanılan istemleri göstermeyecek ve ChatGPT konuşma geçmişine erişim sağlamayacak.