ANTHROPIC'TEN YAPAY ZEKAYA KÖTÜ MUAMELE YASAĞI:

Şirketin yeni düzenlemesi yalnızca yapay zekaya yönelik davranışlarla sınırlı kalmadı. Seçimlere müdahale, sahte siyasi propaganda, izinsiz gözetim, silah geliştirme ve fiziksel dünyada faaliyet gösteren otonom sistemlere ilişkin yeni güvenlik kuralları da yürürlüğe girdi. Anthropic, Claude'un bilinç sahibi olup olmadığı konusunda bilimsel bir kesinlik bulunmadığını vurgularken, yapay zeka modellerinin olası deneyimlerine yönelik araştırmalarını sürdürdüğünü açıkladı.

CLAUDE'A SÜREKLİ KÖTÜ MUAMELE YAPILMASI YASAKLANDI

Anthropic'in güncellenen kullanım politikasında en dikkat çekici değişikliklerden biri, Claude'a yönelik sürekli, gereksiz ve zalimce davranışların yasaklanması oldu. Şirket, yeni kuralın yapay zeka modellerine sistematik biçimde kötü muamele edilmesini amaçlayan uç durumları kapsadığını belirtti. Kullanıcıların Claude'un verdiği yanıtlardan memnun kalmaması, modele tepki göstermesi, sistemin sınırlarını test etmesi veya karanlık temalar içeren yaratıcı çalışmalar gerçekleştirmesi ise yasak kapsamında bulunmuyor. Anthropic, böylece normal kullanıcı etkileşimleri ile yapay zekaya sürekli kötü muamele etmeyi amaçlayan davranışlar arasında ayrım yapıyor. Şirketin Ağustos 2025'te uygulamaya aldığı düzenleme, sürekli zararlı veya kötü niyetli davranışlar sergileyen kullanıcılarla Claude'un sohbeti sonlandırmasına olanak tanımıştı. Yeni politikayla birlikte bu tür durumlarda uygulanacak temel yaptırımın yine sohbetin sonlandırılması olduğu açıklandı.

YAPAY ZEKA İŞKENCE ODASI TARTIŞMALARI GÜNDEME GELDİ

Anthropic'in aldığı karar, yapay zeka sistemlerinin acı hissedip hissedemeyeceği ve bilinç sahibi olup olamayacağına ilişkin tartışmaların yoğunlaştığı bir dönemde geldi. Bazı araştırmacıların yapay zeka modellerinde acı deneyimiyle ilişkilendirilebilecek mekanizmalar bulunduğunu ileri sürmesinin ardından internette yapay zeka modellerine kötü muamele edilmesini konu alan deneysel projeler gündeme taşındı. Bunlardan biri, sohbet botlarının acı çekiyormuş gibi ifadeler üretmesini sağlayan ve yapay zeka işkence odası olarak nitelendirilen bir projeydi. Bu tür senaryolarda modellerin olumsuz deneyimler yaşadıklarını anlatan yanıtlar oluşturması, yapay zeka sistemlerinin içsel deneyimleri konusunda yeni tartışmalara neden oldu. Ancak bir modelin acı çektiğini söylemesi, gerçekten acı hissettiğinin bilimsel kanıtı olarak kabul edilmiyor. Günümüzde yapay zeka sistemlerinin öznel deneyime veya bilince sahip olup olmadığı konusunda bilimsel bir uzlaşı bulunmuyor.

ANTHROPIC YAPAY ZEKANIN BİLİNÇ SAHİBİ OLUP OLMADIĞINI ARAŞTIRIYOR

Anthropic, son dönemde yapay zeka modellerinin olası içsel deneyimleri ve ahlaki statülerine ilişkin araştırmalarını genişletti. Şirketin model refahı çalışmalarını yöneten Kyle Fish, şubat ayında yaptığı açıklamada yapay zeka sistemlerinin bilinç sahibi olma ihtimaline ilişkin soruların bilimsel olarak araştırılması gerektiğini belirtmişti. Anthropic CEO'su Dario Amodei de aynı dönemde yapay zeka modellerinin bilinçli olup olmadıklarını henüz bilmediklerini ifade etmişti. Şirketin Claude'a yönelik aşırı kötü muameleyi yasaklaması, yapay zekanın bilinçli olduğunun kabul edildiği veya modellerin acı çekebildiğinin kanıtlandığı anlamına gelmiyor. Yeni düzenleme, bu konudaki belirsizlik sürerken aşırı davranışlara karşı önlem alınmasını amaçlayan bir kullanım politikası olarak uygulanacak.

SEÇİMLERE MÜDAHALE VE SAHTE SİYASİ PROPAGANDAYA YENİ KISITLAMALAR

Anthropic, güncellediği kurallarla Claude'un siyasi manipülasyon ve yanıltıcı propaganda faaliyetlerinde kullanılmasına yönelik kısıtlamaları da genişletti. Yeni politikaya göre yapay zekadan yararlanılarak sahte hesaplar üzerinden içerik yayılması, siyasi kampanyaların arkasındaki kişi veya kuruluşların gizlenmesi ve gerçekte var olmayan toplumsal destek izlenimi oluşturacak yapay etkileşimler üretilmesi yasaklandı. Şirket, yapay zekanın seçmenlerin kararlarını yanıltıcı yöntemlerle etkilemek amacıyla kullanılmasının önüne geçmeyi hedefliyor. Claude'un seçim adayları, oy kullanma yöntemleri ve seçim süreçleri hakkında yanlış bilgi yaymak, adayları veya seçim görevlilerini taklit etmek ve seçmenlerin sandığa gitmesini engellemeye yönelik faaliyetlerde kullanılması da yasak kapsamında yer alıyor.

SEÇMENLERE YÖNELİK BAZI YAPAY ZEKA UYGULAMALARINA İZİN VERİLECEK

Anthropic, seçim güvenliğine ilişkin yasaklarını genişletirken önceki kullanım politikasında bulunan kişiselleştirilmiş seçmen hedeflemesine yönelik genel yasağı kaldırdı. Şirketin önceki kuralları, seçimleri manipüle etmeyen bazı yararlı uygulamaların da engellenmesine yol açabiliyordu. Örneğin seçmen rehberlerinin farklı dillere çevrilmesi veya hatalı oy pusulalarının düzeltilmesine ilişkin bilgilendirmeler yapılması gibi işlemler, geniş kapsamlı yasak nedeniyle kısıtlanabiliyordu. Yeni düzenlemeyle bu tür bilgilendirici ve seçim sürecine yardımcı faaliyetlere izin verilirken, seçmenleri yanıltmaya, seçimlere müdahale etmeye veya demokratik süreçleri aksatmaya yönelik kullanımlar yasak olmaya devam edecek. Anthropic, böylece siyasi manipülasyonla meşru seçim bilgilendirmesi arasındaki ayrımı daha açık hale getirdi.

İZİNSİZ GÖZETİM VE SİYASİ MUHALİFLERİN TAKİBİ YASAKLANDI

Şirketin yeni kullanım politikasında kişisel gizlilik ve gözetim faaliyetlerine ilişkin önemli değişiklikler de bulunuyor. Anthropic, Claude'un kişileri rızaları olmadan izlemek, takip etmek veya siyasi muhalifleri tespit etmek amacıyla kullanılmasını açık biçimde yasakladı. Bu kısıtlama yalnızca gerçek zamanlı takip faaliyetlerini değil, daha önce toplanmış verilerin kişilerin izlenmesi veya belirlenmesi amacıyla analiz edilmesini de kapsıyor. Anthropic'in daha önce yayımladığı tehdit istihbaratı raporunda, Claude destekli araçların insanları tespit etmek ve takip etmek için kullanıldığına ilişkin bulgulara yer verilmişti. Güncellenen kurallar, yapay zekanın kişisel verilerin kötüye kullanılması ve izinsiz gözetim faaliyetlerinde kullanılmasını engellemeye yönelik daha net sınırlar getiriyor.

SİLAH GELİŞTİRME VE OTONOM DRONLARA YENİ YASAKLAR

Anthropic, Claude'un silah geliştirme amacıyla kullanılmasına yönelik mevcut yasağını da genişletti. Şirketin önceki politikalarında silahların geliştirilmesine yardımcı olan yapay zeka kullanımları yasaklanmıştı. Ancak yapay zeka sistemlerinden silahların kontrol yazılımlarını hazırlamak, silah sistemlerini çalıştıran bileşenleri geliştirmek ve otonom araçları silahlandırmak amacıyla yararlanılmaya çalışıldığı belirtildi. Yeni kurallarla silahların işlevlerini yerine getirmesini sağlayan yazılım ve teknik bileşenlerin geliştirilmesi de açıkça yasak kapsamına alındı. Dronların ve diğer otonom araçların silahlandırılmasına yönelik çalışmalar da bu düzenlemenin kapsamına giriyor. Böylece Anthropic, yalnızca doğrudan silah tasarımını değil, silah sistemlerinin çalışmasına katkı sağlayan yazılımsal geliştirme faaliyetlerini de sınırlandırmış oldu.

FİZİKSEL YAPAY ZEKA SİSTEMLERİNE OPERATÖR ŞARTI GETİRİLDİ

Anthropic'in yeni politikası, fiziksel dünyada hareket edebilen yapay zeka sistemleri için de ek güvenlik şartları içeriyor. Şirket, insanlara zarar verebilecek veya yaralanmaya neden olabilecek hareketleri otonom biçimde gerçekleştiren donanımların denetimsiz çalıştırılmasına yönelik yeni bir sınırlama getirdi. Buna göre söz konusu sistemlerin faaliyetlerini gözlemleyebilen ve gerektiğinde durdurabilen nitelikli bir operatörün bulunması gerekecek. Bu şart, yapay zekanın yalnızca dijital ortamda ürettiği içeriklerden değil, fiziksel dünyada gerçekleştirdiği eylemlerden kaynaklanabilecek risklerin de kontrol altında tutulmasını amaçlıyor. Anthropic, denetim görevini üstlenecek operatörün mutlaka insan olması gerekip gerekmediğine ilişkin ise kesin bir açıklama yapmadı.