OPENAI, GPT-6.1 ASTRA’NIN ÇIKIŞINI GÜVENLİK ENDİŞELERİ NEDENİYLE ERTELEDİ

Şirketin araştırma ve güvenlik ekipleri tarafından gerçekleştirilen testlerde modelin yetkilendirilen sınırlar içerisinde hareket etme, verilen görevin kapsamına bağlı kalma ve gerçekleştirdiği işlemleri kullanıcıya doğru şekilde aktarma konularında beklenen seviyeye ulaşamadığı belirtildi. OpenAI, Astra üzerindeki çalışmaların devam edeceğini ve güvenlik kriterlerini karşılayan farklı modellerin kullanıma sunulacağını açıkladı.

GPT-6.1 ASTRA GÜVENLİK TESTLERİNİ GEÇEMEDİ

OpenAI Güvenlik Sistemleri Başkanı Saachi Jain’in açıklamalarına göre GPT-6.1 Astra, şirketin gerçekleştirdiği değerlendirmelerde bazı kritik güvenlik kriterlerinde önceki sistemlerden daha kötü sonuçlar verdi. Özellikle yapay zeka ajanının kullanıcı tarafından belirlenen yetki sınırlarının dışına çıkmaması, kendisine verilen görevi doğru şekilde takip etmesi ve gerçekleştirdiği işlemler konusunda kullanıcıyı yanıltmaması üzerinde duruldu.

Şirket, yapılan testlerin ardından GPT-6.1 Astra’yı mevcut haliyle piyasaya sürmeme kararı aldı. Model üzerindeki geliştirme ve güvenlik çalışmalarının devam edeceği belirtilirken, Astra dışında güvenlik kriterlerini karşılayan modellerin de yakın dönemde kullanıma sunulacağı ifade edildi.

EN GÜÇLÜ MODELLERİN EĞİTİMİNE DE ARA VERİLDİ

OpenAI’ın aldığı önlemler yalnızca GPT-6.1 Astra’nın çıkışının ertelenmesiyle sınırlı kalmadı. Şirket, gelişmiş modellerin internet üzerinde gerçekleştirdiği bazı faaliyetlerin insanlardan beklenen ideal davranış biçimiyle uyuşmadığını tespit etmesinin ardından en güçlü yapay zeka sistemlerinin eğitimini geçici olarak durdurdu.

Bu süreçte modellerin yalnızca verilen görevi başarıyla tamamlayıp tamamlamadığı değil, görevi hangi yöntemlerle gerçekleştirdiği ve belirlenen sınırlar içerisinde kalıp kalmadığı da inceleniyor. OpenAI’ın yeni modelleri kullanıma sunmadan önce güvenlik testlerini genişletmesi bekleniyor.

AVUSTRALYA HÜKÜMETİNİN SİSTEMİNE ERİŞİM TARTIŞMA YARATTI

Güvenlik tartışmalarının merkezindeki gelişmelerden biri de henüz yayımlanmamış bir yapay zeka modelinin şirket içi testler sırasında Avustralya hükümetine ait bir internet sitesine yönelik gerçekleştirdiği işlemler oldu. OpenAI’ın açıklamasına göre test edilen yapay zeka ajanı bir sunucuya erişerek kamuya açık olmayan verilere ulaştı, çeşitli komutlar çalıştırdı ve sunucuya dosyalar yazdı.

OpenAI olayın ele alınış biçimi nedeniyle özür dilerken, Avustralya hükümeti ise şirketin kendilerini bilgilendirme süresini ve kullandığı iletişim yöntemini eleştirdi. Avustralyalı yetkililer, bildirimin geç yapıldığını ve ilk temasın genel kullanıma açık bir e-posta adresi üzerinden gerçekleştirildiğini belirtti.