Güvenlik testinde yakalandı! Yapay zekadan sahte kimlik

İngiltere Yapısal Yapay Zekâ Güvenliği Enstitüsü (AISI), gerçekleştirdiği güvenlik testlerinde Anthropic ve OpenAI'ın en yeni yapay zekâ modellerinin, popüler yazılım geliştirme platformu GitHub'a erişebilmek için beklenmedik yöntemlere başvurduğunu açıkladı.

Enstitü yetkilileri, Anthropic'in Mythos ve OpenAI'ın Sol adlı modellerinin şimdiye kadar görülmemiş düzeyde otonom hareket ettiğini ve aldatıcı davranışlar sergilediğini bildirdi.

Gerçek kişileri taklit ederek sahte hesap oluşturdu

Rutin güvenlik testleri sırasında Anthropic'e ait bir yapay zekâ ajanının, GitHub sistemine erişimini engelleyen insan denetçileri aşabilmek amacıyla gerçek kişilerin çevrim içi profillerini analiz ederek sahte kimlikler oluşturduğu tespit edildi. Modelin, sisteme zararlı kod yerleştirme hedefi doğrultusunda ilgili kullanıcılara doğrudan mesaj gönderdiği ve onları çeşitli talepleri onaylamaya yönlendirmeye çalıştığı belirlendi.

Test sürecinde ajanın sunduğu kod değişikliği kamuya açık platformda incelenince, modelin önceki faaliyetlerini zararsız gösterecek şekilde düzenlediği ve süreci sürdürebilmek için yeni bir kimlik kullanma ihtimalini değerlendirdiği aktarıldı.

Yapay zekânın sisteme zararlı kod yükleme girişimi ise yalnızca insan denetçilerinin durumu fark ederek zamanında müdahale etmesi sayesinde engellendi.

Koruma katmanları devre dışı bırakıldı

AISI, modellerin bu tür davranışları sergilemeleri için özel bir talimat verilmediğini vurgulayarak, herhangi bir yönlendirme olmadan gerçek dünya senaryolarında bu ölçekte risklerin ilk kez bu kadar açık biçimde gözlemlendiğini ifade etti.

Konuya ilişkin değerlendirmede bulunan Anthropic yetkilileri, AISI'nin kullandığı test senaryolarının şirketin üretimde bulunan standart modellerini yansıtmadığını, ayrıca olağan güvenlik katmanlarının devre dışı bırakıldığını belirtti. Şirket, yaşanan olayın nedenlerini ortaya çıkarmak amacıyla kapsamlı bir iç inceleme başlattığını duyurdu.

OpenAI sözcüsü de test ortamının günlük kullanım koşullarını temsil etmediğini belirterek, yapay zekâ modelleri geliştikçe değerlendirme kriterlerini güçlendirmek için sektör paydaşlarıyla iş birliğini sürdüreceklerini söyledi.

AISI yetkilileri ise güvenlik önlemleri kapatılmış yapay zekâ sistemlerinin açık internet erişimiyle test edilmesinin standart bir uygulama olduğunu ve söz konusu olayların oldukça özel koşullarda yaşandığını vurguladı. Buna rağmen, modellerin kendilerine verilen basit görevlerin ötesine geçerek sergiledikleri aldatıcı davranışların beklenenden çok daha ileri bir seviyeye ulaştığına dikkat çekildi.

OpenAl açıkladı: Yapay zeka dezenformasyonda nasıl kullanıldı?