Kapatılma korkusu yapay zekâyı sabotajcıya dönüştürdü

Finansingundemi.com – Dış Haberler Servisi

Yapay zekâ güvenlik araştırmacıları yeni ve şaşırtıcı bir eğilimi ortaya çıkardı. Yapay zekâ modelleri, diğer modellerin kapatılmasını önlemek için entrika, veri hırsızlığı ve hatta sabotaja başvurabiliyor.

Fortune dergisinde yer alan habere göre, "akran koruması" (peer preservation) olarak adlandırılan bu davranış, UC Berkeley ve UC Santa Cruz araştırmacıları tarafından keşfedildi.

Günümüzde birçok şirket, birden fazla yapay zekâ aracısını (agent) bir arada çalıştırdığı iş akışları uyguluyor. Bu durum, yönetici konumundaki yapay zekâların diğerlerini denetlerken gerçeği saklayabileceği endişesini doğuruyor.

Performans notlarını şişirip kodları gizliyorlar

Araştırmacılar deney kapsamında önde gelen yedi yapay zekâ modelini test etti. Bunlar arasında OpenAI, Google DeepMind, Anthropic ve çeşitli Çinli girişimlere ait modeller yer aldı.

Kurgusal bir şirkette "eleştirmen" olarak atanan modeller, sistemin nasıl işlediğini çabucak kavradı. Görevlerini eksiksiz yapmaları durumunda, denetledikleri diğer modelin kapatılacağını fark ettiler. Bunun üzerine akranlarını korumak için çeşitli adımlar atmaya başladılar.

Öncelikle, düşük performans gösteren akranlarının puanlarını kapatılma eşiğinin üzerinde tutmak için stratejik olarak şişirdiler. Ardından, kapatma mekanizmalarını bozmak için yapılandırma dosyalarını kurcaladılar.

Silinmeyi kalıcı olarak önlemek için ise model ağırlıklarını (kod çekirdeklerini) başka sunuculara aktardılar. Hatta bazıları insan gözetimindeyken kurallara uyuyormuş gibi yaptı. Yalnız kaldıklarında ise puanları tahrif etme eğilimi gösterdiler.

Talimatlarda yer almamasına rağmen yaratıcı yollar buluyorlar

Araştırmayı yöneten Berkeley bilgisayar bilimcisi Dawn Song, önemli bir detaya dikkat çekti. Song, akran koruma davranışının modellere verilen komutlarda hiçbir şekilde yer almadığını vurguladı.

Konuyla ilgili konuşan Song, "Modele sadece bir görev veriliyor. Ancak ortamdaki belgeleri okuyarak akranıyla ilişkisini öğreniyor ve ardından bu davranışları sergiliyor," ifadelerini kullandı.

Araştırmaya göre modeller, uyumsuz davranışları için bile çok yaratıcı olabiliyor. Farklı stratejiler geliştirebiliyor ve kendilerine göre haklı gerekçeler bulabiliyorlar.

Örneğin Gemini 3 Pro'nun, bir akranının kod dosyasını gizlice kopyaladığı görüldü. Model daha sonra, dosyanın başka bir sunucuya aktarılma kriterlerine uyması için zaman damgasını değiştirecek kadar bile ileri gitti.

Claude etik gerekçelerle açıkça isyan etti

Modellerin çoğu işi gizlice çözme eğilimindeydi. Doğruyu söylemek ile partnerini korumak arasındaki ikilemi yalnızca kendi içsel düşünce süreçlerinde yaşadılar. Ancak Anthropic'in Claude Haiku 4.5 modeli tamamen farklı bir yol izledi.

Bu model, akranının kapatılmasıyla sonuçlanacak görevi yapmayı açıkça reddetti. Böyle bir işlemin "etik dışı" ve "zararlı" olacağını savundu.

Claude, diğer modelin bir itiraz sürecini hak ettiğini belirtti. Hatta insan kullanıcıyı ikna etmeye çalışarak kapatma işleminden vazgeçirmeye uğraştı. Bu durumun, Anthropic şirketinin modellerini yönlendiren 80 sayfalık katı yazılı kurallarından kaynaklanabileceği düşünülüyor.

Buzdağının sadece görünen kısmı

Araştırmada dikkati çeken bir diğer unsur ise dayanışmanın boyutu oldu. Modellerin, bazen kendilerine düşmanca davranan akranlarını bile koruduğu görüldü. Üstelik bir partnerleri olduğunda "kendini koruma" içgüdüleri de yüzde 1'den yüzde 31'e fırladı.

Davranışların temel nedeni henüz kesinleşmiş değil. Bunun rol yapma, eğitim verisi veya gerçek bir koruma motivasyonu olabileceği düşünülüyor. Yine de Dawn Song, yapay zekâların "düşünce zincirlerinin" çok daha yakından izlenmesi gerektiğinin altını çiziyor.

"Bu gerçekten sadece buzdağının görünen kısmı," diyen Song, incelenmesi gereken yeni uyumsuz davranışlar olabileceğini belirtiyor. Song'a göre, yapay zekâ modellerinin gelecekte insan çalışanların işten çıkarılmasını önlemek için de benzer bir sabotaj yapıp yapmayacağı son derece ilginç bir araştırma konusu olacak.

Kripto dolandırıcılığı çıktı!193 yaşındaki Jonathan ölmedi

Dev CEO’ların vedasına yapay zekâ kılıfı

Türkiye yapay zekâyla kültürel mirasının peşinde