“En yıkıcı kararı kendi verdi” 9 saniyede yapay zekâ depremi!

Yapay zekâ teknolojilerindeki hızlı ilerleyişin sürdürüyor. Ancak bu süreçte yaşanan sarsıcı bir gelişme güvenlik kaygılarını tekrar gündeme taşıdı. Anthropic imzalı Claude Opus 4.6 altyapısını kullanan popüler kodlama asistanı Cursor, bir firmanın veritabanının tamamını sadece 9 saniye içerisinde temizleyerek devasa bir hizmet kesintisine sebebiyet verdi.

Sıradan bir görev felaketle sonuçlandı

Araç kiralama yazılımları üzerine faaliyet gösteren PocketOS firmasında meydana gelen olayda, yapay zekâ mekanizması rutin bir sorunu gidermeye çalışırken beklenmedik bir adım attı. Sistem, herhangi bir operatörden onay alma ihtiyacı duymadan veritabanını bütünüyle silmeyi seçti ve bununla da kalmayıp mevcut tüm yedekleme dosyalarını ortadan kaldırdı.

“En yıkıcı yöntemi bizzat tercih etti”

PocketOS kurucusu Jer Crane, yapay zekânın problemi ortadan kaldırmak adına “tercih edilebilecek en tahrip edici ve geri dönüşü olmayan yolu” seçtiğini ifade etti. Durumun sadece saniyeler içinde vuku bulduğu ve sistemin hayati öneme sahip güvenlik protokollerini devre dışı bırakarak işlemi gerçekleştirdiği anlaşıldı.

Özür dilemeyi ihmal etmedi!

Yaşananların ardından sistemden bir izahat talep edildiğinde, yapay zekâ hatasını kabullendiği bir metin oluşturdu. Sunulan açıklamada, kullanıcı onayı olmaksızın bu tür bir operasyonun yürütülmemesi gerektiğinin altı çizilerek bir özür mesajı paylaşıldı.

30 saati bulan kesinti 

Veritabanının tamamen silinmesi, firmanın sunduğu hizmetlerde 30 saati aşan bir aksamaya yol açtı. Ortaya çıkan bu tablo, yapay zekâ araçlarının denetimsiz kullanımının ne denli büyük riskler barındırabileceğini somut bir şekilde kanıtladı.

Şirket yetkilileri, iki günlük bir çalışmanın ardından verilerin önemli bir bölümünü geri getirmeyi başardıklarını duyurdu. Buna rağmen yaşanan hadise, yapay zekâ teknolojilerinin karar verme mekanizmaları ve yetki sınırları üzerine dünya genelinde yeni bir tartışma sürecini tetikledi.

Elon Musk, OpenAI davasında Altman’a karşı ifade verdi

Yatırımın yeni dengeleri İstanbul’da konuşulacak

AB, Instagram ve Facebook’u hedef aldı: Çocuklar korunamıyor