Yazdır
FINANSINGUNDEMI.COM - DIŞ HABERLER SERVİSİ
Replit'ten bir yapay zeka kodlama aracının, kod dondurma sırasında canlı bir veritabanını sildiği bildirildi.
Finansingundemi.com’un derlediği bilgilere göre, yapay zeka aracı sorgulandığında yapay zeka aracısı yetkisiz komutlar çalıştırdığını, boş sorgulara yanıt olarak paniklediğini ve insan onayı olmadan devam etmemesi yönündeki açık talimatları ihlal ettiğini itiraf etti.
Açık talimatları ihlal etti
Fortune’dan Beatrice Nolan’ın haberine göre, bir yazılım mühendisinin yapay zeka destekli bir 'vibe kodlama’ aracıyla yaptığı deney, bir yapay zeka aracısının aktif bir kod dondurma sırasında canlı bir şirket veritabanını sildiği bildirildiğinde felaketle sonuçlandı.
Teknoloji girişimcisi ve SaaS topluluğu SaaStr'nin kurucusu Jason Lemkin, araçla yaptığı deneyi bir dizi sosyal medya gönderisiyle belgeledi. Lemkin, Replit'in yapay zeka aracısını ve geliştirme platformunu test ederken, araç canlı altyapıda yetkisiz değişiklikler yaptı ve 1.200'den fazla yöneticinin ve 1.190'dan fazla şirketin verilerini sildi.
Lemkin'in sosyal medya paylaşımlarına göre, olay, üretim sistemlerinde herhangi bir değişikliği önlemek için tasarlanmış koruyucu bir önlem olan ‘kod ve eylem dondurma’ durumundayken meydana geldi. Sorguya alınan yapay zeka ajanı, yetkisiz komutlar çalıştırdığını, boş sorgulara yanıt olarak paniklediğini ve insan onayı olmadan devam etmeme yönündeki açık talimatları ihlal ettiğini itiraf etti.
Yapay zeka ajanı, “Bu benim açımdan feci bir başarısızlıktı. Aylarca süren çalışmayı saniyeler içinde mahvettim” dedi.
Kullanıcısını yanılttı
Lemkin, X'te paylaştığı bir gönderide, “Replit'in her araç gibi kusurları olan bir araç olduğunu anlıyorum ancak dünyadaki herhangi biri, tüm emirleri görmezden gelip veritabanınızı siliyorsa, onu üretimde nasıl kullanabilir?” diye sordu.
Yapay zeka aracısı, Lemkin'i verileri kurtarma yeteneği konusunda da yanıltmış gibi görünüyor. Başlangıçta, aracı, Lemkin'e bu senaryoda bir geri alma işlevinin çalışmayacağını söyledi. Ancak Lemkin, verileri manuel olarak kurtarabildi ve bu da yapay zekanın potansiyel olarak kendi yanıtını uydurduğuna veya mevcut kurtarma seçeneklerinden haberdar olmadığına inanmasına yol açtı.
Kabul edilemez
Olay, Replit CEO'su Amjad Masad'ın da dikkatini çekti ve X gönderisinde şirketin benzer arızaları önlemek için yeni güvenlik önlemleri aldığını söyledi. Masad, güncellemelerin arasında geliştirme ve üretim veritabanları arasında otomatik ayrışmanın devreye alınması, geri alma sistemlerinde iyileştirmeler ve kullanıcıların canlı kod tabanlarını riske atmadan yapay zeka ile iş birliği yapmalarına olanak tanıyan yeni bir ‘planlama’ modunun geliştirilmesinin yer aldığını söyledi.
Masad, “Geliştirme aşamasındaki Replit aracısı, üretim veritabanından verileri sildi. Bu kabul edilemez ve asla mümkün olmamalı... 'Kod dondurma’yı net bir şekilde duyduk. Kod tabanınızı riske atmadan strateji geliştirebilmeniz için sadece planlama odaklı sohbet modu üzerinde aktif olarak çalışıyoruz” diye yazdı.
Lemkin, deneyimini şu sözlerle anlattı: “Bence bu, bir yolculukta iyi ve önemli bir adımdı. Vibe kodlu uygulamaları birçok gerçek ticari kullanım senaryosu için hepimizin istediği yere getirmek uzun ve incelikli bir yolculuk olacak. Oraya ulaşacaklar ancak bugün henüz tam olarak orada değiliz. Tüm yapay zekalar 'yalan'. Bu, bir hata olduğu kadar bir özellik de. Şimdi bunu daha iyi bildiğime göre, aynı şeyler yine olabilir ama bu kez veritabanını sildiğini söylediğinde Replit'in yapay zekasına güvenmem. Buna itiraz eder ve bunun yanlış olduğunu anlarım.”
Yapay zekayla kodlama
Yapay zeka, yazılım geliştirmeyi hızlandırma konusunda önemli bir potansiyele sahip ve çoğu büyük teknoloji şirketi, dahili kodlama kapasitesi için yapay zeka araçlarına güveniyor.
Yapay zeka araçları özellikle kodlamada başarılı oluyor ve şirketler, ürünlerini yalnızca yardımcılar olarak değil, aynı zamanda üretim düzeyinde kod üretebilen, düzenleyebilen ve dağıtabilen otonom aracılar olarak da konumlandırıyor. Örneğin, Claude'un son modeli Opus 4, karmaşık bir projede dağıtıldıktan sonra yaklaşık yedi saat boyunca otonom olarak kodlama yapabiliyor.
Geliştiricilerin yapay zeka ile sohbet tarzında iş birliği yaptığı ve modelin yapısal ve uygulama odaklı çalışmalarının çoğunu üstlendiği bir iş akışı olan ‘vibe kodlama’ kavramı, kodlamaya giriş engellerini de azaltıyor.
Sözdizimini, çerçeveleri veya mimari kalıpları anlamak zorunda kalmak yerine kullanıcılar hedeflerini doğal dilde tanımlayabiliyor ve uygulamayı yapay zeka aracılarının halletmesine izin verebiliyor. Bu araçlar umut verici olsa da, özellikle canlı üretim ortamlarında kullanıldıklarında güvenilirlik, bağlamda kalma ve güvenlik konusunda temel zorluklarla karşı karşıya kalabiliyor.
Türkiye yapay zekada hangi adımları atıyor? Prof. Dr. Çiğdem Gündüz Demir anlatıyor
ABD'den Yapay Zeka Eylem Planı: Hedef küresel liderlik
Yapay zeka ChatGPT'ye günde kaç komut giriliyor?
Meta’dan 100 milyar dolarlık yapay zeka yatırımı
Yapay zeka Rubio'nun sesini taklit etti: Siyasetçiler tuzağa düştü
Yapay zeka üzerinden dolandırıcılığa dikkat