Yazdır
VOLKAN KARSAN - FINANSINGUNDEMI.COM / KAZANDIRAN SOHBETLER
Yapay zekâ konusunda toplumun hemen her kesiminde ciddi bir ilgi ve heyecan olduğunu söyleyen Koç Üniversitesi İş Bankası Yapay Zekâ Uygulama ve Araştırma Merkezi (KUISAI) Direktörü Prof. Dr. Çiğdem Gündüz Demir, yapay zekânın aynı zamanda geliştiricilerin ve kullanıcıların niyetine göre hem çok faydalı hem de çok zararlı sonuçlar doğurabileceğire dikkat çekiyor. İşte insanın geleceğine yön verecek büyük beklentiler, büyük korkular… Önemli röportajda ikinci gün...
“YAPAY ZEKÂ GELİŞTİRİCİLERİN VE KULLANICILARIN NİYETİNE GÖRE HEM ÇOK FAYDALI HEM DE ÇOK ZARARLI SONUÇLAR DOĞURABİLİR”
- Hocam şöyle bir genel kanı vardır. Nükleer enerjiden uzay silahı düşüncesinin tıbba katkısı oldu gibi... Şimdi yapay zekanın da farklı farklı noktalarda amacından daha öte bir yerlere ulaşması mümkün mü? İnsanın uzun yaşaması ya da hayatı daha iyi, daha kaliteli yaşaması için?
- Bu, elbette yapay zekâ modellerinin hangi amaçla ve nasıl kullanılacağına bağlı. Tıpkı diğer teknolojilerde gibi, yapay zekâ da geliştiricilerin ve kullanıcıların niyetine göre hem çok faydalı hem de çok zararlı sonuçlar doğurabilir. Yukarıda bahsettiğim iyi kullanım örnekleri olduğu kadar, kötüye kullanım senaryolarını da zamanla giderek artan şekilde tecrübe edeceğiz.
Şu an için beni en çok kaygılandıran ve uzun vadede en zararlı olacağını düşündüğüm nokta ise şu: Büyük dil modelleri gibi üretici yapay zekâ araçları bilgiye erişimi ve bilgi üretimini hızlandırırken aynı zamanda özellikle konuyu öğrenme aşamasındaki bireyler için bilgiyi sorgulamadan doğru kabul etme eğilimini artırıyor. Bu da zamanla, eleştirel ve analitik düşünme becerilerinin zayıflamasına yol açabilme riski taşıyor. Ben bu yönüyle, yapay zekânın, yalnızca sunduğu teknolojik olanaklarla değil, bu olanakların nasıl kullanıldığıyla da çok yakından değerlendirilmesi gerektiğini düşünüyorum.
“YAPAY ZEKÂ MODELLERİ BAZEN ÖYLE İKNA EDİCİ İÇERİKLER SUNUYOR Kİ, ÖZELLİKLE O KONUDA BİLGİSİ AZ OLANLARI KOLAYCA ETKİLEYEBİLİYOR”
- Bu benim soracağım bir soruydu aslında. İnternet hayatımıza girdiğinde doğru internet kullanımından çok, yanlış internet kullanımına yönelen insanlar oldu. Kendilerini tembelleştiren, sadece eğlence ve keyfe odaklayan, boş zamanlarını verimsiz kullanmalarına neden olan tercihler yapıldı. Aynı zamanda yapay zeka da belki benzer tercihlere ya da bağımlılıklara neden olabilir. Ben de tam bunu soracaktım.
- Bence bu dediğiniz yine de iyimser bir senaryo, yani sadece tembelliklerin artması. Bugün internette zaten çok fazla yanlış ve yanıltıcı bilgi var; ancak yapay zekâ modellerinin daha da kötü yanı, bu yanlış bilgileri çok daha inandırıcı ve profesyonelce üretebilme potansiyeline sahip olmaları. İnternette arama yaptığınızda en azından bir derece şüpheyle yaklaşabiliyordunuz, “buna çok da güvenilmez” diyebiliyordunuz. Ama yapay zekâ modelleri bazen öyle ikna edici içerikler sunuyor ki, özellikle o konuda bilgisi az olanları kolayca etkileyebiliyor. Bu yüzden, ortamda yanlış ve yanıltıcı bilginin yayılma riski daha da artıyor; ben bu durumun giderek kötüleşeceğini düşünüyorum.
“YAPAY ZEKÂ ARTIK KAÇINILMAZ BİR ARAÇ VE BİRÇOK ALANDA KULLANIMI HIZ KAZANIYOR, ANCAK YİNE DE KONUNUN TEMELİNİ BİLMEK GEREKİYOR”
- Tam bu açıklamayı bekliyordum ben de zaten. İnsanın yapay zekadan yararlanması için belli bir konunun bilgisine sahip olması lazım. Nasıl ki internette şu anda her bulunan şeyin doğru kabul edilmemesi gerektiği gibi yapay zekanın sizin için oluşturduğu veri, bilgi, metin, görsel neyse bunu check edecek yine insan unsurunun da gayet liyakatli ve bilgili olması gerekiyor değil mi?
- Kesinlikle katılıyorum. Yapay zekâ artık kaçınılmaz bir araç ve birçok alanda kullanımı hız kazanıyor. Kaçınmak mümkün değil, ancak yine de konunun temelini bilmek gerekiyor. Örneğin, programlama için çok faydalı yapay zekâ araçları mevcut. Ancak, temel programlama kavramlarını ve prensiplerini tam olarak anlamadan sadece yapay zekâ çıktılarıyla programlama yaparak ileri seviyeye geçmek mümkün değil. Önce bunları özümsemek, ardından yapay zekâ modellerini anlayarak kullanmak ve çıktılarını eleştirel bir süzgeçten geçirecek kadar bilgi sahibi olmak çok önemli. Bu sayede, yapay zekânın sağladığı hız ve erişim olanaklarından yararlanarak rekabet avantajı elde edebilmek mümkün. Aksi takdirde, nasılsa yapay zekâ “istediğim” çıktıları üretiyor diyerek temel kavramları ve prensipleri göz ardı etmek bence en büyük yanılgılardan biri.
“YAPAY ZEKÂDAN ETKİN BİR ŞEKİLDE YARARLANMAK İSTİYORSANIZ, SADECE ONU KULLANABİLMEK YETERLİ DEĞİL, AYNI ZAMANDA SINIRLARINI VE LİMİTLERİNİ DE ANLAYABİLMEK GEREKİYOR”
- Burada bir yapay zeka okuryazarlığı tanımı devreye giriyor herhalde değil mi?
- Bu aslında ne yapmak istediğinize bağlı. Eğer gerçekten yapay zekâdan etkin bir şekilde yararlanmak istiyorsanız, sadece onu kullanabilmek yeterli değil, aynı zamanda sınırlarını ve limitlerini de anlayabilmek gerekiyor. Ben her zaman öğrencilerime şunu söylerim: Tasarladığınız bir modeli iyi sonuç üretecek şekilde çalıştırmak kadar, nerede iyi yapamadığını analiz edebilmek de çok değerli. Çünkü bu analiz, söz konusu sorunları aşmak için yeni yöntemler geliştirme fırsatı sunar. Aynı zamanda, hangi tekniği nerede kullanıp nerede kullanamayacağınızı fark etmenizi sağlar. Yani sizin de dediğiniz gibi, bu alanın okuryazarlığı sadece “ne yapılabilir” sorusunu değil, aynı zamanda “ne yapılamaz” sorusunu da içermeli.
“TEKNİK OLARAK GÜÇLÜ MODELLER TASARLAMAK KADAR, ETİK VE SORUMLU YAPAY ZEKÂ SİSTEMLERİ GELİŞTİRMEK DE BÜYÜK ÖNEM TAŞIYOR”
- Şöyle bir şey var. Şehir efsanesidir, gerçek bilgidir bilmiyorum. Mesela emri değiştirilen SİHA'nın gelip komuta merkezini vurması gibi ya da iki robotun verilen emirlere harfiyen uyacağım diye birbiriyle kavgası gibi. Yapay zekanın da bir gün böyle bir soruna neden olması ya da robotlaşma artarken üretimde ya da herhangi bir süreçte kendine zarar vermesi söz konusu mu?
- Aslında yapay zekâ dediğimiz şey, temelde, çok karmaşık bir matematiksel fonksiyon, bu fonksiyonun büyük miktarda veriye dayanarak optimize edilmesi—yani eğitilmesi—ve sonraki süreçte eğitimi tamamlanan bu fonksiyondan çıktı alınarak kullanılması. Bu çıktının ne olacağını belirleyen en temel unsur ise, bu fonksiyonun nasıl oluşturulduğu ve hangi veriler üzerinde eğitildiği. Örneğin, sizin verdiğiniz gibi SİHA’nın dönüp komuta merkezini vurması gibi bir senaryonun gerçekleşebilmesi için ya doğrudan kötü niyetli bir fonksiyon—yani yapay zekâ modeli—oluşturulması ya da bu modelin yanlış veya yanıltıcı veriyle eğitilerek yönlendirilmesi gerekiyor. Bunun arkasında ise onu geliştiren insan iradesi bulunuyor. Dolayısıyla, yapay zekâ modelleri bir gün birbirleriyle ya da insanlarla çatışabilecek hale gelirse, bu durumun onların “kendi başlarına” hareket etmesinden değil, onları tasarlayan insanların niyetlerinden veya sistem tasarımlarındaki açıklardan kaynaklanacağını düşünüyorum. Bu nedenle, teknik olarak güçlü modeller tasarlamak kadar, etik ve sorumlu yapay zekâ sistemleri geliştirmek de büyük önem taşıyor.
“BENCE ESAS MESELE YAPAY ZEKÂDAN KAÇMAK DEĞİL, ONU İŞİMİZDE VE GÜNLÜK HAYATIMIZDA NASIL DAHA ANLAMLI VE VERİMLİ KULLANABİLECEĞİMİZİ DÜŞÜNMEK”
- İnsan gücü değerini kaybedecek yapay zeka yüzünden ya da emek değersizleşecek gibi bir fikir gelişirse yapay zekasız hayat gibi bir mücadeleye sahiplenenler çıkabilir mi? Yapay zekasız bir hayat taraftarları.
- Yapay zekâ artık hayatımızın ayrılmaz bir parçası ve bundan geri dönüş olacağını düşünmüyorum. Elbette herkesin bu gelişmelere tepkisi farklı olabilir; uzak durmak ya da kaçınmak isteyenler olacaktır. Ancak bu, zamanında işlem yaparken hesap makinesi kullanmaktan kaçmaya benziyor. Bence esas mesele yapay zekâdan kaçmak değil, onu işimizde ve günlük hayatımızda nasıl daha anlamlı ve verimli kullanabileceğimizi düşünmek.
Günümüzde kullandığımız yapay zekâ modelleri, özellikle metin ve görsel içerik üretiminde etkileyici sonuçlar veriyor. Ancak fiziksel dünyadaki birçok işi başarıyla gerçekleştirebilmeleri için hâlâ almaları gereken yol var. Bu da hasta bakımı gibi doğrudan emek ve insan teması gerektiren mesleklerin, en azından şimdilik, yapay zekâ tarafından devralınmasının kolay olmadığını düşündürüyor. Öte yandan, doğası gereği rutin ve tekrarlayan işleri barındıran pek çok mesleğin kaybolma veya en azından ciddi biçimde dönüşüme uğrama riski var. Buna karşılık; bilişsel yeti, analitik problem çözme becerisi ve yaratıcılık gerektiren işlerin yapay zekâdan etkilenecek —hatta kısmen değişecek— olmalarına rağmen, bu işler için nitelikli insan gücüne olan ihtiyacın artarak süreceğini düşünüyorum. Ancak bu değişim ve dönüşümden kaçmak bir çözüm değil; buna ayak uydurmanın yollarını düşünmek daha gerçekçi bir yaklaşım olacaktır.
Türkiye yapay zekada hangi adımları atıyor? Prof. Dr. Çiğdem Gündüz Demir anlatıyor
Devrim Mutfağı: ‘Devrimci’ler neler yedi, içti, işte sıra dışı bir gezinti
AKTOB Başkanı Kavaloğlu: Antalya gibi başka bir resort havalimanı yok
Finansın Gündemi Kıbrıs Türkü’nün sesi oldu: KKTC Meclis Başkanı Ziya Öztürkler konuştu
Büyükelçi Öktem’den kritik soru: İsrail 200 uçakla bombalarken İran uçakları nerede?
