Yapay Zekanın Çekeceği Acılar
Giriş
Merhaba, geçtiğimiz Cumartesi bülteni göndermemem üzerine genel olarak programıma baktığımda Cumartesilerin çok da uygun olmadığını fark ettim ve bülten için gün değişikliği yapmaya karar verdim. Bu haftayla birlikte Tuhaf Gelecek Bülten Çarşamba günleri öğleden sonra gelen kutunuzda olacak. Sizler de ne zaman isterseniz okuyabilirsiniz.
Sizler nasılsınız? Üç haftalık sürpriz kapanma umarım sizleri aşırı negatif şekilde etkilemiyordur.
Durum Güncellemesi
Bu hafta Tuhaf Gelecek cephesinden verebileceğim çok fazla haber yok. Genellikle daha arka plan işleriyle, okumalarla ve bir takım planlar üzerine çalışmakla geçti diyebilirim. Özellikle iş temposunun ve yoğunluğumun değişmeye başladığı bir dönemde olduğum için planlarda birtakım dönüştürmeler ve değişiklikler yapmam gerekiyor bu aralar. Bültenin günündeki değişiklik de bunun bir parçası.
Ancak NewsLabTurkey için geçtiğimiz hafta yazdığım yazı sizlerin de ilgisini çekebilir. Ethan Zuckerman'ın geçtiğimiz aylarda çıkan ve küresel güven sorununu kapsamlı bir şekilde ele alan Mistrust kitabını inceledim ve bunu biraz medyaya güven sorunu ile harmanlamaya çalıştım. Eğer günümüzdeki değişen toplumsal dinamikler ilgi alanlarınız arasındaysa kitabı da mutlaka okumanızı tavsiye ederim.
Yapay Zekanın Çekeceği Acılar
Geçtiğimiz hafta üzerine sıkça düşündüğüm konulardan birisi Yapay Zeka ve onu geliştirme süreci oldu. Gerçekten bilince sahip bir yapay zekayı nasıl yapacağımız kısmı değil ama bu süreç içerisinde karşımıza çıkacak olan ve muhtemelen pek az kişinin aklına gelen etik meseleler. (Eğer kişisel blogumu takip ediyorsanız bu konuya dair kısa bir post yazdığımı görmüşsünüzdür.)
Tüm bunları düşündüren en başta bilimkurgu yazarı Ted Chiang'ın New York Times'daki röportajı oldu. Burada konu yapay zekaya geldiğinde Chiang, bir anda tanımlamayı bir türlü başaramadığım bir sorunu önüme koydu. Kısaca özetlemem gerekirse: Bizler genellikle yapay zekanın gerçekleşme sürecini bir sabah insan seviyesinde bilince sahip olan sistemlerin varolduğu bir dünyaya uyanacağımız şeklinde hayal ediyoruz. Burada ara süreçlerin, daha "alt seviye bilinçlerin" (hayvan, bebek gibi) olmadığı ve bir algoritmadan bilince atladığımız bir senaryo genellikle aklımızdaki. Ancak bunun böyle olmayacağı açık, eğer bir şekilde silikon üzerinde de bilincin mümkün olacağı koşulları sağlamanın yolunu bulsak bile, bu aşamalar ile gerçekleşecektir.
Bu varsayım üzerinden devam ettiğimizde, bu ara seviyelerde ve geliştirme süreçlerinde bu bilinçler üzerinde yapılacak deneylerin, testlerin ve geliştirme çabalarının belirli duygusal sonuçları da olacağı aşikar. Evet, belki insan seviyesinde olmayacak ama tıpkı bir bebek veya hayvan gibi acı çekmesi ve başka hisler yaşaması da mümkün. Bu durumda da karşımıza önemli bir soru çıkıyor: yapay zeka hayalimizi gerçekleştirmek için bu acıyı kendi ellerimizle yarattığımız bir bilince çektirmek isteyecek miyiz? Ya da sonunda elde edeceğimiz şey tüm bunlara değecek mi?
Bu da aslında bizim yapay zeka konusuna bakışımızın ne kadar bilimkurgu etkisinde olduğunun bir göstergesi. Çoğunlukla yapay zekaya dair konuları konuşurken veya bunlar üzerine düşünürken final noktaya ve sonrasında olabileceklere odaklanıyoruz, o aşamaya fazlasıyla uzak olmamıza rağmen. Ama asıl üzerine düşünmemiz gereken ve görece çok daha yakın olduğumuz aradaki süreci ve bu aşamalardaki potansiyel senaryoları nadiren hesaba katıyoruz. Bu yaklaşım kaçınılmaz bir şekilde birçok önemli sorunu göremememiz anlamına geliyor, çünkü bu sorunların başlayacağı yerleri hesaba katmıyoruz.
Bu senaryonun gösterdiği bir diğer önemli nokta da bizlerin bilinç ve zeka tanımlarının nasıl eksikleri olduğu. Bilinci doğa üstü yollarla tanımlayanları bir kenara bırakacak olursak, aslında fazlasıyla kompleks bir sorun ile karşı karşıya kaldığımızı daha iyi anlayabiliyoruz. Bilinç kavramını net bir şekilde tanımlamaya çalıştığımızda da karşımıza çıkıyor bu sorunlar: sadece yetişkin insanların sahip olduğu yetiler üzerinden tanımlarsak bebekleri nereye koymak gerekiyor? Ya da artık hayvanlarda bilinç ve zekayı inkar edecek sağlam bir argüman kalmamışken neden insan temelli bir yaklaşımda ısrar ediliyor? Eğer farklı bilinçlerden söz ediyorsak bunların ayrımını neleri temel alarak yapıyoruz?
Tüm bunlar eğer konuya dair derin bir ilginiz varsa muhtemelen üzerine düşündüğünüz şeyler ama çoğunlukla işin teknik kısmından bakıldığında bunları konuşmaya sıra pek gelmiyor. Evet, Chiang'ın röportajında da dediği gibi doğada bilincin varlığı teorik olarak bunun başka yollarla da ortaya çıkmasının mümkün olduğu anlamına gelebilir. Ama bunu yapmak için bir yola çıktığımızda teorik ve teknik olanın ötesinde birçok felsefi ve etik soruyu da cevaplamamız gerekiyor. Acı/ızdırap da bunlardan birisi.
Bunun nasıl bir şey olabileceğine dair birçok kurgu eser var ama yakın zamanda yayınlanan ve gerçekten etkileyici bir şekilde bu perspektifi sunan eserlerden birisi Destiny 2 oyununun Beyond Light ek paketi. Burada oyun evrenindeki yapay zekaların (aynı zamanda bilinç ve hafıza yüklenebilen robotlar) geliştirme süreçlerini ve neler yaşadıklarını doğrudan terk edilmiş ölü bedenlerinden topladığınız hafızaları dinleyerek öğreniyorsunuz. Sert ama etkili bir anlatım yolu.
Elbette Chiang'ın ve benim bahsettiğim geleceğe dair potansiyel bir senaryo ama aslında günümüzde de sormayı sıkça unuttuğumuz bir soruyu bize hatırlatıyor. Çoğu zaman yeni teknolojileri veya fikirleri aşırı heyecanla ve çok fazla sorgulamadan benimseme hatasına düşüyoruz. Bir teknoloji veya araç popüler olduğu zaman soru sormadan her yerde onu kullanmaya, her sorunu o araçla çözmeye çalışıyoruz. Ama "buna gerçekten ihtiyacımız var mı", "bunu geliştirme sürecinde ne gibi yan etkileri olacak", "faydası yaratacağı zarara değer mi" gibi en baştan sorulması gereken soruları iş işten geçtikten sonra sorup cevaplamaya kalkıyoruz.
Bunun örneklerini sıkça gördük, görmeye de devam ediyoruz. Evet belki söz konusu Juicero gibi komik bir ürün olduğunda dalgası geçiliyor ama Starlink gibi kısa vadede süslü bir mega proje olan ama sonucu tehlikeli uzay çöplerinden başka hiçbir şey olmayacak projeleri hâlâ hiç sorgulamadan savunan insanları görmek mümkün. Çoğu zaman ün veya paranın mantıklı düşünme yerine kullanılabileceği zannediliyor ve işin kötüsü bu düşünceye sahip olan insanlar fazlasıyla tehlikeli konumlarda.
Neden bu sorgulamaya ihtiyacımız olduğunu anlatmak için yapay zeka iyi bir örnek. Çünkü çoğu zaman bu körlüğün etkilediği insanları görmezden gelmek fazlasıyla kolay olsa da burada daha "dikkat çekici" bir mağdurumuz var. Her sorunu çözmek için hevesle kullanmaya yer aradığımız "yapay zekaların" kimlerin hapse girmesine veya işsiz kalmasına neden olduğunu çok düşünmüyoruz, çünkü o insanlarla bu teknolojileri üreten ve satanlar arasında görmezden gelmelerine yetecek kadar büyük bir uçurum var. Ama söz konusu kendi bebeklerinin acı çekmesi ihtimali olduğunda belki biraz daha hassas olabilirler.
Çok farklı konuları bir araya getirip başınızı döndürdüm muhtemelen. Aslında anlatmak istediğim çok katmanlı bir konu: bir yanda sürekli büyük teknolojiler ve mega projelerden bahsedenler var ve bu fantezilerini bize dayatma gücüne sahipler. Diğer yanda ise neredeyse hiçbir gücü olmayan ama eleştirel bir bakış sağlayıp daha iyi ve herkes için faydalı projeler ve teknolojiler üretilmesine yardımcı olacak insanlar var. İkinci kesimin elinde hiçbir güç olmaması bir yana, aynı zamanda düzenli olarak da ilk kesimin baskısı ve susturma çabası ile de mücadele etmek zorunda kalıyorlar.
İşin daha kötü tarafı ise büyük anlamda bahsettiğim ilk kesimin aklını başına almasına muhtaç bir noktaya doğru ilerliyor olmamız. Hayatımızın hemen her alanında teknoloji giderek daha fazla yer kaplarken bunların geliştirilmesinden hayatımıza nasıl girdiklerine kadar birçok konuda bizlerin bir seçim şansı bile olmuyor. Bizlerin ihtiyaçları, öncelikleri ve sorunları ancak dev bir kriz ile karşı karşıya kaldıktan sonra akla geliyor. O noktada da müdahale edilebilecek alan fazlasıyla daralmış oluyor.
Bu güç dengesizliği kaçınılmaz bir şekilde geleceğimizi şekillendiriyor. Bir şekilde bu dengeyi sağlayamazsak (tersine çevirmek daha iyi bile olabilir) önümüzde gerçekten cyberpunk romanlarını mumla aratacak bir gelecek bizi bekliyor. Hoş, günümüzün de pek farkı kalmadı ama onu da bir başka hafta ele alırız artık.
Beş Tavsiye
- Signal CEO Hacks Cellebrite iPhone Hacking Device Used By Cops
- Russian man 'trapped' on Chinese reality TV show finally voted out
- How is babby formed? RIP Yahoo Answers – your eccentricity will be missed
- The mysterious user editing a global open-source map in China’s favor
- The Incredible Rise of North Korea’s Hacking Army
Kapanış
Bu haftalık notlarım bu kadardı. Eğer bu konular üzerine benimle konuşmak isterseniz bu emaile cevap yazabilir ya da diğer iletişim yollarından herhangi birini kullanabilirsiniz. Ayrıca bir nevi sanal ofis gibi kullandığım Discord sunucumuza da beklerim.
Haftaya görüşmek üzere!