Kontrolümüzden Çıkmayan Bir Yapay Zekanın Sonumuzu Getirebilmesinin Yolları

Yapay SüperZeka’ya ulaşıp ulaşamayacağımız ve bunun kurtuluşumuz mu yoksa sonumuz mu olacağı bugün sadece yapay zeka araştırmacılarının değil; konuyla az çok ilgilenen herkesin sorduğu sorulardan biri. Popüler bilim sitelerinin ve yayınlarının yapay zeka hakkında insanları bilgilendirmeye çalışırken ne kadar büyük hatalar içeren bilgiler verdiğinden; yapay zeka araştırmalarında karşılaştığımız ve karşılaşmamız muhtemel sorunlardan; aslında kimsenin neden “tekilliğin ne zaman gerçekleşeceği” konusunda isabetli bir fikri olamayacağından bahsetmeyeceğim. Bu yazının amacı yapay zeka konusunda bilgi vermek değil; insanlığım kurtulmasının tek yolu olan bu teknolojinin insanları işsiz bırakması ya da “bilinç”-çok yanlış anlaşılabilecek bir kelime- kazanıp hepimize “kasıtlı” – bu çok daha yanlış anlaşılabilecek bir sözcük- olarak saldırması haricinde hepimizin sonunu nasıl getirebileceğinden felsefi düzeyin üzerine çıkmadan bahsedeceğim.

İnsanoğlu olarak artık aklımızın karşılaştığımız problemler karşısında daima yetersiz kalacağını anlamış bulunmaktayız. Dünyanın en zeki insanları toplansa; amaçları sadece ama sadece tüm insanlığın menfaatleri olsa ve tüm güçleriyle de çalışsalar kendilerinden üst bir zekanın yardımı olmadan bu gezegeni kurtaramazlar. Bunun sebebine ister insan doğasındaki bencillik deyin, isterseniz doğadaki çetin koşullara karşı direnemeyişimiz deyin görmezden gelsek de değişmeyecek korkunç gerçek karşılaştığımız zorluklar konusunda son derece yetersiz kaldığımızdır. Kendi kendimizi mi yok ederiz; bilim ve teknolojimizin asla engel olamayacağı bir doğa olayı mı yoksa asla tahmin edemeyeceğimiz bir şey mi sonumuzu getirir bilmiyorum. Bildiğim tek şey muhtemelen insanlığın kurtuluşunun tek yolunun yapay zekadan geçtiği ve yeterince gelişmiş yapay zeka teknolojisinin istisnasız her problemimizi-ve evet insan doğasındaki karanlık yönün tamamen yok edilmesi de dahil- çözebilme potansiyeli olduğu.

Burada tamamen kontrolümüzde olan ve tam olarak programlandığı şeyi yapan yapay zeka teknolojilerinin nasıl sonumuzu getirebileceğinden bahsedeceğim. Varsayımlarımda kötü niyetli insanlar tarafından programlanışı manipüle edilen bir yapay zekadan bahsetmeyeceğim. “Özgür iradeli” makinelerin bizden nefret edip hepimizi öldürmesinden; bize işkence etmesinden de bahsetmeyeceğim. Burada tamamen “dost” yapay süperzekanın nasıl bizim hatta gezegenimizin hatta tüm evrenimizin sonunu getirebileceğinden bahsedeceğim.

1/YAPAY ZEKA İNSANLAR ARASINDA EŞİTSİZLİĞİ ARTTIRABİLİR

Yüzelli yıl önce dünyanın en şanslı insanı nelere sahipti? Akıllı telefonu var mıydı? Tedavisi olmayan kaç tane hastalığın tehdidindeydi? Entelektüel olarak ne kadar gelişmişti? Bilgisayar oyunu oynamış mıydı? Uçağa binmiş miydi? En önemlisi neleri hayal edebiliyordu? Jules Verne’in Ay’a Yolculuk Hakkında yazdığı ilk kitap yeni piyasaya sürülmüştü; peki bu kendisine ne kadar mantıklı geliyordu? Verne tarafından ikna edilmiş olabilir ama o sırada bir bebek olan H.G.Wells’in yıllar sonra nelerden bahsedeceğini duysa “hadi oradan” demez miydi?

Bugün çok daha fazla şeye sahibiz ama sahip olma ihtimalimizin çok düşük olan şeylerin sayısı çok daha fazla. Mutsuzluğumuzun temel sebebi şımarıklık değil; eskilerin hayal bile edemeyeceklerimiz şey çok yakınımızda kolumuzu uzatıyoruz; bazılarına erişebiliyoruz bazılarını kıl payı kaçırıyoruz. Ve hadi itiraf edelim en sinir bozucu şeylerden biri de eriştiğimiz şeylere başkalarının sahip olması ve biz daha az şeyi olanlara acı ve küçümseme ile bakması. Kapitalizmi eleştiririz ama direkt ya da dolaylı olarak para ile ilişkili olan özellikleri “üstünlük”, bunlara sahip olamamaya da “aşağılıklık” gözüyle bakmayı ihmal etmiyoruz.

Çok şükür “amaan en sonunda hepimizin sonu kara toprak” diyebiliyor ve sahip olamadıklarımızı aslında ne kadar abarttığımızı anlayabime kapasitesine sahibiz. Bir dakika hepimizin sonunun ölüm olduğundan mı bahsettim şimdi? Peki ya ölmemenin yolu hakkında bir fikre sahip olabilecek olsaydık?

Yapay Süperzeka rahatça biyolojik ölümsüzlüğün yolunu bulabilir. Evrensel çapta büyük bir felaketten biz biyolojik olarak ölümsüz canlıları koruyup koruyamayacağından daha sonra bahsedeceğim ama diyelim ki biyolojik ölümsüzlüğün, hadi o kadar iyimser olmayalım çok çok uzun bir yaşamanın bir yolu var diyelim. Ne kadar muhteşem değil mi?

Ben daha da hoş bir hayalden söz edeceğim, öyle bir ütopyada yaşıyoruz ki kimse bu hayattan asla bıkmıyor; yaşadıkça daha çok yaşamak istiyor çünkü ütopyamız her geçen saniye daha da güzel bir hale geliyor. Bugün hayatta yaşayabileceğimiz güzel şeylerin gayet sınırlı olduğunu biliyoruz; o yüzden ölüm kabullenilebilir bir şey. Bazılarımız için kabullenilebilir bir şey olmaktan öte sıkıntılarını sona erdirebilmenin tek yolu maalesef. Ölümü kabullenebilir olmakla övünüyoruz ancak ben en cesur insana şunu sormak istiyorum:

“Hayat bugünkünden binlerce ve hatta milyonlarca kat güzel olsa ve durdurulamaz bir şekilde daha fazla güzelleşse; daha fazlasını istedikçe istediğinden çok daha fazlası gelse; zavallı sınırlı hayal gücünün bile yarın nelerin icat edilebileceği hakkında bir fikri bile olmasa ölümü bu kadar kolay kabullenebilir miydin?”

Yapay Süperzekanın nelerin kapısını açabileceğini tahmin bile edemeyiz. Tam bizim istediğimiz gibi programlanmış bir yapay zeka yarattığı harika şeyleri insanlara eşit olarak paylaştırabilir mi? “Evet şu an herkese Superman’in güçlerini veremiyoruz ama sabredin bir süre sonra hepiniz ölümsüz olabilirsiniz; şimdiki imkanlarımızla sadece 100 kişiyi ölümsüz yapabiliyoruz!” cümlesini duyan insanların neler hissedebileceğini bir dakikalığına düşünebilir misiniz?

Yapay Süperzeka O Kadar Süperzeki İse Böyle Birşeyi İnsanlara Açıklayamayacak Kadar Zeki Olabilir Mi?

Diyelim ki insan kontrolünde olan yapay zeka sayesinde o an sınırlı sayıda insanı ölümsüz yapabiliyoruz. Dünyayı yönetenler de böyle bir şeyi halka açıklayacak kadar aptal değillerdir herhalde. Elbette “Bahsettiğimiz hayali gelecekte “elitler” olacak mı?” sorusunu sormak zorundayız. Devlet diye bir kavram olacak mı? Olduğunu varsaydık; hatta öyle ideal bir yönetim biçimi var ki bu üst kesimin bu işe layık olup olmadığı da teknoloji tarafından belirleniyor. Dünya en “iyi” insanların eline emanet edilmiş varsayalım. Bunu şimdilik gizli tutmayı düşüneceklerdir. Ve gerçekten kusursuz dercede iyi insanlar olduklarından bencilce davranmayıp ilk aşamadan ölümsüzlük nimetinden(???) yararlanacak kişileri ölmek üzere olan kişiler arasından rastgele seçeceklerdir. Bu heyecan verici keşif halktan gizli tutulacak; daha fazla insanı kurtarmanın yolları aranacak.

Peki insanlar arasında böyle bir şeyi tahmin edebilen; “ya birileri ölümsüzlüğün sırrrını buldu da ancak parası olan bundan yararlanıyorsa?” diye düşündüğünde ne yapacaklar? Gelecekteki insanlar daha zeki mi daha aptal mı olmalı? Eşit ölçüde aptallaştırılmış ve zihni kontrol edilen insanlar mı olmalı? Beyinlerini kullanmalarına gerek var mı yok mu? Zeki olmaları gereksiz diyelim; bu tarz bir zihin kontrolü ahlaki mi değil mi? Özgür düşünce omlet yapmak için kırılması gereken ufak bir yumurta mı?

Yapay Süperzeka varken insan zekasının bir şeye yaramayacağı kanısından nasıl emin olabiliriz? Biz bilgisayarları daha akıllı yapmanın yolunu bulduk; peki neden onlar bizi daha akıllı yapmanın yolunu neden bulmasınlar. Biz güçlendikçe onları güçlendirelim. Birlikten kuvvet doğsun ve kuvvetimiz müthiş bir ivmeyle büyüsün. Ve bu “anormal derecede zeki ve her an daha da zekileşen insanlar ve makineler” de bu muazzam akılları hiçbir zaman tahmin edilemeyecek bir davranışta bulunmasınlar. Makineler bizim kontrolümüzde ve bizi daha zekileştiriyorlar ama biz duyguları olan varlıklar zekileştikçe türümüzün menfaatine aykırı bir şey yapmıyoruz diye varsayalım. Böyle bir durumda hiçbir insan acaba “sosyal adalet” konusunda şüpheye düşmeyecek mi?

İnsan doğasındaki bencilliğin de çözümünü bulan yapay zeka acaba biz daha da zekileşmeye başlarken daha da karmaşık bir hale gelen psikolojimiz konusunda ne düşünecek? Bugün çok çok zeki bir insanın “tuhaf” bir kişiliğe sahip olmasını normal görüyoruz. O kadar zeki canlıların nasıl davranacaklarını kim kestirebilir?

Özetle bugün üç kuruşluk şeylerin kavgasını yapıyoruz. Ütopik(?) bir dünyada güzellikler hiç de “üç kuruşluk şeyler” olmayacak. Acaba bu kadar küçük şeyler için kavga edebilen ve ileride çok daha kompleks bir kişiliğe sahip olan insanoğlu “ölümüsüzlük” gibi daha önemli şeyleri paylaşabilme konusuna da kusursuz derecede ahlaklı yaklaşabilecek mi? Bu arada “ahlaklı” olmayı nasıl tanımladığımız; bencilliğin doğru olup olmadığı gibi şeyler konumuz dışıdır.

2/Bizi Artık Ciddiye Almaya Başlayan Uzaylılar

Uzaylılar var mı? (Yazının geri kalanında sürekli olarak “Dünya Dışı Varlık” demeye üşendiğim için “uzaylı” tabirini kullanmayı tercih ediyorum.) Varsa buraya geldiler mi? Buraya geldilerse gören oldu mu? Varlarsa bizimle neden iletişime geçmiyorlar?

Uzaylılar hakkında bir sürü çürütülemez varsayım ortaya atabiliriz ama ben yazımın bu kısmını tek biri üzerinden temellendireceğim. Bu görüşü “inanılmaz zeki uzaylıların var olduğu; bizden haberdar oldukları; bize belli etmeden bizi gözlemledikleri ve biz zavallıları ciddiye almadıkları” şeklinde ifade edebilirim. Ancak şu an hiç de hafife alınabilecek şeyler üzerinde çalışmıyoruz ve başarılı olursak artık bize saygı duymalarının vakti gelmiş olabilir. Sorun bu saygılarını nasıl ifade edecekleri.

Başka bir gezegende hayata gözlerini-bu canlılar göz gibi bir organa ihtiyaç duyar mı acaba?- açan bu canlıların bizimkiyle benzer bir psikolojiye sahip olduklarını düşünmek kısır hayal güçlü bilim kurgunun bizi olumsuz bir şekilde etkilemesinden kaynaklanıyor. Ama bu yazıda işleri daha da karmaşıklaştırmak istemiyorum diyelim ki bu canlılar bizlerden çok daha zeki olmalarına rağmen dünyamızdaki canlılar gibi düşünüyorlar. Çok gelişmiş bir medeniyete sahipler ama tamamen şanssızlıkları sonucu bizim yapmak üzere olduğumuz şeyin yakınında bile değiller. Bu durumda bunların tepkisi ve bizim bu tepkiye cevabımız ne olurdu?

a/İki Yabancı Irk Arasındaki Dostluk, Onlar Bizim Biz Onların Sırtını Kaşıyacağız

Gayet hoş bir şey gibi duruyor ama… Eğer evrende yalnız değilsek ve bu ittifak kurduğumuz toplumla aynı koşulda olan başkaları da varsa? Onlar bizim kurduğumuz bu ortaklıktan memnun olacaklar mı?

Onların elindeki teknoloji ve onların bu cömert(!) yardımları tahmin etmediğimiz bir şeye yol açar mıydı? Belki onlar da yapay zeka gibi ya düşmanın ya da bizim elimizde patlayacak bir el bombasına benzeyen bir güce sahiptirler.

Biz onların uzattığı zeytin dalını kabul eder miydik? Yapay zeka bu konuda bir karara varmamızı sağlayabilecek kadar geliştiğibi varsayabiliriz. Ancak ya böyle bir diyalog tekilliğe ulaşmamızdan çok daha önce gerçekleşirse? Allah aşkına bugün böyle bir olay yaşasak her kafadan ayrı bir ses çıkmaz mı? Böyle bir şey ülkeleri birbirine düşürmez mi? Peki onların aldığı bu karar kendi içlerinde bazılarının hoşnutsuzluğuna sebep olur ve orada iç savaşı başlatırsa ne olacak? “Kardeşi kardeşe düşürdünüz bu sizin suçunuz” diyen başka bir grup bize saldırırsa ne yaparız?

b/”Şu Gezegen Artık Haddini Aştı En İyisi Hadlerini Bildirelim” Derlerdi.

-Peki böyle bir savaşın galibi kim olurdu? Kazansak bile bunu kayıpsız atlatır mıydık? Bizi öldürmeyen bu şey bizi güçlendirir miydi yoksa kötürüm mü bırakırdı?

-Böyle bir savaş evrendeki başkalarını rahatsız eder miydi? Onlar da savaşa bambaşka bir açıdan dahil olur muydu? Müzakere yapmak üzere olduğumuz varlıklar “Dünyalılarla el sıkışmayın yoksa fena olur” diye bir tehdit alır mıydı?

-Böyle bir savaş evrende nasıl bir “kelebek etkisi” yaratırdı?

c/Yapay Zekanın Bize Verdiği Güçle Yaptığımız Çalışmaları Saklardık

Yapay Süperzeka varlığını evrendeki bu tehlikeli varlıklardan gizleyebilecek kadar zeki. Ve gökyüzünden gelebilecek potansiyel tehditlerin olduğunu biliyor. Bunu öğreniyoruz, onların kimler olduğunu, ne ölçüde dost ve düşmanımız olduğunu ölçüyoruz. Peki sonra ne olacak?

Biz insanlar bu tehdite karşı ne yapmamız gerektiği konusunda mutabakata varabilecek miyiz? Teknolojimizi daha fazla geliştirmeye karar verdik diyelim ki olağanüstü güçlü bilgisayarlarımız tüm enerjilerini bu tehdidi nasıl savuşturabilecekleri üzerinde düşünmeye ayırırlarsa ne olacak? Bu kadar umut bağladığımız bir şeyin bizi yarı yolda bırakması soyumuzun tükenmesine sebep olmaz mı? Aynı anda hiç verim kaybı yaşamadan hem dünyamızı iyileştirmeye, hem varlığımızı gizlemeye hem de bir gün kaçınılmaz olan bu tehdide karşı ne yapabileceği konusunda kafa yoran makineler “bu problemin bir çözümü olmadığı, çözülse bile başka problemler doğuracağını düşünerek ” yapabilecekleri en doğru şeyin “kendilerini imha etmek”; ya da “kendilerini haddinden fazla geliştirmemek” olduğunu düşünürlerse ne olacak? Bu teknoloji üzerinde çalışırken durmanın bozacağı dengeler açısından kıyametimize sebep olmayacağını düşünmek için hiçbir mantıklı sebep yok.

Üzerinde çalıştığımız bu şeyi bazı uzaylılardan gizleyebilirken bazılarına yakalanmayacağımızı ya da en azından bazılarının şüphelerini çekmeyeceğimizi varsaydım elbette.

d/Bu Gezegendekiler “Bu Araştırmaları Durdurun Herşeyi Riske Atıyorsunuz” Dediklerinde Nasıl Bir Cevap Verirdik?

Vereceğimiz cevap evet olursa bu durmamız anlamına gelir. Bizden bunu isteyenler zararımızı nasıl karşılayacaklar? Eğer bunu telafi edemezlerse durmamız sonumuz olur.

Diyelim ki biz yapay zeka üzerinde çalışmayı bıraktık diğer gezegenler buna ne tepki verecek bunun sonuçları ne olacak?

e/Ya Bizim Teknolojimizi Gasp Etmeye Çalışırlarsa?

“Dünyalılarla anlaşmak ya da savaşmak makul değil, en iyisi oyuncaklarını elinden alalım” dediklerinde ve bunu denediklerinde bunun sonucu zaferimizde dahi muhtemelen epey can sıkıcı olacaktır.

f/Asla Tahmin Edilemez Bir Evrensel Kaosla Karşılaşır Mıyız?

Diyelim ki bizle görüşen tüm gezegenlerle anlaşmaya vardık ya da onlarla mücadelemiz bizim zaferimizle sonuçlandı. Bu her halükarda evrende görece büyük bir kelebek kanat çırpması anlamına gelir ve aklımızın alamayacağı bir şeyle sonuçlanmayacağını asla bilemeyiz.

3/Karşı Önlem Olan Başka Bir Yapay Zeka ve Büyük Bir İç Savaş

İçimizde endişeli bir grubun emniyet tedbiri olarak üzerinde gizlice çalışabileceği bir yapay zeka nelere sebep olabilir?

Böyle bir şeyin imkansız olabileceği düşünülebilir ama yapay süper zekanın kendinden daha zeki yapay süperzekalar yaratabilmemizin yolunu açması ve bunların gizli olarak yapılabilmesini mümkün kılmaması için bir sebep yok.

a/Yapay Süper Zeka A, Yapay Süper Zeka B’ye Karşı

Ya da başka bir yapay zekayla daha savaşmak zorunda..

b/İnsanlar da Bu Savaşa Dahil Oluyor!

Olmamamız için sebep yok.

c/Tedbir İçin Üretilen Yapay Zeka Biraz Önce Bahsettiğim Uzaylılardan Yardım Alıyor!

Ya da uzaylılar bu yapay zekayı kontrol ediyor.

d/Karşı Tedbir Yapay Zeka Kötü Niyetli İnsanların Eline Geçiyor

Ve kötüler kazanıyor.

d/Bu Savaş Bizim İçin Kazanması En İyi Olan Tarafın Galibiyetiyle Bitiyor

Ancak herşeyin bir bedeli var ve bu tatsızlık acil ihtiyaç duyduğumuz kaynakları tüketmiş, çok sayıda insanın ölümüne sebep olmuş ve ruh sağlığımızı bitirmiş durumda; ayağa kalkamayacak kadar kötü düştük.

e/Bu Savaş Yapay Zeka Çalışmalarının Sonu Oluyor

Durmanın sonucu tartışmasız yok oluşumuz olacaktır.

4/Ya İyi, Herkesin Faydasına ve Doğru Olan Aslında İyi, Herkesin Faydasına ve Doğru Değilse

Doğası gereği her yazılım programlandığı şeyi yapar. Biz yapay zeka üzerinde kontrolümüzü kaybetmezsek ve her istediğimizi yapıp her istediğimizi bize verirse ortada bir sorun olmayacağını düşünmeye eğilimliyiz. Ama bizim tüm insanlık için en iyi olduğunu düşündüğümüz şey aslında insanlık için en iyisi değilse?

Yazının başlarında ölümsüzlük örneğini verdim. Ölümsüzlük acaba gerçekten güzel bir şey mi? Eğer kötü bir şeyse neden kötü? Eğer sadece belirli şartlar sebebiyle kötü bir şeyse bizden daha akıllı varlıklar o kötü şartları elimine edebilir mi?

a/Yapay Zeka Bizim İçin Neyin İyi Olduğunu Analiz Edebilecek ve Bunu Öğrenmemizi Sağlayacaktır Ancak Bu Durumda Tepkimiz Ne Olacak?

İnsanların karmaşık canlılar olduğunu biliyoruz, ancak biz bile türümüzün büyük bir çoğunluğunun hangi davranışlar karşısında nasıl tepki verebileceğini büyük ölçüde kestirebiliyoruz. Çocukluğu x şekilde geçmiş kişinin y şeklinde kişilik geliştirme ihtimalinin %z olduğunu bile söyleyebilecek durumdayız; evet bu konuda bilimin ürettiği savlar her zaman doğru olmasa da sonuçta bir şeyler biliyoruz. Yeterince zeki bir yapay zekanın bizi bizden daha iyi tanımaması imkansız. Bu açıdan belki biz değer yargılarımızı şekillendirmek için bugünkünden daha fazla olanağa sahip olacağız.

Ancak amaçlarımızı ne yönde değiştirmemiz gerektiğini öğrenmek bunu yapacağımız anlamına gelmez. Yeni elde ettiğimiz cevaplar hepimizin hoşuna gitmezse ne olacak? Kendi bildiğimizi mi yapacağız, teknolojimizin tavsiyesine mi güveneceğiz? Kendi bildiğimizi yapacaksak ve teknolojimizi bugün var olan felsefemize hizmet etmek için kullanacaksak bile bile ölüme gitmiş olacağız.

b/Ya Bize Tavsiye Edilen Hayat Görüşü Eskisinden Daha da Yanlışşsa?

İçerisinde bulunduğumuz koşullar eskisinden de karmaşık bir hale gelecek, bu durumda “insanların iyiliği için neler yapılması” gerektiğini hesaplamakla uğraşan yazılımın işi çok daha zorlaşacak. Bu durumda hata yapması hiç de düşük bir ihtimal olmaz.

Görüldüğü gibi yapay zeka konusunda ilerlememizin doğurcağı tek risk “bilinç kazanıp bize saldıran makinelerden” oluşmuyor. Yazmaya çalıştığım ancak bıraktığım kısa bir bilimkurgu öyküsü hakkında düşünürken aklıma gelen potansiyel tehditlerden bahsettim sadece. Yapay zeka, benim aklıma gelmeyen; hatta bu işin uzmanlarının da aklına gelmeyen bir sürü farklı şekilde sonumuzu getirebilir, özetle insanlık olarak bu sefer çok büyük bir güç yaratmanın eşiğindeyiz gibi gözüküyor. Umarım ters tepen bir durum olmaz ve umuyorum ki hepimiz “bir sonraki çağı” görecek kadar uzun yaşarız; çünkü bu bence bir distopya bile olsa görülmeye değer olacaktır.

Reklamlar

Bir Cevap Yazın

Aşağıya bilgilerinizi girin veya oturum açmak için bir simgeye tıklayın:

WordPress.com Logosu

WordPress.com hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap / Değiştir )

Twitter resmi

Twitter hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap / Değiştir )

Facebook fotoğrafı

Facebook hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap / Değiştir )

Google+ fotoğrafı

Google+ hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap / Değiştir )

Connecting to %s