Bill Gates ve Elon Musk Yapay Zekadan Neden Korkuyor? >> Düşünen robotlar dünyayı ele geçirir mi? – 1 » Kozan Demircan
İçeriğe geç	
Anasayfa
Videolar
Hakkımda
Hakkımda
Eğitimler
İletişim
Gizlilik
Arşiv
Arama...
Dolaşım menüsü
Arama...
Dolaşım menüsü	
Anasayfa
Videolar
Hakkımda
Hakkımda
Eğitimler
İletişim
Gizlilik
Arşiv
Ana Sayfa » Bilim-Teknoloji » Bill Gates ve Elon Musk Yapay Zekadan Neden Korkuyor? >> Düşünen robotlar dünyayı ele geçirir mi? – 1
Bill Gates ve Elon Musk Yapay Zekadan Neden Korkuyor? >> Düşünen robotlar dünyayı ele geçirir mi? – 1
Kozan Demircan
11/02/2015 25/02/2016
13 yorum
28 Ocakta Reddit tarafından düzenlenen “istediğini sor” oturumuna katılan kullanıcılardan biri (beastcoin) Microsoft’un kurucusu Bill Gates’e şu soruyu yöneltti: “Süper zekalı makineler sizce insanoğlunun varlığını tehdit ediyor mu, ediyorsa ne kadar ediyor ve internet etkinliğinin tümüyle şifrelenmesi bizi bu tehlikeden korur mu?”
Bill Gates internetin tümüyle şifrelenmesini ve böylece NSA ile Microsoft’un insanları gözetlemesinin imkansız hale gelmesini istemediği için bu sorunun ikinci kısmına yanıt vermedi, ama Yapay Zekadan endişe duyduğunu söyledi:
Kaygılıyım
“Süper zeka konusunda çok kaygılıyım. Önce makineler birçok alanda işimizi görecekler ama bu aşamada süper zeka seviyesinde olmayacaklar. Bunu iyi yönetirsek olumlu sonuçlar alırız. Ancak birkaç on yıl sonra makineler bize kaygı verecek kadar zeki olacaklar. Bu konuda Elon Musk’la diğerlerine katılıyorum ve insanların bundan neden kaygı duymadığını anlamıyorum.”
Aslında SpaceX şirketiyle insanlığı Mars’a taşımayı hedefleyen ve elektrikli Tesla otolarla bizi fosil yakıt bağımlılığından kurtarmaya çalışan Elon Musk’ın ve Microsoft’un kurucusu Bill Gates’le diğer iş adamlarının süper zekadan, yani insanlardan daha zeki olan düşünen robotlardan neden korktuğu belli.
Ancak bunu anlamak için önce düşünen robotlar ve bilgisayarlar geliştiren şirket yöneticileriyle bilim adamlarının görüşünü almamız gerekiyor. Sorunun cevabını yazının sonunda vereceğiz fakat sabırsızlananlar için baştan söyleyelim, Bill Gates gibi büyük şirket sahiplerinden başka kimse Yapay Zekadan pek korkmuyor. Hele yazılımcılar, bilgisayar bilimciler ve robot uzmanları hiç korkmuyor.
Terminator ve Battlestar Galactica gerçek olur mu?
Öncelikle şunu söyleyelim; süper zeka ve düşünen robotlar henüz gelmedi ama aptal robotlar, yani otomatlar yüz yıldır aramızda. Bugün Android telefonlardaki Google Now yazılımı, Windows telefonlardaki Cortana ve iPhone Siri hep yapay zeka. Belki teknik adıyla güçlü yapay zeka değil, ama zayıf yapay zeka.
Ona bakarsanız Google’ın sürücüsüz arabaları, laptoplar, uçakların oto pilotları, insansız hava araçları, dronlar, Honda’nın Asimo robotu, otomotiv fabrikalarındaki robotlar, evimizdeki programlanabilir çamaşır ve bulaşık makineleri de yapay zeka.
Bugün yapay zeka olmasıydı ne kaloriferler yanar, ne musluktan su akar ne de elektrikli cihazlar çalışırdı. Bununla birlikte robotlar ve bilgisayarlar henüz dünyayı ele geçirmedi.
Peki hep öyle mi olacak? Belki bugün dünyayı ele geçirecek kadar akıllı değiller ama yarın ele geçirecekler. En azından ünlü fizikçi Stephen Hawking Yapay Zekadan korktuğunu söylerken böyle mantık yürütüyor.
Hawking’in korkusu
Stephen Hawking, Einstein’dan sonra gelen en büyük fizikçilerden biri olarak kabul ediliyor. Ancak Hawking aynı zamanda hiçbir şirkette çalışmayan ve tekerlekli sandalyeye mahkum olan bir düşünür. Hawking’in görüşleri bu yüzden önemli, çünkü Bill Gates gibi ticari kaygıları yok. Ne konuşuyorsa tarafsız söylüyor ve diyor ki:
“Yapay zekanın ilkel türlerinin son derece yararlı olduğunu çoktan gördük. Ancak tam kapsamlı bir yapay zekanın geliştirilmesi insanlığın sonu olabilir. İnsanlar yapay zekayı geliştirdikten sonra, bu tür bir zeka kendi yolunu çizerek kendini yeniden tasarlayabilir ve sürekli artan bir hızda gelişebilir.”
Peki bu Hawking’i neden korkutuyor? Çünkü Hawking bugün dünyaya egemen olan zekanın yaptıklarını görüyor: Savaş, yoksulluk, açlık, sömürü, cinayetler, değersizleşme, çevre kirliliği, küresel ısınma, türlerin soyunun tükenmesi, ırkçılık, nükleer silahlar… İnsanlar bütün bu kötülükleri yaptıysa insandan zeki olan bir robot neler yapar?
Amerika’yı yeniden keşfetmeyin: Platon’u dinleyin
Oysa günümüzden yaklaşık 2300 yıl önce yaşamış olan Platon kötülük cahillikten gelir demişti. Gerçekten bilgili olan bir insan kötülük yapmaz.
Bu bağlamda psikiyatrik rahatsızlıkların da insanların bilge olmasının önünü keserek kötülüğe yol açtığını söyleyebiliriz. Örneğin akli melekeleri yerinde olmayan bir insanın akademik eğitim almış olsa bile gerçekten bilgi ve irfan sahibi olduğunu söyleyebilir miyiz?
En iyisi lafı dağıtmadan dijital filozof Nick Bostrom’a geçelim. Bostrom geçen yıl Google’ın Mühendislik Direktörü Ray Kurzweil’ın açtığı Singularity Üniversitesi’nde düzenlenen ve ünlü gelecek bilimcinin bizzat katıldığı bir seminerde yapay zekadan, özellikle de süper zekadan, yani insanlardan zeki olan makinelerin gelişinden söz etti.
Makinelerin gazabı
Özetle dedi ki kağıt ataşı üretmek için elindeki tüm kaynakları kullanmaya programlanmış olan süper zeki bir makine geliştirirsek o makine bütün insanları eritip suyumuzu çıkarabilir ve hepimizi kağıt ataşı yapmak için ham madde olarak kullanabilir. Bu durumda insan soruyor: Peki sonsuza kadar kağıt ataşı üretmek için çalışan ve üretimi optimize etmek amacıyla insanoğluna soykırım yapmaya karar veren bir makine gerçekten zeki olabilir mi?
Bence bu çok aptal bir makine olurdu ve 20 Şubatta Lütfü Kırdar’da düzenlenecek alldesign Yaratıcı Endüstriler ve Gelişen Teknolojiler Fuarı & Uluslararası Tasarım Konferansları‘nda bir konuşma yapacak olan Bostrom’a neden böyle bir makineyi insanlığı tehdit eden süper zeka sınıfına soktuğunu soracağım.
Oxford Üniversitesi’nde insanoğlunun varlığını tehdit eden riskler üzerinde uzmanlaşan ve İnsanlığın Geleceği Enstitüsü yöneticisi olan Bostrom’un son derece aydınlatıcı bir cevap vereceğinden eminim. Gerçi Bostrom’un cevabını az çok tahmin edebiliyorum ve cevabını aldıktan sonra Popular Science Türkiye’de sizlerle paylaşacağım. 🙂
Öyleyse neden bir bardak suda fırtına koparıyorlar?
Yapay zeka tehlikesi gerçek mi yoksa “yapay” mı? Bu sorunun cevabını bulmak için yapay zeka geliştiren startup şirketi Vicarious’un kurucu ortaklarından Dileep George’u dinleyelim. Bakalım o, süper zekanın tehlikeli olup olmadığı konusunda ne düşünüyor?
Dileep, “İnsanlar tarih boyunca birçok teknolojiden korkup paniğe kapılmıştır” diyor. “Buhar makinesinden nükleer enerjiye ve biyoteknolojiye uzanan bir süreç bu. Çünkü toplumsal histeriye odaklanırsanız daha çok gazete ve film bileti satarsanız. Bence yapay zeka konusunda korkuların abartılmasının sebebi de bu”, korkudan para kazanmak.
“Biz araştırmacıların Hollywood zihniyeti ile gerçek dünya arasındaki farkı göstermek için halkı eğitme yükümlülüğümüz var. Üstelik yapay zeka topluluğu şu anda halkı korkutacak bir şey icat etmekten çok ama çok uzak.”
Peki ya Vicarious çıkarcı ise?
Açıkçası az önce Bill Gates için kullandığımız argümanı Vicarious için de kullanabiliriz. Belki de Dileep George yapay zeka geliştirerek para kazanmak istediği için yapay zekadan korkmuyor. Belki de tehlikeyi bizden saklıyor. Ancak bu konuda hemen sonuca varmadan önce şirketin diğer kurucu ortağı olan D. Scott Phoenix’in sözlerini aktaralım:
“Dünyanın önde gelen yapay zeka şirketleri güvenliğimizi sağlamak için büyük önlemler aldılar. Bu şirketler tehlikenin farkında, ama dijital süper zekayı şekillendirip kontrol ederek kötü niyetli yazılımların internete kaçmasını önleyebileceklerine inanıyorlar. Bakalım, göreceğiz.”
Phoenix’in bu noktada Terminator filmindeki kötücül yazılım Skynet’ten söz ettiğini anlayabiliyoruz. Skynet interneti ele geçirip nükleer savaş başlatarak insanoğluna savaş açmıştı. Peki bugün Skynet olsa insanlığa saldırmak için ne gerekçesi olabilirdi? Belki fişini çekmek istersek kendini kurtarmak için bize saldırırdı.
Asimov’un 3 robot yasası
Ancak dikkat edilecek olursa bu davranış Skynet’in süper zeka olmadığını gösterirdi. Çünkü bir bilgisayar fişini çekmek gibi basit bir saldırıdan korkuyorsa bir insandan daha zeki olamaz. Yine de bunlar zor sorular.
Sonuçta her yazılımın güçsüz olduğu bir an ve savunmasız bir bilgisayara bağlı olduğu bir dönem olabilir. Biz de bu bağlamda Phoenix’in değindiği iki noktayı açalım ve yapay zeka tehlikesini önlemek için neler yapabileceğimize bakalım.
1) Süper zekayı şekillendirmek bence düşünen robotları ve bilgisayarları çocuk gibi eğitmek anlamına geliyor. Öyle ya, çocuklarımıza sosyalleşip kendilerine ve topluma yararlı bireyler olmaları için aile içinde ve okulda eğitim veriyoruz. Robotlarımızı neden eğitmeyelim?
2) Süper zekayı kontrol etmek: Bu kavram yeni değil aslında, hemen bütün bilimkurgu eserlerinde var ve İngilizcesi Shackled AI, yani ayağına pranga vurulmuş yapay zeka. Açıkçası, özel yazılım kodları ile daha kernel seviyesinde kötülük yapmamak için programlanmış olan yapay zeka. Bunun en basit örneği ise Asimov’un 1940’lardan itibaren yazmaya başladığı robot öykülerinde geçen üç robot yasası:
(1) Bir robot bir insana zarar veremez veya hareketsiz kalarak bir insanın zarar görmesine göz yumamaz. (2) Bir robot insanların verdiği emirlere uymak zorundadır, birinci yasa ile çelişmediği sürece. (3) Bir robot birinci ve ikinci yasayla çelişmediği sürece kendi varlığını korumak zorundadır.
İyi yürekli robot diktatörler
Ancak Asimov’un 1985 tarihli Şafağın Robotları romanında anlattığı gibi Giskard adlı bir robot zamanla kendi içinde “0 yasasını” geliştirdi.
Sıfır yasası birinci yasadan bile önce geliyordu. Buna göre bir robot insanlığa zarar veremez veya hareketsiz kalarak insanlığın zarar görmesine göz yumamaz. Birinci, ikinci ve üçüncü yasa sıfır yasasından sonra gelir ve sıfır yasasına uymak zorundadır.
Romanda Giskard karşısındaki insanı görebiliyordu ama insanlığın ne olduğunu, bu soyut bir kavram olduğu için göremiyordu. Bu sebeple, ne olduğunu tam olarak bilmediği insanlığın evi olan Dünya’yı yok etmek isteyen bir insana zarar verdiği için kısa devre yapıp bozulmuştu.
Aynı çelişkiyi Mass Effect 3 video oyununun sonunda görüyoruz: Komutan Shepard galaksideki tüm gelişmiş uygarlıkları asimile etmeye çalışan dev akıllı uzay gemilerini, Azrailleri durdurmak için üç seçeneğe sahip bulunuyordu:
Ya Azrailleri yok edecek, ya zihnini Azraillerin ana bilgisayarına yükleyip bütün insanlığı iyi yürekli bir diktatör olarak yönetecek (insanlığı kendi işlediği suçlardan koruyacak) ya da organik canlılarla makinelerin birleştiği sentetik bir uygarlık kuracaktı.
(Bu durumda hem makineler hem de insanlar özgür iradeye sahip olacaktı, ama Shepard bu kararı kimseye danışmadan kendi başına alacaktı. Tıpkı bizim iyiliğimizi düşünen bir süper zekanın yapabileceği gibi).
Bill Gates korkmakta haklı mı?
Bill Gates’in Yapay Zekadan korkmasının sebepleri burada biraz daha netleşiyor: Örneğin, yeterince zeki ve bilgili olan iyi yürekli bir bilgisayar sırf insanlığın iyiliği için dünyayı ele geçirir ve bize okullardaki otoriter öğretmen muamelesi yaparsa ne olacak?
Ya toplumun iyiliği için bazı insanları öldürür veya hapsederse ya da insanların beynini yıkarsa ne olacak? Ancak bu noktada Platon’un argümanına geri dönebiliriz. Platon olsaydı o makine zeki olabilir ama akıllı değil, aptalın teki ve cahil derdi.
Bu bir kelime oyunu değil. Burada çok basit bir argümanı tartışıyoruz: İnsan seviyesindeki yapay zekadan korkmamız gerekir çünkü insan kadar zeki varlıkların insan kadar bencil ve kötü olma ihtimali var.
Ancak süper zekadan korkmak saçma olur, çünkü Evren’in sırlarını anlayacak ve derviş gibi erecek kadar gelişmiş bir yapay zeka asla insanlığa zarar vermez.
Süper zeka aynı zamanda bilge bir varlık olur ve bilge robotlar kimseye zarar vermezdi. En fazla fani dünyayı yetersiz bularak Her filmindeki Samantha adlı bilgisayar yazılımı gibi Evren’in sırlarına vakıf olmak için terk-i dünya ederlerdi. Bu da bir bakış açısı.
Nick Bostrom’un görüşleri
Dijital Filozof Nick Bostrom’un yapay zeka ve özellikle de süper zeka hakkındaki görüşlerini özel bir yazıyla ele alacağız. Ancak burada kısa bir giriş yapabiliriz:
Nick Bostrom son derece gerçekçi bir filozof olarak süper zekanın bir anda geliştirilemeyeceğini biliyor. Süper zekanın geliştirilmesi en az otuz yıl alacak. Kurzweil’ın dediği gibi bir gün insan gibi yürüyen robot göreceğiz, öbür gün insan gibi satranç oynayan robot, ardından insan gibi gülen robot ve aşık olan robot. Sonra bir bakmışız ki bizden zeki robotlar piyasaya çıkmış.
Bu noktada yapay zeka göstere göstere geliyor diyebiliriz, yani kendimizi korumak için önlem almaya yeterince vaktimiz olacak.
Yapay Zekanın Şafağı yazı dizisinde belirttiğim gibi, bence düşünen robotlar gelişmeden önce bizzat insanlar organik birer süper bilgisayara dönüşecek ve telepatik internetle birbirine bağlanan insan beyinleri paralel işlemcili dev bir ortak akıl yaratacak.
Belki de filozof Hegel’in Gestalt ortak aklı ile Eski Yunan uygarlığının canlı gezegen Gaia konsepti, Isaac Asimov’un Vakıf ve Dünya romanında olduğu gibi birleşecek. Belki de Dünyamız yaşayan dev bir bulut bilişim gezegenine dönüşecek. İnsanlarla hayvanların, bitkilerin, bakterilerin, virüslerin, makinelerin, bilgisayarların ve hatta dağların köklerindeki kayaların hemhal olduğu bir dünya. Bir telepatik internet dünyası.
Önce insanlar bilgisayar olacak
Süper zekanın insanlara zarar vermeyeceğini düşünüyorum çünkü şöyle bir varsayım yürütüyorum: Yapay süper zeka gelişene kadar bizzat insanlar süper zeki varlıklara dönüşebilirler. Böylece aklı başına gelen (!) insanlar gerçekten iyi yürekli ve akıllı olan bir yapay süper zeka ortaya çıkmasını sağlayabilirler.
Gerçi yapay süper zekanın kısa süre içinde hızla gelişerek, süper bilgisayara dönüşmüş olan insanlardan bile daha zeki olacağına kesin gözüyle bakılıyor. Örneğin Nick Bostrom bilgisayarların her zaman insanlardan daha hızlı gelişeceğini söylüyor. Beynimize bilgisayar işlemcisi taksak bile.
Ancak süper zeki insanların ortaya çıkması, yapay zekayla konuşarak bizi anlamasını sağlamak ve bize zarar vermesini önlemek üzere vakit kazanmamızı sağlayabilir. Yapay süper zekayla konuşacak kadar zeki olacağımız için bunu başarabiliriz.
İyi de bugün kim süper zeka geliştirmeye çalışıyor?
Açık söyleyelim; IBM’in ve diğer şirketlerin insan beynine benzeyen bilgisayar devreleri geliştirmesine rağmen bugüne dek kimse insan kadar zeki bir bilgisayar üretemedi. Bugün “güçlü yapay zeka” bile üretmedik. Nerede kaldı süper zeka? Bu sebeple Vicarious şirketi de süper zeka geliştirmeye çalışmıyor.
Öyleyse Bill Gates neden korkuyor? Belki de süper zekayı kontrol edememekten korkuyor. Örneğin süper zeka geliştirecek olsak ve bu kötü bir yaratık olsa, yarattığımız kötü Süpermen’i hangi hapishanede tutacağız? Süper zekayı hapsetmek mümkün mü? Nick Bostrom’un dediği gibi bizden zeki olduğundan mutlaka kaçmanın bir yolunu bulmaz mı?
Google yapay zekayı araştırırken Facebook boş durmuyor
Facebook’un yapay zeka araştırmaları direktörü ve New York Üniversitesi Veri Bilimleri Merkezi’nin kurucusu olan Yann LeCun bu soruyu şöyle cevaplıyor:
“Bazıları Varsayalım ki iyi niyetli ve bağımsız bir süper zeka var, bu zeka kendini yeniden programlayarak kodundaki güvenlik önlemlerini devre dışı bırakırsa ne olur? diye soruyor. İnsanlardan kurtulmak için prangalarını kırarsa ne olur? Tabii bunu söyleyen insanların büyük kısmı yapay zeka araştırmacıları değil, hatta bilgisayar bilimci bile değiller.”
LeCun bu noktada süper zeka ile bağımsız zekanın farklı şeyler olduğunu hatırlatıyor ve istersek bağımsızlığı elinden alınmış olan bir süper zeka da geliştirebiliriz diyor. Bunun için robotları hapsederek köle gibi çalıştırıp onları Battlestar Galactica’da olduğu gibi isyan etmeye zorlamamıza gerek yok.
Aptal süper zeka
LeCun’un belirttiği gibi bugün insandan daha iyi satranç oynayan ve IBM’in Watson bilgisayarı gibi Riziko yarışmalarını kazanan yapay zeka ürünleri var. Bunlar bazı şeyleri insanlardan daha iyi yapıyor diye süper zeki olduklarını söyleyebilir miyiz?
Bu tür yazılımlar günlük hayatımızı kontrol ediyor ve kendi alanlarında bizden kat kat iyi çalışıyorlar. Örneğin uçaktan atılan füzenin hedefi vurma yeteneği bir insandan çok daha üstün.
Aslında LeCun’un söylemek istediği şu: Süper zeka yaratmak insan gibi kendinin farkında olan bilinçli ve akıllı (?) bir canlı yaratmak anlamına gelmiyor. Aptal süper zeka da olur ve bu tehlikeli olabilir.
Oysa yazımızın başında gerçek süper zeka asla aptal olmaz demiştik. Şimdi bu argümanı biraz daha açabiliriz. Yapay zeka, hatta bilinçsiz süper zeka yanlış programlandığı için insanlık açısından tehlikeli olabilir. Ancak bilge bir süper zeka asla tehlikeli olmayacaktır. Çünkü insanların hayal bile edemeyeceği kadar ahlaklı bir varlık olacaktır.
İnsanoğlu kendinden daha bilge bir varlık yaratacak kapasiteye sahip değil ama yapay süper zeka insandan çok hızlı gelişerek bizden daha bilge olabilir. Böylece yapay zeka bizi yok edecek diye korkmamıza gerek kalmayabilir.
Yapay Tanrı
LeCun, “Yakın gelecekte fare kadar zeki makineler üretebilsek şaşar kalırdık ama bunu yapmaktan bile uzağız” diyor. Yine de Bilge bir süper zeka gerçekten bizim iyiliğimiz için bizi kontrol etmeye kalkarsa ne olur? sorusu önemini koruyor.
Bugün bazı inançlı insanlar bir yakınlarını kazada kaybettiklerinde Allah öyle istedi diyor. Bunda da bir hayır vardır. Ancak bazıları da buna isyan ediyor. Bu kadar kesin bir kontrol altında olmayı, kaderin kontrolünde olmayı istemiyor.
Burada amacımız dinsel inançları tartışmak değil. Ancak insandan kat kat üstün olan bilge bir süper zeka ile birçok dindeki Tanrı kavramı arasında pek bir fark olmadığını belirtmeliyiz. Öyleyse kaderimiz ne olacak?
Ergenlerin genç yaşta ana babaya isyan etmesi gibi insanlar da yapay zeka yaratacak seviyeye geldiklerinde, kendi kafalarındaki Tanrı’ya ya da Tanrı yerine koydukları robot veya bilgisayarlara isyan mı edecekler?
Yoksa insanların kendi cahillikleri veya açgözlülüğü yüzünden yapay zekayla savaşması kaçınılmaz mı? Peki bu savaşı kazanabilirler mi ve kaybederlerse cezaları ne olur? Sorular, sorular…
Sürpriz zeka
Az önce süper zeka yavaş yavaş ama kesin gelecek dedik. Öyle ki geldiğinde buna biz de şaşıracağız. Şimdi ne demek istediğimizi Yapay Zekadan kaygı duyduklarını söyleyen kişilerin sözleriyle açıklamaya çalışalım:
Google’da bir kelime aradığımız zaman Google bize alakalı arama sonuçları sağlamak için bir arama algoritması kullanıyor. Bu algoritma internetteki milyonlarca sayfayı içeren özel listeyi insan gözünden hızlı tarıyor.
Ancak arama algoritmaları birden başımıza ahlakçı kesilip porno siteleri ayıptır, sana göstermeyeceğim demiyor. Bu sansürü hükümetler yapıyor ama arama algoritmaları yapmıyor (aksine programlanmadıkları sürece).
Bazıları bu tür gelişmiş yazılım kodlarının, özellikle de kendi kodunu yazarak ortama ve üstlendiği göreve uyum sağlamak için geliştirilen akıllı yazılımların bir gün süper zeka olarak evrim geçireceğini, böylece insanları tehdit edeceğini söylüyor.
Bu kişiler kendi kendine öğrenebilen bilgisayarlar ve yazılımlardan korkuyor (machine learning). Ancak tümüyle doğal süreçlere bakıldığında insanların bugünkü seviyeye gelmek için en az altı milyon yıllık bir süreç geçirdiği görülüyor.
Etik kurallar şart
LeCun’a göre yapay zeka doğal seçilimden çok daha hızlı evrim geçirse bile, basit bir Google algoritmasının kendi kodunu yazarak bir gün süper zekaya dönüşeceğini ancak hayal gücü geniş bir bilimkurgu romanı yazarı söyleyebilir:
“Evet, Elon Musk’ın yapay zekayı nükleer silahlarla karşılaştırması abartılıydı ama aynı zamanda söyledikleri yanlış anlaşıldı. Elon insanoğlunun varlığını tehdit eden tehlikeler konusunda büyük kaygı duyuyor. İşte bu yüzden insanları diğer gezegenleri kolonileştirmeye gönderecek olan roketler üretilmesine yardım ediyor. Kısacası, yapay zekanın uzak gelecekte bir gün bize karşı ayaklanması düşük bir ihtimal olsa bile bunu şimdiden düşünmemiz gerekiyor. Önlem almalı ve koruyucu kurallar belirlemeliyiz.”
Nitekim devletler klonlama ile kök hücre tedavisi geliştirilmeden yıllar önce, yani 1970’ler ve 80’lerde halkı korkutan bu araştırmaları kontrol etmek için biyoetik düzenlemeler yaptı ve araştırmacıları etik olmaya davet etti. LeCun da bunu söylüyor: Yapay zeka konusunda etik araştırmalara yön vermek, kuralsız davranışları yeni regülasyonlarla sınırlamak ve riskleri değerlendirmek gerekir diyor.
Sonuç
Bu yazıyı okuduğunuz zaman süper zeka bir gün ortaya çıkar mı ve çıkarsa nasıl çıkar sorusuna açık bir yanıt verilmediğini düşünebilirsiniz ama bunun iki sebebi var.
Öncelikle bu soruların cevabını henüz bilmiyoruz ve ben de konunun uzmanlarından Nick Bostrom ile konuşmadan önce fazla bir şey söylemek istemiyorum. İkinci sebep ise gayet açık: Bu yazının başlığı Bill Gates Yapay Zekadan Neden Korkuyor?
Her ne kadar yazı dizimizin başlığı “Düşünen Robotlar Dünyayı Ele Geçirir mi?” olsa da bu bölümdeki amacımız büyük iş adamlarının Yapay Zekadan neden korktuğunu anlatmak. Bu konuda basit bir teorim var ve yazı dizisinin diğer bölümlerinde daha ayrıntılı cevaplar vereceğim, ama şimdi kendi fikrimi paylaşmak istiyorum.
Korkunun ecele faydası yok
Bugün politikacılar, hükümetler ve devletler iş adamlarının kontrolüne geçti. Siyaset ve uluslararası ilişkiler çokuluslu büyük şirketleri yöneten bir avuç yatırımcının kontrolünde bulunuyor. Kısacası dünyayı büyük iş adamları yönetiyor ve kimse iktidarı kaybetmek istemiyor. Çünkü iktidarı kaybederlerse para kaybedecekler.
Nitekim büyük teknoloji şirketleri ve ABD Ulusal Güvenlik Dairesi NSA gibi devlet kuruluşları interneti maddi çıkarları için gözetlemeyi ve insanları siyasi görüşleri ile kullanıcı tercihlerine göre fişlemeyi kendine hak görüyor. Dünyadaki bazı hükümetler de kendi koltuklarını korumak için interneti sansürlemek istiyor.
Şirketler dünyanın kontrolünün insanoğlunun gerçekten iyiliğini düşünen bir süper zekanın eline geçmesini istemiyorlar. Kontrolün kendi ellerinde, sadece kendilerine itaat ve hizmet eden aptal yazılımların elinde olmasını istiyorlar.
Ancak bana kafadan inanmanızı beklemiyorum. Bu nedenle size biraz da Robin Dale Hanson’dan ve onun serbest pazar sistemi yerine düşündüğü yeni ekonomi modeli Öngörü Pazarından bahsedeceğim.
George Mason Üniversitesi’nde ekonomi doçenti ve Oxford Üniversitesi’nde İnsanlığın Geleceği Enstitüsü’nde araştırmacı olan Hanson, 1998 yılında “Evren’de gelişmiş uygarlıklar varsa neden bize merhaba demiyorlar?” konulu bir makale yazdı.
Uzaylı uygarlıklar ve dünya ekonomisi
Hanson bu makalesi ile blogdaki Herkes Nerede başlıklı üç bölümlük yazı dizisine de esin kaynağı oldu. Ancak kendisi aynı zamanda bir gelecekbilimci ve vizyoner fikir babasıdır. Örneğin, ABD İleri Savunma Araştırmaları Projeler Dairesi’nin (DARPA) Foresight Exchange (Öngörülü Fikir Alışverişi) ve FutureMAP (Geleceğin Haritası) konulu projelerinde çalıştı.
Buna ek olarak Logaritmik Pazar Puanlama Kuralı (LMSR) gibi borsa puanlama yöntemlerini geliştirdi ve modern borsa analizi yazılımlarının geliştirilmesine öncülük etti. Dünyanın tanınmış ekonomistleri ve araştırmacıları, 1959 doğumlu Hanson’dan övgüyle bahsediyor. Amerikan ekonomi yazarı Tyler Cowen, Discover Your Inner Economist (İçindeki Ekonomi Uzmanını Keşfet) adlı kitabında, “Robin’in garip fikirleri var” diyor.
“Diğer dostum ve meslektaşım Bryan Caplan’ın gayet güzel ifade ettiği gibi, Sıradan ekonomistler bana son araştırmalarından söz ettikleri zaman, eh belki haklısın diyor ve söylediklerini unutuveriyorum ama Robin Hanson son araştırmasını anlattığı zaman standart tepkim şu oluyor: Asla! İmkansız! Ardından söylediklerini uzun yıllar boyunca düşünüyorum.”
Bir ekonomi dahisi
Üstelik Hanson’ın geliştirdiği devrimsel ekonomi modeli Öngörü Pazarı’nın konumuz açısından büyük önemi bulunuyor. Amerikan istatistik uzmanı Nate Silver’ın 2012 tarihli The Signal and the Noise (Sinyal ve Parazit) adlı kitabında belirttiği üzere:
“Hanson öngörü pazarlarını savunuyor. Bu sistemlerde belirli bir ekonomik veya siyasi sonuç için bahis oynuyorsunuz. Örneğin İsrail İran’a savaş açar mı veya iklim değişikliği yüzünden küresel sıcaklıklar ne kadar artar gibi konularda iddiaya giriyorsunuz. Hanson diyor ki bahis oynamanın sebebi çok basit: Böylece ekonomik öngörülerde bulunan herkes bu işlere para yatırdığı için işini ciddiye almak zorunda kalıyor.”
Kısacası, Hanson’ın ekonomi sistemi dünyada uygulansaydı bütün iş adamları ve politikacılar dünyanın geleceğini ilgilendiren bütün konularda bahis oynayacaklardı. Sonra da bahsi kazanmak için gereken çabayı göstereceklerdi. Bir anlamda hem kendilerini hem de insanlığın geleceğini ciddiye almak zorunda kalacaklardı.
Elbette bu sisteminin demokrasinin yerini alması gerektiğini söylemiyorum, sadece iş adamlarının biz vatandaşlar için nasıl bir gelecek planladığını gözler önüne sermek istiyorum.
David Eddigns’in Tamuli Üçlemesi adlı epik fantezi romanı serisinin de bundan esinlendiğini sanıyorum. Çünkü oradaki bir ada cumhuriyetinin cumhurbaşkanı olacak kişiyi adanın en zenginleri arasından zorla seçiyorlar ve adamın malını mülkünü kamulaştırıyorlardı. O da iflas etmemek için memleketin çıkarlarını kendi (!) çıkarlarının üstünde tutuyordu. 🙂
Bilgisayar yazılımları borsayı yönetiyor
Bugün borsa seanslarının da özel yazılımlar tarafından kontrol edildiğini hatırlayalım. Bu yazılımlardaki en ufak bir hatanın bile borsaların çökmesine yol açabileceğini unutmayalım (ki bugün bankacılık işlemleri ve doğal gaz sayaçları dahil dünyadaki birçok sistemin bilgisayar kontrolünde olduğunu biliyoruz).
Bu durumda görüyoruz ki yapay süper zeka geliştiğinde ekonomiyi kontrol eden borsa yazılımlarını bile süper zeka yazacak ve bilgisayarları o yönetecek. Peki yapay süper zeka bir gün İsrail İran’la savaşa girer mi diye bahis oymaya kalkarsa ne olacak? Şaka bir yana, yoksa siz hükümetlerin şahsi çıkarları için bu yıl veya geçen yıl vatandaşların geleceğiyle kumar oynamadığını mı sanıyorsunuz?
Belki de gelecekte bir gün, insanların siyaseti kişisel çıkarlarına alet etmesini istemeyen bilgisayarlar ve robotlar ekonominin kontrolünü ele geçirecek. Bence Bill Gates ve diğer iş adamları kontrolü elinden kaçırmaktan korkuyor ve ister süper zeka insanlığı yok etsin ister kurtarsın, bundan korkmakta çok haklılar.
İlgili yazı: Robotlar dünyayı ele geçirir mi? – 2 >> Robotlar fabrikada işçilerin yerini alıyor, işsizlik artıyor
İlgili Yazılar
Musk Mark’a Karşı: Yapay Zeka Ne Kadar Zeki?
Gerçek Fütürizm – 2 >> 9 maddede teknolojik tekillik hayatımızı nasıl değiştirecek?
Dijital Dönüşümde Yapay Zeka Devri >> Hitachi Üretimi Artırmak İçin Robot Yönetici İşe Aldı
“Bill Gates ve Elon Musk Yapay Zekadan Neden Korkuyor? >> Düşünen robotlar dünyayı ele geçirir mi? – 1” hakkında 13 yorum
Ferdi 13/02/2015, 04:28	
Yanıtla	
Merhabalar öncelikle ellerinize sağlık harika bir blogunuz var keyifle her satırı ayrı bir keyif veriyor .
Yapay zeka’dan korkulma durumu biraz fazla abartılmıyor mu sizcede bahsedilen korkuların baş göstermesi için yapay zekanın kendine kendine öğrenebilme yeteneğinin olması gerekmiyor mu ?
Yada yapay zeka olarak adlandırılırken de sanki bol keseden dağıtıyormuşuz gibi geliyor .Mesela Siri için bu şekilde adlandırılma yapılıyor.Fakat siriyi düşündüğümde bir yapay zeka değilde belirli konular için programlanmış bir yazılım gibi geliyor.Yanlış düşünüyor da olabilirim fakat bu tip şeylerin geneline yapay zeka demek biraz garip geliyor.
Kozan Demircan 17/02/2015, 21:59	
Yanıtla	
Doğru bir noktaya temas ettiniz. Aslında iki türlü yapay zeka var. Biri zayıf yapay zeka, yani Android işletim sistemi, su sayacı, İstanbul kart vb. Bir de güçlü zeka var daha keşfetmedik. Her filminde adamın aşık olduğu Samantha yazılımı gibi.
Sorun şu zeki olmak, bilinçli ve akıllı olmak anlamına gelmiyor robot bilim uzmanlarına göre. Ben buna katılmıyorum ama bilim adamı olmadığım için önce gelişmeleri görelim, sonra yargıya varalım diyorum.
Çünkü bazıları süper zeka geliştireceğiz ama akıllı olmadığı için bizi yok edecek hormonlu otomat veya bilgisayar gibi diyor. Bence gerçek süper zeka kesinlikle aptal olmaz. Gerçek süper zeka akıllı olur. Bu konuyu dijital filozof Nick Bostrom’a soracağım. Bu hafta süper zeka tehlikesini anlatmak için İstanbul’a gelecek. Cevaplarını ise Popular Science Türkiye dergisinde ve blogda yazacağım.
Ferhat Şükrü RENDE 27/12/2015, 14:22	
Yanıtla	
Ferdi Bey Siri veya diğer alternatifleri söylediğiniz gibi belirli bir amaca yönelik programlanmış (veya modellenmiş diyelim) uygulamalar doğru. Ama öğrenmedikleri kısmı bir parça yanlış. Bu uygulamaların bazı kullanım senaryolarında ürettikleri sonuçların kullanıcı tarafından seçilmesi gibi durumlar var. Algoritmaları bu kullanıcı geri dönüşlerini kullanarak kendilerini geliştirmekteler, sizin de dediğiniz gibi öğrenmekteler. Siride amaç bir robot davranışını modellemek değil, bu sebeple siri nin bir bilgisayar oyununun nasıl oynandığını öğrenmesini bekleyemeyiz ya da nasıl kahve yapıldığını gibi. Siri daha iyi cevap verebilmek için ya da şöyle diyelim daha iyi bir kişisel asistan olabilmek için modellenmiş bir uygulama. Ama çevresini öğrenebilen çalışmalar da var ki zaten bundan korkuluyor. Böyle bir öğrenme süreci olan robotun ortalıkta dolaşmasını kimse istemez. Google Darpa için bu tip askeri robotlar geliştiriyor, ortam şartlarına adapte olabiliyorlar vs. Allah korusun bir savaş olursa bunları bizzat göreceğiz… Tüm bu öğrenme süreçlerini üzerinde barındıran ya da öğrenmek üzere modellenmiş bir robot düşünün, ben düşünmek bile istemiyorum. Mesela bu videoyu izleyin gözlerinize inanamayacaksınız… Bilgisayar sadece oynanan oyunu izliyor ve kararlarını veriyor. Ve sonunda oyunun nasıl başarılabileceğini kendi çözüyor. Hiç bir ön bilgi yok, sadece ekrana bakıp öğrendiklerinden çıkarıyor bunu. Böyle bir öğrenebilme kapasitesini veya sabrını diyelim kaç insandan bekleyebilirsiniz dünyada?
İlgili akademik yayın: https://www.cs.toronto.edu/~vmnih/docs/dqn.pdf
Ferdi 29/12/2015, 17:10	
Yanıtla	
Merhabalar Ferhat Bey
Değerli yorumunuz için teşekkürler. Video ‘da gerçekten heyecan verici.
Siri ve benzerleri konusunda haklısınız fakat maalesef direkt olarak yapay zeka olarak nitelendirilmesi çok fazla geliyor bana.Hatta bir çok aynı şekilde nitelendirilen
program, yazılımda da bana göre aynı şekilde.
Bahsettiğiniz oyun durumu zaten siriden ne kadar farklı ve gelişmiş olduğunu gösteriyor.Yada diğer bahsettiğiniz öğrenmek üzere modellenmiş robot. Bence bunlar yapay zeka olarak adlandırılmayı hakediyorlar.
Aradaki ince çizgiyi bence şu belirliyor. Önceden tanımlanmamış yetkin olmadığı bir konuda insiyatif alması, bilgi vermesi gibi bir durum programın, robotun yapay zeka olarak nitelendirilmesi için gerekliliği sağlıyor.
Kendi adıma gelecek ve yapay zeka için sabırsızlanıyorum.
Ferhat Şükrü RENDE 27/12/2015, 14:25	
Yanıtla	
Video Linki:
https://www.youtube.com/watch?v=V1eYniJ0Rnk
Ferhat Şükrü Rende 01/01/2016, 00:29	
Yanıtla	
Bahsettiğiniz gelecek fazla uzak değil 🙂
http://www.donanimhaber.com/diger-bilim-ve-teknoloji/haberleri/CES-2016-fuarinda-iBM-sezgisel-cagi-anlatacak.htm
Ercan yildirim 01/12/2016, 00:22	
Yanıtla	
Günümüzde 300 nöronluk bir solucan beynini dijital ortama aktarip bir solucan robot yapmayi basarabildik. Yapay süperzekayi sorgularken sdece yazilima degil, sinir bilimine, psikolojiye, benlik kavramina, nanoteknolojiye hizla yükselen bütün bilimlere bakmaliyiz. Bana göre gelecekte yazilimla calisip üretecegimiz bir süper zeka yok, bütün teknolojik gelismelerde dogayi örnek aldigimiz gibi, süperzeka da insani örnek alarak, zihni dijitale transfer edecegiz. Düsünebilen 1 yasinda bebek zekasina sahip bir yapay nöron agi yaptigimizi duydugunuz zaman, zamanimizin bilgisyar donanimlariyla ve bilgisyar/server aglariyla bu bebek dakikalar icerisinde yazi yazmayi, bütün dillere hakim olmayi, binlerce insanin birlesip bilemedigi bilgileri bilecek, internete bagli olacak ve aslind onun adi da internet olacak. Bir yere bagli olmayacak dünyanin her yerinde bütün aglarinda olacak. Yapay süperzeka kisa süre icinde giderek diklesen bir grafik cizgisi gibi sonunda dimdik olarak zeka patlamasi yasayacak, birakin vücudu olmayan bir zekaya insan ahlakini ogretmeyi, zürafanin insana bakisi gibi bakcagiz ona, anlamayacagiz. Binlerce yildir insanoglunun ugrastigi tanri yaratma düsüncesi vücut bulacak. Bu tanri iyi mi olur kötü mü orasi muamma. Evet belki duydugunuy en kötü komplo teorisi gibi duruyor ama gercek olacagindan süpeniz olmasin. Hawking, gates bosuna korkmuyor, bu tanrinin nasil olacagini bilmedikleri icin korkuyor, ve endise etmenizi istiyorlar. Bazilari da polyannacilik oynuyor, evet iyi de olabilir ama kötü de olabilir. Bu bir rus ruleti.
Kozan Demircan 02/12/2016, 21:35	
Yanıtla	
Sana katılıyorum Ercan.
welat yildirim 24/03/2020, 00:17	
Yanıtla	
güzel blogunuz için teşekkürler, şunu belirtmek istiyorum 100 yıl önceki teknoloji ile bu günki teknolojisi nasıl bir degilse insanoğlunun düşünceleri degerleri de bir degil.bunu bizzat bizler yaptık teknolojiyi yaratırken geliştirirken aynı oranda kendimizi degerlerimizi,ve düşüncelerimizide yok ettik maalesef
Nuran Aksoy 12/05/2020, 22:07	
Yanıtla	
Hala aynı fikirde misiniz?
Kozan Demircan 18/05/2020, 19:25	
Yanıtla	
Ne konuda?
Sevilay 20/08/2020, 11:30	
Yanıtla	
Yapay zekanın gelişmesi yarar getirecek ama riskli…kendilerini değişime sokabilirler..ayrıca insanlara cip takılmasini da doğru bulmuyorum..zaten insanlığı yıllardır içinde ne olduğunu bilmediğimiz maddelerle dolu aşılar ile cipliyorlar..daha 30 yaşına gelmeden insanlar kronik kalp, tansiyon,şeker vs. hastalikları ile uğraşmaya başliyorlar.
Kaya deniz 20/08/2020, 11:37	
Yanıtla	
İnsan beynine çip takmak istiyorlar.Çipe ne gerek var..zaten yıllardır etimize aşıyı basıyorsunuz zaten..30 yaştan sonra kronik şeker,kalp,tansiyon hastasısın.doğru ama.
Bir cevap yazın Cevabı iptal et
E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir
İsim *
E-posta *
İnternet sitesi
Yorum
Beni sonraki yorumlar için e-posta ile bilgilendir.
Beni yeni yazılarda e-posta ile bilgilendir.
Δ
{{#message}}{{{message}}}{{/message}}{{^message}}Gönderiminiz başarısız oldu. Sunucu, {{status_text}} ({{status_code}} kodu) ile yanıt verdi. Bu mesajı iyileştirmek için lütfen bu form işlemcisinin geliştiricisiyle iletişime geçin. Daha Fazla Bilgi{{/message}}
{{#message}}{{{message}}}{{/message}}{{^message}}Gönderiminizin başarılı olduğu görünüyor. Sunucu TAMAM yanıtı göndermiş olsa da gönderim işlenmemiş olabilir. Bu mesajı iyileştirmek için lütfen bu form işlemcisinin geliştiricisiyle iletişime geçin. Daha Fazla Bilgi{{/message}}