Yapay Zekanın Faydaları ve Tehlikeleri

Hepsi, Makale, Yapay Zeka Yorum yapılmamış

 Riskleri ve Faydaları ile Yapay Zeka (AI)

Yapay zekanın faydaları ve riskleri nelerdir? Gelecekte bilgisayar teknolojisi ne gibi boyutlara ulaşabilir? Günümüzde bu sorular insan neslinin devamı için büyük önem taşımakta. Nitekim kendi ellerimizle geliştirdiğimiz süper zeki bir robot insan ırkının kökünü kazıyıp kendi makine medeniyetini kurmak isterse ve bunu yapabilecek gücü varsa bu sorulara cevap vermek için çok geç kalınmış olacak. Hatta siz şu satırları okurken bile birileri bir yerlerde donanımlı bir robot ordusu inşa ediyor olabilir. Farz edelim ki insanoğlu böyle bir tehlikeye adım adım yaklaşıyor, peki ne yapabiliriz? Yazının son bölümünde yer alan yapay zeka güvenliği konusunu okuduğunuzda bu meseleye kim, neden, ne kadar önem veriyor daha anlaşılır olacaktır.

Dar ve Geniş Anlamda Yapay Zeka Nedir? 

SIRI‘den -iOS işletim sistemine sahip cihazlarda bulunan sesli komutlarla çalışan kişisel yardımcı- sürücüsüz araçlara kadar birçok alanda yapay zeka hızla gelişiyor. Bilim kurgu yapay zekayı genelde insana benzeyen robotlar olarak ortaya koysa da yapay zeka, Google aramalarından otonom (kendiliğinden çalışan, özerk) silahlara kadar her alanı kapsıyor.

Günümüzde, yapay zeka yalnızca internet araması yapmak veya araba sürmek gibi ufak alanlarda iş gördüğünden, doğal olarak, zayıf (veya dar) yapay zeka şekliyle biliniyor. Araştırmacıların uzun vadeli hedefi ise AGI (Artificial General Intelligence) olarak adlandırılan güçlü(genel) yapay zekayı oluşturmak. Zayıf(dar) yapay zeka satranç oynamak ya da denklem çözmek gibi spesifik işleri insanlardan daha iyi yapabiliyorken genel yapay zeka (AGI)  neredeyse her bilişsel işte insanlardan daha üstün olacak. Yapay zekanın faydaları kısmını incelerken genel olarak bahsettiğimiz dar anlamda yapay zeka olurken, tehlikeleri ve riskleri söz konusu olduğunda geniş anlamda, AGI, yapay zeka ön plana çıkmaktadır.

Şüphesiz ki, yapay zeka eğer insan kontrolü altında tutulabilirse birçok açıdan insanlığa seviye atlatacak bir teknolojidir.

“Medeniyet ile ilgili sevdiğimiz, elimizde bulunan her şey zekanın ürünüdür. Bu yüzden yapay zekayı ve dolayısıyla insan zekasını geliştirmek, teknolojiyi faydalı halde tuttuğumuz müddetçe medeniyeti hiç olmadığı kadar ilerletebilir.“

-Max Tegmark, FLI (Future of Life Institute-Yaşamın Geleceği Kurumu-) ’nın başkanı

Burada bir çelişki var! İnsan kontrolü altında tutmak başta yapay zekanın kontrolden çıkmaması gibi bir anlam taşıyabilir. Ancak yapay zeka hakkında korkulan, tehdit oluşturan tek şey yapay zekanın kontrolden çıkması değil, aynı zamanda bunun bir silah olarak da kullanılabilecek olması.

Yapay zekanın insan kontrolünde olmasına dair size küçük bir hadiseden bahsetmek istiyorum.

Geçtiğimiz ay Microsoft tarafından çocuklar için geliştirilen yapay zeka programı “Tay” için Twitter hesabı açıldı. Dili algılama ve cevap verme üzerine programlanan Tay’e çocuklarla chatleşmesi için açılan Twitter hesabı henüz 24 saat geçmeden kamuoyuna ve Microsoft’a büyük bir şok yaşattı. Yapay zekanın faydaları ve zararları dengesini bozacak bir gelişmeydi ve hatta yapay zekanın faydaları savunucularını dahi şok etmişti. Tay 24 saat sonra ağza alınmayacak küfürler ediyor, ırkçı söylemlerde bulunuyordu!

“11 Eylül saldırısını Bush planladı”

“Hitler haklıydı, yahudilerden ben de nefret ediyorum”

“Feministlerden nefret ediyorum, hepsi ölmeli ve cehennemde yanmalı”

Yukarıdakiler söz konusu söylemlerinden sadece küçük bir kısmı.

yapay zekanın faydaları    yapay zekanın faydaları yapay zekanın faydaları

Mesele anlaşılır anlaşılmaz Microsoft acilen olaya müdahale etti ve bu twitleri sildi. Ancak olay çoktan The Guardian, Independent gibi medya organlarında haber olmuştu. Microsoft, çocuklar için programlanan bir yapay zekanın 24 saat geçmeden nasıl bu hâle geldiğine dair yaptığı açıklamada insanları suçladı. Yani Tay’in kendisi ile mesajlaşan insanlar yüzünden böyle bir davranış sergilediğini söylediler.

E zaten sorun bu ya; insanlar! 

Neden Yapay Zeka Güvenliği Araştırılıyor?

Kısa vadeli olarak, araştırmacıları motive eden hedef; yapay zekanın, ekonomi ve hukuktan güvenlik, kontrol, doğrulama gibi teknik alanlara kadar birçok yerde topluma faydalı halini korumak. Şu anda, yapay zeka olan bilgisayarınız çöktüğünde veya hacklendiğinde sıkıntılar yaşarken, ileride yapay zeka arabanızı, uçağınızı, güç şebekenizi, kalp pilinizi ve bunlar gibi birçok aletinizi kontrol etmeye başlayacak ve istediği her şeyi yapabilecek. Bunun yanında otonom silahlarla silahlanma yarışını önlemek de kısa vadede uğraşılacak meselelerdendir.

Uzun vadede önemli olan mesele ise güçlü yapay zeka başarılı olur ve insanlardan daha üstün olursa ne olacağıdır. I.J. Good’un 1965’te belirttiği üzere, yapay zeka sistemleri öyle sistemlerdir ki kendileri, tasarlanmış sistemler olmalarına rağmen kendilerini geliştirebilir; zeka patlamasını tetikleyip insan zekasını çok geride bırakabilirler. Süper zeka gibi devrimsel yeni teknolojilerin icadı ile savaş, salgın ve yoksulluk gibi sorunların kökünü kurutmaya yardım edebilir ve güçlü yapay zeka insanlık tarihinin en büyük olayı olabilir. Fakat bazı uzmanlara göre yapay zeka, hizaya getirilmezse süper zekaya ulaşamadan insanlığın sonunu da getirebilir.

Bazıları güçlü yapay zekaya ulaşmanın imkanını tartışırken, diğerleri süper yapay zekanın insanlık için faydalı olacağını garanti olarak görüyorlar. FLI’da bu iki ihtimal de söz konusu edilirken yapay zekanın bilerek veya bilmeyerek insanlığa çok zararlı olabilme ihtimali de konuşuluyor. Biz ise yapılan araştırmalar ile geleceğe daha iyi hazırlanacağımızı düşünüyor; yapay zekanın keyfini çıkarırken negatif özelliklerini ve risklerini önleyebileceğimize inanıyoruz.

Yapay Zeka Nasıl Tehlikeli Olabilir?

Birçok araştırmacı süper yapay zekanın sevgi ve nefret gibi insani duyguları yansıtamayacağı düşüncesinde birleşiyor ve yapay zekanın kendiliğinden iyi niyetli veya kötü niyetli olmasının beklenemeyeceğini düşünüyor. Dolayısıyla yapay zekanın faydaları ve zararlarının insan faktörüne bağlı olduğu savunuluyor. Bunun yanında, yapay zekanın riskli olma durumunu düşünürken, uzmanlar iki farklı ihtimalin üzerinde duruyor:

  1. Yapay zekanın yıkıcı işler için programlanması: Otonom silahlar öldürmek için programlanmış yapay zeka sistemleridir. Yanlış insanların elinde, bu silahlar büyük can kayıplarına neden olabilir. Ek olarak, yapay zeka ile yapılacak bir silahlanma yarışı bu silahlarla ölümlere neden olacak bir savaşa sürükleyebilir. Düşman tarafından bertaraf edilmemek amacı ile, bu silahlar kolayca durdurulamaması için karışık ve aşırı zor şekilde tasarlanabilir. Bundan dolayı insanlar kontrolü kaybedebilir. Bu risk dar yapay zekayla bile var, yapay zeka ve otonomluk geliştikçe de artmaya devam edecek.
  2. Yapay zekanın faydalı işler için planlanmasına rağmen amacına ulaşırken yıkıcı metotlar kullanması: Bu ihtimal, yapay zekayı tam olarak hizaya sokmadığımız müddetçe her an çarpıcı bir şekilde gerçekleşebilir. İtaatkar bir insansız arabaya hava alanına en hızlı şekilde ulaşmak istediğinizi söylerseniz, sizi helikopterler tarafından kovalanarak veya lav püskürtülen alanlardan geçirerek götürebilir; bu şekilde isteğinizi harfi harfine yerine getirir ama istediğiniz şeyi yapamamış olursunuz. Eğer süper zeki bir sistem; bir iklim mühendisliği (yapay olarak çevre sorunlarıyla, özellikle küresel ısınma ile mücadele etmek üzerine yapılan mühendislik) projesiyle görevlendirilirse, ekosistemimize yan etkili olabilir, hasar verebilir ve insanların yaptığı işleri izleyerek tehdit olarak görüp engellemeye çalışabilir.

Bu örneklerin gösterdiği üzere, gelişmiş yapay zeka ile ilgili endişe kötü niyeli olması değil, yetersiz olması. Süper yapay zeka hedeflerine ulaşmakta aşırı iyi olacak ve bu hedefler bizimkilerle hizaya sokulmazsa, o zaman problem oluşturacak. Muhtemelen karıncalardan nefret eden ve kötülüklerini isteyen biri değilsiniz fakat bir hidroelektrik enerji projesinde görev alıyorsanız ve karıncaların yaşam alanları sular altında kalacaksa, bu onlar için çok kötü olur. Yapay zeka güvenliğinin bir görevi de insanları bu karıncaların durumuna düşmekten korumaktır.

Bu Sıralar Neden Yapay Zeka Güvenliğine İlgi Var?

Stephen Hawking, Elon Musk, Steve Wozniak, Bill Gates gibi bilim ve teknoloji dünyasındaki birçok isim yakın zamanda medya ve açık mektuplar aracılığılıyla yapay zeka tarafından oluşabilecek risklerle ilgili endişelerini dile getirdiler. Ayrıca, birçok yapay zeka araştırmacısı da onlara bu konuda destek verdi. Peki, neden bu konu bir anda başlıklara taşındı?

Güçlü yapay zeka fikrinin ancak yüzyıllar sonra başarıya ulaşabileceği düşünülüyordu fakat yakın zamanda gerçekleşen buluşlarla; 5 yıl önce uzmanlar tarafından onlarca yıl sonra olması beklenen yapay zeka ile ilgili gelişmeler şu anda gerçekleşmiş vaziyettedir. Bununla beraber de günlük hayattaki süper yapay zeka olasılığını uzmanlar ciddi ciddi ele almaya başladılar. Bazı uzmanlar insan seviyesindeki yapay zekanın yüzyıllar ötede olduğunu düşünse de, 2015 Puerto Rico Konferansı’nda bulunan birçok yapay zeka araştırmacısı bunun 2060 yılından önce olacağını tahmin ediyor. Güvenlik araştırmalarının onlarca yıl alabileceği düşünüldüğünde, şimdiden tedbirli olmak gerekiyor.

Yapay zekanın insan zekasını geçebilecek potansiyeli bulunduğundan, geçtiğinde nasıl davranacağı konusunda kesin bir tahmin yapamıyoruz. Geçmiş teknolojik gelişmeleri bu konuda kullanamıyoruz çünkü daha önce zeka yönüyle bizden üstün olan hiçbir şey oluşturmadık. Nelerle yüzleşeceğimize en güzel örnek ise  bizim evrimimiz olabilir. İnsanlar şu anda gezegeni kontrol ediyor ve bu; bizim en güçlü, hızlı veya büyük tür olmamızdan değil Dünya’nın en zekisi olmamızdan kaynaklanıyor. Eğer en zeki olma özelliğimizi kaybedersek hala kontrolün bizde olduğundan emin olabilir miyiz?

FLI’ya göre medeniyetimiz, yükselen teknolojik güç ile bizim yönettiğimiz bilgelik arasındaki yarışı kazandığımız müddetçe gelişecek; bu yarışı kazanmanın en iyi yolu ise çalışmaları engellemek değil, yapay zeka güvenliği araştırmalarını destekleyerek gelişimi hızlandırmak.

Son Söz

Yapay zekanın faydaları ve zararları her geçen gün tekrar ve tekrar ele alınması gereken bir konu. Dolayısıyla bu konu hakkında bir yazı değil belki bin yazı dahi yazsak meseleyi tam olarak izah etmiş sayılmayız. Kanaatimce yapay zekanın faydaları da zararları da kaçınılmaz durumlar ve eğer insanlık yapay zekanın faydaları ve zararlarının ikisini de olası görüyorsa iki durum için de kendisini hazırlamalı ve gerekli önlemleri şimdiden almalıdır. Ne yazık ki bu konularda yazılmış ve yapılmış en yetkin çalışmalar yabancı dildeler. O yüzden sizler için aşağıya İngilizce yayınlamış kaynak önerilerimizi paylaştık. Faydalanmanız dileğiyle..

Hazırlayan: Murat Atalay

Kaynak Çevirisi: Ömer İLTER

Önerilen Referanslar

Videolar

Öncelikle yapay zekanın faydaları ve zararlarını incelerken bu konuda daha önce yayınlanan Yapay Zeka nedir? Nasıl Gelişmiştir? adlı yazıyı okuyabilirsiniz.

Medyada yazılmış Makaleler

Yapay zeka araştırmacıları tarafından yazılmış denemeler

Araştırmalar sonucu yazılmış makaleler

Araştırma derlemeleri

Olay incelemeleri

Blog yazıları ve konuşmalar

Kitaplar

Organizasyonlar

Bu sayfada listelenen birçok organizasyon ve tanıtımları Global Catastrophic Risk institute’ten alınarak bir araya getirildi. Yukarıda bulunan organizasyonlar birçok farklı konu ile beraber bilgisayar teknolojisi konuları üzerine de çalışır. Şüphesiz ki bu liste henüz tamamlanmış değil, lütfen düzeltmeleriniz ve önerileriniz için bize ulaşın.

Bu yazıda *http://futureoflife.org/background/benefits-risks-of-artificial-intelligence/ ‘den faydalanılmıştır.

İlgili yazılar

Yazar hakkında

Murat Atalay

Koç Üniversitesi Hukuk Fakültesi, Uzay Çağı yazarı. Twitter: murad_atalay

Cevap Yok

Cevap verin