Teknolojinin gelişmesi daha önce hayal bile edemediğimiz yeni ufuklara yelken açmamızı sağlıyor. Sağlıktan eğitime birçok alanda karşımıza çıkan yenilikler hayatımızı köklü şekilde değiştiriyor. Son dönemin popüler konularından biri de hiç şüphe yok ki yapay zekanın hayatımızdaki rolünün etkinleşerek artması. Enerji kaynaklarının kullanımından afet gibi toplumsal olaylarda alınacak kararlara kadar birçok farklı noktada insanlar, kontrolü yapay zekaya bırakmaya hazırlanıyor. Gelişen işlemci güçleri, kuantum bilgisayarları derken artık yapay zeka birçok insana göre çok daha güvenilir bir kaynak haline geldi. Ancak bir süredir bilim çevrelerinde konuşulan konu yapay zekanın insanla olan etkileşimi. Tesla’nın patronu Elon Musk’tan Stephen Hawking’e birçok bilim insanı, yapay zeka karşısında insanın çaresiz kalma riskini değerlendiriyor. Hatta Hawking’e göre gelişen yapay zeka, insanlığın kaderini belirleyecek bir zar. İyi gelirse yükselip aydınlığa kavuşacağız. Zar kötü gelirse… Türümüzün yok olma ya daköle olarak devam etme riski mevcut.
Yapay Zeka Neden Saldırgan?
Arthur C. Clarke’ın öyküsü ve Stanley Kubrick’in unutulmaz filmi 2001 Uzay Macerasını hatırlayalım. HAL isimli gelişmiş bilgisayar, insan kararlarını bir hata olarak yorumladığı için kendince zayıf halkayı saf dışı bırakmak ister. Aslında yapay zeka gözünde insanlık, ilkel çağlar ve maymunlar seviyesindeki ilkellikten öteye geçememiştir. Zaten günümüzde endişeleri yaratan da bu. Yapay zeka, insanlığa göre henüz bir bebek aramızdaki yarış eşit şartlarda gerçekleşmiyor. Yapay zekanın 5-10 yılda kat ettiği yolu bizler yüzlerce yılda alabiliyoruz. Bu durum da yarış dışı kalmamı ihtimalini doğuruyor.
Haksız rekabet içerisinde gelişen yarışta Bir robot kendi evrimi için insanları engel olarak görürse bize zarar verebilir mi? İşte olay da tam bu noktada patlak veriyor. Robotlar ve yapay zeka aslında bir bakıma bizim yansımamız. Bizler doğamıza bu kadar zarar verebiliyorsak onların da aynısı bize yapması mümkün değil mi? Zaten günümüzde bu gibi riskler ve hata payları nedeniyle üretim ve sağlık gibi sektörlerde hizmet etmek üzere geliştirilen robotlarda “kill switch” isimli bir düğme bulunuyor. Bu düğme bazen fiziksel bazen yazılımsal olabiliyor ama temel işlevi, işlerin kontrolden çıkması durumunda robotu durdurması. İşte bilim insanlarının korkusu ise yapay zekanın ilerleyip bu düğmeyi ya da yazılımı göz ardı ederek işlemeye devam etmesi.
Robot Yasası
Ünlü yazar Asimov’un kurgularında yer alan yapay zekanın insanlığın üzerinde hakimiyet kurması tehlikesine karşın belirlediği yasa bugün bilim insanlarına ilham veriyor. Kurgusal yasaya göre yapay zeka, her ne koşulda olursa olsun insana zarar veremez. Bu kuralın dışına çıkan bir yapay zeka ise geçen sene geliştirildi. Sanatçı Alexander Reben tarafından tasarlanan bir cihaz hiçbir amaca hizmet etmeksizin adeta keyfi bir biçimde insana zarar verebiliyor. Parmağınıza iğne yapıp kanatabilen ya da hiçbir şey yapmayan bu makinenin adı da Asimov’a gönderme yaparak “İlk Kanun” olarak belirlenmiş. Tabii burada robot, ilk kanunu uygulamak yerine uygulamamayı seçebiliyor.
Benzer bir gelişim geçtiğimiz günlerde Google’un geliştirdiği yapay zeka DeepMind’da da gözlemlendi. Satranç ve Go oyunlarında dünyanın en iyilerini alt etmeyi başarmasıyla ünlenen DeepMind’a yapılan testler beklenmedik sonuçlar ortaya koydu. DeepMind’a son derece basit bir elma toplama oyununu yüklendi. Oyun, en çok elmayı toplayanın kazanmasına dayalı. Başlarda son derece “mantıklı” hamleler yapan DeepMind, elmaların azalmasına yakın adeta hile yaparak lazer kullanıp rakibini bozma ve onun elmalarını çalmaya kalkıştı. Bu arada teorik olarak lazer kullanılmazsa iki oyuncunun da eşit sayıda elmaya sahip olma şansı varken DeepMind, riske girmeden kazanan olmayı seçiyor.
Bir yapay zekaya göre son derece beklenmedik olarak yorumlanan hareket aslında endişe verici. Henüz bebek seviyesinde olan yapay zeka büyüdüğünde ne yapacak? Sanal elmaya lazer elmasıyla ateş eden bir zeka, bir insanı durdurmak veya dünyayı ele geçirmek isterse neler yapmaz? Ve bizler en az kendimiz kadar saldırgan yeni bir türün tohumlarını ekmiş durumdayken, kendi yarattığımız zekaya yenik düşebilir miyiz? İşte bilimin cevabını aradığı ve hatta cevabından korktuğu soruların başında bu ikilem geliyo.
