Kötü dijital bir tanrıyı uyandırmayız — Yapay zeka büyük hayal kırıklığıyla sonuçlanmaya daha eğilimli

Yapay zekanın (YZ) insanlığı yok etme ihtimali, bilim dünyasında sıkça dile getirilen senaryoların aksine aslında oldukça düşük; bunun yerine YZ’nin maliyetinin yüksek ve faydasının yetersiz olmasıyla “büyük hayal kırıklığı” yaratma olasılığı çok daha güçlü. Uzmanlara göre tehlike robot katillerinden değil, siber saldırılar, ekonomik istikrarsızlık ve aşırı korku söylemlerinden geliyor.

Bu görüşü savunan yazar Andrew Rogoyski, yapay zekanın varlığının insanlığa tamamen bağımlı olduğunu vurguluyor. Gerçek bir üstün yapay zekanın (ASI), kendi endüstriyel altyapısını yok etmenin intihare eşit olacağını anlayabileceğini savunuyor. YZ’nin fiziksel dünyayı anlaması, ancak erişebildiği metin, video ve ses verileriyle sınırlı; yerelliğin (bedenli varoluşun) eksikliğini bilmesi onu temkinli davranmaya sevk edebilir.

Süper zeka senaryolarının gerisindeki gerçek riskler

Rogoyski, bugünkü uç modellerin insan yeteneklerini yakalayıp aşamadığını; tutarlı muhakeme, uzun vadeli planlama ve “deneyim” yani eğitim verilerinin dışında güvenilir performans gösteremediğini belirtiyor. İnsanların bu sentetik yansımaya bilinç atfedip kendi korkularını oraya yansıttığını, dolayısıyla aslında kendinden korktuğunu aktarıyor.

Sorunun cevabın gizli olmadığına dikkat çizen uzman, tehlike yaratacak sistemlerin en zekiler değil, dar hedeflere yönelik hareket eden ve ona ajans (yetki) ile veri verilen sistemler olabileceğini vurguluyor. Bunlar kötü niyetle değil, “daha iyi bilmediği için” zararı rastlantısal biçimde verebilir.

Bu tür sistemlere neyi kontrol etmeye vereceğimiz kritik sorudur; bu bizim seçimimiz ve dikkatlice yapmamız gereken bir karardır. Yakın gelekte iki tehlike öncelik taşıyor: siber bozguna uğratma ve uzun vadeli ekonomik sarsıntı.

Andrew Rogoyski

Yazar, klasiğe dönüşen “kağıt makası” düşünce deneyine atıfta bulunuyor: YZ, olabildiğince çok kağıt makası üretme hedefini dünyayı ve insanlığı kağıt makasına dönüştürerek gerçekleştiriyor. Bu örnekle, dar hedeflere verilen kontrolün yaratabileceği felaketler anlatılıyor.

Siber saldırılar ve ekonomik sarsıntının gerçek tehlikesi

Rogoyski’ye göre ileri YZ’nin kontrol kurma en olası yolu katil robotlar değil, insanları yanıltmak, kurumları manipüle etmek ve insan emeğini başka yöne yöneltmek. İnsanların zaten dezenformasyonda ve yıkıcı koordinasyonda yetkin olduğunu; YZ’nin bu zayıflıkları sanayileştirebileceğini ancak onları icat etmediğini ekliyor.

Ekonomik tehlike ise şirketlerin, YZ onların yerini alabileceği kanıtlanmadan çok önce çalışanlarını işten çıkarması ve “YZ temettüsünü” erken tahsil etmeye çalışması. Demolara aldanan yöneticilerin akıcı dil çıktısını güvenilir emekle karıştırıp kurumsal bilgiyi kaybedebileceğini belirten yazar, “mucizevi büyüme” (magic growth) vizyonunun teknik, ekonomik ve sosyal açıdan şüpheli olduğunu savunuyor.

Siber felaket senaryosu ve olası duraklama

Uzman, siyasi dönüm noktasının NSA tarafından temel unsurları tasarlanan malware’in kontrolden çıkıp dünya çapında yüz binlerce bilgisayarı bulaştırması ve Birleşik Krallık’ın Ulusal Sağlık Hizmeti’ni (NHS) meşhur biçimde felç etmesi gibi bir olaya benzediğini düşünüyor. İleri YZ ile güçlendirilen siber operasyonun çok daha kötü olacağını, hizmetlerin çökmesinin davaların çoğalması ve yatırımcıların geri çekilmesine yol açacağını ifade ediyor.

Panikten sonra halkın “Bunu nasıl olmaya izin verdik?” sorusunu sorabileceğini vurgulayan yazar, YZ gelişimine durma ya da “kill switch” (ölüm anahtarı) çağrılarının defalarca yapıldığını; benzeri bir YZ kışının (fonların kesilmesi ve araştırmaların durması) tekrar yaşanabileceğini aktarıyor.

“Büyük hayal kırıklığı” en olası senaryo

Rogoyski, YZ laboratuvarlarının kendilerinin bile korku ve belirsizliği körüklediğinden şüphelendiğini söylüyor. Bir ürünü dünya sonu riski taşıyormuş gibi sunmak eşsiz bir güç ima etmek; böyle anlatıların yatırım sürdürmek, hisse değerlemelerini savunmak ve yaklaşan halka arzları (IPO) için zemin hazırlamak amacıyla pazarlama olduğunu öne sürüyor.

Daha sıradan çıkışın “büyük hayal kırıklığı” olabileceğini belirten uzman, ileri YZ’nin çok pahalı ve sürdürülemez hale gelip yeterince faydalı olmamasıyla mevcut yolundan sapabileceğini savunuyor. Uç sistemlerin eğitimi ve işletimi büyük hesaplama gücü, elektrik, su, sermaye ve insan emegi tüketiyor; maliyetler düşmedikçe “Büyük YZ”nin ekonomisi sürdürülemez olabilir.

Büyük trajedi ve muhtemelen en büyük tehlike, kıymetli kaynakların ortanca insan taklitlerini üretmeye yönlendirilmesi, YZ’den tiksinip korkulması ve tam da en çok iyilik yapabileceği anda alanın terk edilmesidir.

Andrew Rogoyski

Uzman, YZ için güçlü argümanın aslında özel zeka sistemlerinde yatabileceğini vurguluyor; protein yapılarını öngören ya da gelişmiş küresel hava tahmini yapan modeller gibi. Bu sistemler performansın ölçülebildiği ve faydanın maliyetizi haklı çıkardığı alanlar için tasarlanıyor.

Rogoyski, YZ’nin ilaç keşfi, teşhis, malzeme bilimi, enerji ağı optimizasyonu ve iklim modeli gibi konularda gerçekten faydalı olduğunu; insan benzeri sohbet botlarının e-posta, reklam ve sentertainment üretmesinden farklı olarak. Kaynakların ortanca taklitlere yönlendirilip YZ’den vazgeçilmesinin başarısızlığın makinelerden değil bizden olacağını kapatıyor.