Diktatör, vatandaşlara sağlık hizmeti ya da eşitlik getirmese de muhalifleri değil de kendisini sevmelerini sağlayabilecek… Ya demokrasi kendini bütünüyle yeni baştan şekillendirecek ya da insanlar “dijital diktatörlük” altında yaşamaya başlayacak.
İnsanlar yapay zekâdan itaatkar kalmayacağını düşündükleri için korkar genellikle. Efendilerine başkaldırıp sokaklarda başıboş gezerek önlerine çıkanı öldüren robotlar hakkında haddinden fazla bilimkurgu filmi izledik. Oysa robotlarla ilgili esas sorun bunun tam tersi. Muhtemelen her koşulda efendilerine itaat edecekleri ve asla başkaldırmayacakları için korkmalıyız onlardan.
Körü körüne itaat eden robotlar iyi huylu efendilere hizmet ediyorsa sorun değil elbette. Savaş halinde bile işi katil robotlara bırakmak, tarihte ilk defa muharebe meydanında savaş kanunlarına fiilen uyulmasını sağlayabilir. İnsan askerler kimi zaman duygularının esiri olup cinayet, yağmalama ve tecavüz gibi savaş kanunlarını ihlal eden davranışlarda bulunabiliyor. Duygu
deyince aklımıza merhamet, sevgi ve empatiyle ilgili şeyler gelir genellikle ama savaş zamanı kontrolü sıklıkla ele geçiren duygular korku, nefret ve acımasızlık olur. Robotların duyguları olmadığına göre askeri kanunlara harfiyen uyacaklarına, asla şahsi korkular ve nefret yüzünden yoldan çıkmayacaklarınagüvenilebilir.
16 Mart 1968 tarihinde Güney Vietnam’ın My Lai köyünde çığrından çıkan bir bölük Amerikan askeri dört yüz kadar sivili katletmişti. Bu savaş suçuna sebep olan şey aylarca ormanda gerilla savaşı sürdüren erlerin kendi inisiyatifleriydi. Herhangi bir stratejik amaca hizmet etmediği gibi, hem yasaları hem de ABD’nin askeri ilkelerini ihlal eden bir olaydı. Sorumlusu insan duygularıydı.24 ABD, Vietnam’ da katil robotlar kullanabilseydi My Lai katliamı hiç yaşanmayabilirdi.
Ama yine de katil robotlar üretip sahaya sürme telâşına kapılmadan önce, robotların her daim kodlarının taşıdığı özellikleri birebir yansıttığını ve onları daha da güçlendirdiğini kendimize hatırlatmamız gerek. Kod ılımlı ve iyi huyluysa robotlar da muhtemelen sıradan bir insan askerden çok daha iyi olacaktır. Ama kod acımasız ve zalimse feci sonuçlar ortaya çıkacaktır.
Robotlarla ilgili esas sorun kendi yapay zekâları değil, efendilerinin doğal aptallığı ve zalimliğidir.
1995’in Temmuz’unda Bosnalı Sırp birlikleri Srebrenitsa civarındaki sekiz bini aşkın Müslüman Bosnalıyı katletti. Başıboş My Lai katliamının aksine Srebrenitsa’da işlenen cinayetler Bosna’yı Müslümanlardan temizlemeyi “ahlâki görev” bellemiş Bosnalı Sırpların politikasını yansıtan uzun
soluklu ve organize bir operasyondu. 25 1995 yılında Bosna Sırplarının elinde katil robotlar olsaydı bu vahşetin boyutları büyük ihtimalle azalmaz, aksine daha da artardı. Verilen emirleri uygulamakta bir saniye olsun tereddüt edecek tek bir robot bile çıkmaz ve merhamet, yaptığından iğrenme ya da sadece bezginlik duygularına bağlı olarak tek bir Müslüman çocuğun bile hayatı kurtulmazdı.
Böylesi robotlara sahip acımasız bir diktatörün, ne denli insafsız ve çılgın emirler verirse versin, asla askerlerinin kendisine karşı çıkmasından korkması gerekmez. O dönemlerde bir robot ordusu olsaydı, Fransız Devrimi 1789’da başlar başlamaz bastırılırdı muhtemelen. Ve 2011 yılında Hüsnü Mübarek’in elinin altında katil robotlardan oluşan bir birlik olsaydı, bu birliği taraf değiştirirler korkusu taşımadan halkın üzerine sürebilirdi. Aynı şekilde robotlardan oluşan bir orduya hükmeden emperyalist bir hükümet de robotların motivasyonlarını yitirmesi ya da asker ailelerinin gösteri düzenlemesi tehlikesi olmaksızın, kamuoyunda destek görmeyen savaşlar açabilirdi.
Vietnam Savaşı’nda ABD’nin elinde katil robotlar olsaydı My Lai katliamı engellenebilirdi ama savaşın kendisi çok daha uzun yıllar sürebilirdi çünkü ABD hükümetinin morali bozuk askerler, büyük çaplı savaş karşıtı gösteriler ya da “savaşa karşı savaş gazileri” akımı gibi dertleri olmazdı. (Bazı ABD vatandaşları yine de savaşa itiraz edebilirdi elbette. Ama bu protestocular askere alınma endişesi duymayacaklarından, mesul oldukları zulüm hafızalarına kazınmayacağından ya da sevdikleri bir akrabalarını kaybetme acısı taşımayacaklarından hem sayıca az hem de o denli ateşli olmazlardı.) Otonom sivil arabalar için bu tür sorunlar çok daha az önem teşkil ediyor çünkü hiçbir üretici arabalarını insanları hedef alıp öldürmeye kasten programlamaz.
Fakat otonom silah sistemleri faciaya davetiye çıkarır çünkü kimi düpedüz habis kimi de bozuk ahlâklı bir sürü hükümet var. Tehlike ölüm makineleriyle kısıtlı değil. Gözetleme sistemleri de bir o kadar riskli. Gözetleme algoritmaları iyi huylu bir devletin elinde insanlığın başına gelebilecek en iyi şeye dönüşebilir. Ama aynı büyük veri algoritmaları geleceğin Büyük Birader’inin gücüne güç katmaya ve Orwell’in kurguladığı gibi bir gözetim rejiminde tüm bireylerin durmadan izlenmesine de sebep verebilir.
Hatta iş Orwell’in dimağını aşacak noktalara bile gelebilir: Hareket ve konuşmalarımızı dışardan izlemekle kalmayıp iç deneyimlerimizi kaydetmek üzere bedenimizin içine de sirayet edebilen mutlak bir gözetim rejimi. Kuzey Kore’nin Kim rejiminin bu yeni teknolojiyle neler yapabileceğini düşünün.
Gelecekte tüm Kuzey Kore vatandaşları yaptıkları ve söylediklerinin yanı sıra tansiyonlarını ve beyin faaliyetlerini de gözlemleyen biyometrik bir bileklik takmak zorunda bırakılabilir. Kuzey Kore rejimi insan beynini giderek daha iyi kavramamızı ve makine öğrenmesinin muazzam gücünü kullanarak, tarihte ilk defa her bir vatandaşın anbean ne düşündüğünü ölçüp tartmaya muktedir duruma gelebilir. Biyometrik sensör Kim Jong-un’un resmine bakarken kızgınlık belirtileri (yüksek tansiyon, amigdala da faaliyet artışı) gösterdiğinizi algılarsa ertesi gün çalışma kampını boylarsınız.
Kendini tecrit ettiği düşünülünce Kuzey Kore rejiminin gerekli teknolojiyi kendi kendine geliştirmesi zor görünüyor. Ama teknolojinin bu alanın öncüsü ülkelerde geliştirilip Kuzey Koreliler ve diğer gerici diktatörlükler tarafından kopyalanması ya da satın alınabilmesi kuvvetle muhtemel.
ABD’den yaşadığım ülke İsrail’e pek çok demokratik ülke gibi hem Çin hem de Rusya durmaksızın gözetim araçları geliştiriyor. “Start-up ülkesi” lakabı takılan İsrail’de son derece canlı bir ileri teknoloji ve üstün bir siber güvenlik sektörü var. Bununla birlikte İsrail, Filistinlilerle ölümcül bir ihtilafın pençesinde ve en azından bazı liderler, generaller ve vatandaşlar gerekli teknolojiyi elde eder etmez memnuniyetle Batı Şeria’da mutlak gözetim rejimi oluşturacaktır.
Günümüzde bile Filistinlilerin her telefon konuşması, her Facebook paylaşımı veya her şehirlerarası seyahati İsrail’in mikrofonları, kameraları, insansız hava araçları ya da casus yazılımları tarafından gözetleniyor muhtemelen. Toplanan veriler daha sonra büyük veri algoritmalarının yardımıyla analiz ediliyor. Bu sayede İsrail güvenlik kuvvetleri potansiyel tehlikeleri tespit edip sahaya bir sürü asker sürmeye gerek kalmadan etkisiz hale getirebiliyor. Filistinliler Batı Şeria’ da birtakım kasabaların ve köylerin idaresine sahip olsalar da gökyüzünü, radyo frekanslarını ve siber alemi İsrail kontrol ediyor. Bu yüzden de Batı Şeria’daki 2 ,5 milyon Filistinliyi etkili şekilde kontrol altında tutabilmek için şaşılacak kadar az İsrail askerine ihtiyaç duyuluyor.
Ekim 2017’de yaşanan trajikomik bir olay: Filistinli bir işçi Facebook sayfasında işyerindeki buldozerin yanı başında çekilmiş bir fotoğrafını paylaştı. Fotoğrafın altına da “Günaydın!” yazdı. Otomatik bir algoritma Arap harflerinin transliterasyonunda ufak bir hata yapıp harfleri “günaydın” anlamına gelen “Ysabechhum!” olarak değil de “saldır” anlamına gelen “Ydbachhum!” olarak algıladı. Adamın buldozerle insanları ezmeyi planlayan bir terörist olabileceğinden şüphelenen İsrail güvenlik kuvvetleri, adamı bir çırpıda gözaltına aldı. Algoritmanın hata yaptığı anlaşılınca adam serbest bırakıldı.
Ama soruna yol açan Facebook paylaşımı yine de kaldırıldı. Dikkati elden bırakmamak lazım tabii. Günümüzde Batı Şeria’ da Filistinlilerin başına gelenler, gün gelip dünyanın dört bir yanındaki milyonların başına geleceklerin ön gösteriminden ibaret olabilir.
20. yüzyılın sonlarında demokrasiler diktatörlükleri geride bırakıyordu, çünkü demokrasiler veri işleme konusunda daha iyiydi. Demokrasi bilgiişlem ve karar alma yetkilerini farklı insan ve kurumlara dağıtır. Oysa diktatörlükler bilgi ve yetkiyi tek bir mercide toplar. 20 . yüzyıl teknolojisi çerçevesinde büyük miktarda bilginin tek bir yerde toplanması verimsizdi. Kimsenin onca bilgiyi yeterince hızlı işleyip doğru kararlar alması mümkün değildi. Sovyetler Birliği’nin ABD’den çok daha kötü kararlar almış olmasının ve Sovyet ekonomisinin Amerika’nınkinden çok daha gerilerde kalmasının sebeplerinden biri de buydu.
Ancak yapay zekâ kısa bir süre sonra bu dengeyi tersine çevirebilir. Yapay zekâ kullanılarak devasa miktarlarda bilgi, merkezi bir şekilde işlenebiliyor. Hatta yapay zekâ yüzünden merkezi sistemler dağınık sistemlerden çok daha verimli hale gelebilir çünkü makine öğrenmesi, elinde analiz edecek ne kadar bilgi varsa o kadar iyi çalışıyor. Kişisel bilgilerin gizliliğine saygı göstererek veritabanınıza bir milyon insan hakkında kısmi bilgi koyacağınıza bir milyar insana ait tüm bilgileri, her tür gizlilik hakkını hiçe sayıp tek bir veri tabanına toplarsanız algoritmayı çok daha iyi çalışır hale getirebilirsiniz.
Örneğin otoriter bir hükümet tüm vatandaşlarına DNA taramasına girmeyi ve tüm tıbbi verilerini merkezi bir otoriteye bildirmeyi emrederse, genetik ve tıbbi araştırmalar alanında tıbbi bilgilerin kesinlikle gizli tutulduğu toplumlara karşı çok büyük avantaj sağlar. 20. yüzyılda otoriter rejimlere ket vuran bu başlıca etmen, tüm bilgiyi tek bir yerde toplama çabası, 21. yüzyılda belirleyici bir avantaja dönüşebilir.
Algoritmalar bizi daha iyi tanıdıkça otoriter hükümetler de vatandaşları üzerinde Nazi Almanya’sını gölgede bırakacak derecede mutlak bir kontrol elde edebilir. Ve bu tarz rejimlere direnmek tamamen imkânsızlaşabilir. Bu rejim nasıl hissettiğinizi bilmekle kalmayacak; size ne isterse onu hissettirebilecek.
Diktatör, vatandaşlara sağlık hizmeti ya da eşitlik getirmese de muhalifleri değil de kendisini sevmelerini sağlayabilecek. Şu anki haliyle demokrasi, biyoteknoloji ve bilişim teknolojilerinin iç içe geçmesini kaldıramayabilir. Ya demokrasi kendini bütünüyle yeni baştan şekillendirecek ya da insanlar “dijital diktatörlük” altında yaşamaya başlayacak.
Yuval Noah Harari
21. Yüzyıl İçin 21 Ders adlı kitaptan kısa bir bölüm, Kolektif Kitap, Türkçesi: Selin Siral, 1. Baskı, Eylül 2018, İstanbul, sayfa 71-75.
https://www.hepsiburada.com/21-yuzyil-icin-21-ders-yuval-noah-harari-pm-HB00000D28GG
