Metnin imzacıları arasında başta teknoloji dünyasının devleri olmak üzere hayli dikkat çekici isimler olduğunu görüyoruz: Elon Musk, Yoshua Bengio, Steve Wozniak ve Yuval Noah Harari imzacı isimlerden... Bu güçlü isimlerin imzacısı olmaları elbette mektubu daha ilgi çekici kılıyor ve bizi düşünmeye sevk ediyor.
Yapay zekanın insanlığın geleceği için büyük bir tehdit olarak algılanması durumu yeni değil. Elon Musk uzun yıllardır bu konuyla ilgili uyarılarını her ortamda tekrarlıyor. Dünyanın en zeki insanlarından biri kabul edilen, teorik fizik dahisi Stephan Hawking de ölümünden önce insanları bu tehdide karşı sıklıkla uyarıyordu. Açıkçası kendisini Elon Musk’a göre çok daha muteber bir insan olarak görmemden dolayı ben de bu uyarıları endişe ile okur ve farklı kaynaklardan yapay zekanın hangi açılardan insanın geleceğine tehdit oluşturabileceğini anlamaya çalışırdım.
Kaynaklar sıklıkla aşağıda yer alan alanlara işaret ediyorlar:
Arıza veya Hatalar: AI sistemleri arızalanabilir veya hatalarla karşılaşabilir, bu da insan güvenliğini tehdit edebilecek istenmeyen sonuçlara yol açabilir. Örneğin, yapay zeka sistemi arızalı olan sürücüsüz bir araba bir kazaya, hatta yaralanma ya da ölümlerle sonuçlanacak durumlara neden olabilir. Bu durumda sorumluluğun kimde olacağına dair tartışmalar, yapay zeka etiği ve hukuki sorumluluklar sıkça konuşulan ancak şu ana kadar somut adımlara dönüşemeyen konular arasında.
Hesap Verebilirlik / Sorumluluk: Yapay zeka sistemlerinin geliştirilmesinde bireysel ve kurumsal düzeyde pek çok aktör rol alıyor. Herhangi bir net sorumluluk çizgisi olmadan geliştirilen bu sistemlerde meydana gelebilecek bir sorun, bir hacklenme ya da yolsuzluk durumunda kimin sorumlu olduğunu belirlemek oldukça zor.
Önyargı ve Ayrımcılık: AI sistemleri, özellikle önyargılı veri kümeleri üzerinden eğitilmeleri durumunda önyargılı ve ayrımcı sonuçlar veriyorlar. Bu durum da azınlıklar veya kadınlar gibi bazı dezavantajlı insan gruplarına karşı haksız muameleyle sonuçlanabiliyor. Bunun çarpıcı bir örneği insan kaynakları alanında geliştirilen bir yapay zeka uygulamasıydı. İşe alım süreçlerinde insanların önyargıları dolayısıyla erkeklerin, beyaz ırk mensuplarının ve herhangi bir azınlık grubuna dahil olmayan kişilerin imtiyazlı hale geldikleri acı bir gerçek… CV’leri taramaktan ve iş tanımına göre en uygun adayı seçmekten sorumlu bir yapay zeka uygulaması bu ayrımcı veriyle beslenince, kendisi de en uygun aday yerine imtiyazlı gruplardan gelen adayları işlere yerleştirmeye başlamış ve bu nedenle uygulamaya son verilmişti.
İstihdam ve İşsizliğie İlişkin Kaygılar: AI, şu anda insanlar tarafından gerçekleştirilen birçok işi otomatikleştirmiş durumda. Önümüzdeki yıllarda bu durumun pek çok farklı sektöre ve meslek grubunu da yayılması bekleniyor. Dolayısıyla yapay zekanın zaten dünya çapında yükselmekte olan işsizlik sorununu daha da derinleştireceği aşikar.
Silah ve Savaş Teknolojileri: Yapay zeka potansiyel olarak, insan müdahalesi olmadan saldırılar gerçekleştirmek ve insan yaşamının kaybına yol açabilecek otonom silahlar geliştirmek için de kullanılabiliyor. Hatta bu alandaki uygulamaların izleme uygulamaları ile birlikte en çok yatırım alan uygulamalar arasında olduklarını görüyoruz. Öte yandan bu gelişmelerin kamuya yansımaması için de büyük bir çaba sarf ediliyor ve bu durum da endişeleri bir kat daha arttırıyor.
Gizlilik ve Güvenlik: AI sistemlerinin kendilerini geliştirmelerinin ön koşulu daha çok ve çeşitli veriye ulaşabilmeleri. Haliyle bu sistemlerin gizlilik, güvenlik ve mahremiyet ile ilgili endişeleri arttıran çok miktarda veri toplayabilmesi, analiz etmesi ve uygulamaya alması da muhtemel. Bu gibi durumlar için geliştirilmiş protokoller olsa da, bu protokollerin ve olası tedbirlerin yürürlüğe koyulması henüz yasalarla garanti altına alınmış değil. Dolayısıyla hassas verilere yetkisiz erişim, kimlik hırsızlığı ya da finansal dolandırıcılık gibi siber suçlarla ilgili yüksek riskler söz konusu.
Bu aşamadan sonra yapay zeka çalışmalarının durdurulması mümkün değil. Zira biliyoruz ki hiçbir şirket yatırımlarını çöpe atma pahasına bu kadar karlı bir sektörde yürüttüğü işleri durdurmayacak. Bana göre bunlar son derece haklı kaygılar. Dolayısıyla Future of Life Institute tarafından yapılan, çalışmaları 6 ay durdurma ve sektörü regüle etme çağrıları da anlamlı… Ve fakat üzülerek belirtmeliyim ki gerçekçi değil. Sektör hızını aldı. Elon Musk’ın da kurucuları arasında yer aldığı, GPT4 ile harikalar yaratan OpenAI 2023'te 200 milyon dolar ve 2024'te 1 milyar dolar gelir öngörüyor. 2023 Ocak ayında Microsoft yetkilileri şirkete 10 milyar dolar tutarında yeni bir yatırım daha yapacaklarını açıkladılar. OpenAI ise 29 milyar dolar değerinde, yani şirketin 2021'deki değerini iki katına çıkaracak bir finansman sepeti için görüşmelerde bulunduklarını duyurdu. Şirketten 2018 yılında ayrılan Elon Musk ise önce yukarıda bahsettiğimiz metne imza atarak “Çalışmaları durdurun.” çağrısında bulundu; zannederim kimsenin oralı olmadığını da gördükten sonra geçtiğimiz haftalarda kendi AI şirketi olan XAI’ın lansmanını yaptı. Çelişkili mi, evet; şaşırtıcı mı, hiç değil…Bu aşamadan sonra yapay zeka çalışmalarının durdurulması mümkün değil. Zira biliyoruz ki hiçbir şirket yatırımlarını çöpe atma pahasına bu kadar karlı bir sektörde yürüttüğü işleri durdurmayacak. Daha da ötesi, hiçbir ülke de bu çok önemli ekonomik ve politik etki alanında kendisini zayıflatacak hamleler yapmayacak, gücünü kaybetme pahasına sektörü regüle etmeye girişmeyecek.
Dolayısıyla yapay zekanın durdurulamama sebebi bilinç kazanmış olması değil, insanın para ve güç hırsı olacak. Ne geliştirici şirketler bu aşamadan sonra milyar dolarlık karlarından vazgeçecekler, ne de katkıda bulunan ülkeler süper güç olma fırsatından feragat edecekler.
Realiteyle yüzleşelim ve skynet’e bir selam gönderelim.