Bana göre otoriter bir rejimin gözetim araçlarını göstere göstere kullanmasından daha dehşet verici olan tek şey, sözüm ona liberal demokratik rejimlerin dev fonlarla acımasız gözetim teknolojileri geliştiriyor ve uyguluyor olmaları. Otoriter bir yönetim olmadığını iddia ederek ve bu savın arkasında durabilecek şekilde hareket ederek, bir yandan da sıkı bir gözetim devleti haline gelmek mümkün mü? Teknoloji bu alanda da imdadınıza yetişiyor. Yapay zekâ destekli “örtülü” gözetim mekanizmaları ile artık her şey mümkün… Bu mekanizmalar bir anlamda bugüne kadar yapılmamış olanı yapıp, liberal demokrasiye pragmatik bir çözüm önerisi yaratıyor: Ekonomik olarak gelişmiş, büyük ülkelerin zengin vatandaşları da dahil olmak üzere tüm vatandaşlar üzerinde kontrol kurmaları için artık makul bir yol var. Yapay zekâ destekli, göze görünmeyen ve günlük hayatımızda bize kendisini hissettirmeyen bu algoritmalar, bu örtüklükleri nedeniyle uygulayıcılarına ve kendilerine karşı bir tutum geliştirmemizi ustaca önlüyorlar. Zira gözetildiğinizin farkında değilsiniz ve bu da sözde demokratik yönetimlerin özgürlükçü savlarından geri adım atmadan, -mış gibi yönetebilmelerini sağlayabilmeleri için kusursuz bir yol. Liberal demokrasiler bu yeni oyunu çok iyi sahiplenmiş görünüyorlar. Öyle ki ABD ve AB, Çin ile aralarındaki jeopolitik güç ve hakimiyet rekabetini “teknoloji tabanlı otoriterlik ile liberal demokrasiler arasındaki bir rekabet” olarak çerçevelemekten de geri durmuyor. Obama ve Trump yönetimlerinde Savunma Bakan Yardımcılığı görevini yürüten Robert O. Work, yapay zekânın “karanlık” güçlerin elinde nasıl bir silaha dönüşebileceğini şu sözlerle anlatıyor: “Bu teknolojik rekabet aslında bir değerler savaşı. Çin yapay zekayı vatandaşlarını denetlemek ve azınlıkları bastırmak için kullanmak istiyor. Kişisel mahremiyet ve sivil özgürlükleri yok sayıyorlar. Bu, dünyadaki demokratik ulusların değerleri ile bağdaşmıyor. Bu nedenle, normları ve değerleri oluşturmak için birlikte çalışan ve değerlerimizi yansıtan platformları kullanan demokrasiler olarak güç birliği yapmalıyız.” Amacım elbette Çin’in giderek sıkılaşan ve zalimleşen YZ tabanlı gözetim politikalarını tartışmak değil. Çin’in yapay zekâ aracılığıyla Sincan bölgesindeki Uygur Türklerini tanımlamak, profillerini oluşturmak ve izlemek için zor kullanarak ses ve DNA örnekleri gibi biyometrik verilerini toplaması bu alanda bugüne kadar yapılmış ve bildiğiniz uygulamalar arasında en dehşet verici uygulama olmaya devam ediyor. Yine Çin'de test edilen ve tüm vatandaşların her gün çok farklı veri kaynakları üzerinden izlenmesiyle belirlenen sosyal kredi puanı testini de unutmuş değiliz. Teknolojinin karanlık yanından sürekli bahsediyoruz ve Çin ne yazık ki bu tarafa oldukça yakınsayan ülkelerden biri. Ancak benim sorunum daha ziyade otoriter olmadığını iddia eden liberal demokratik yönetimlerin bir yandan örtülü gözetimin nimetlerinden faydalanırken, diğer yandan Çin’i bu konuda savaşılması gereken kötü güç ilan etmeleriyle... Bu klasik senaryodan sıkılanlar için liberal demokrasilerin örtülü gözetim uygulamalarından da bahsetmekte fayda var: AB’nin “gözetim teknolojileri”ne yaptığı muazzam yatırımları detaylı olarak incelediğimizde, kendi içinde dahi büyük tartışmalara yol açan teknolojilere milyonlarca Euro kaynak ayrıldığını görüyoruz. Horizon 2020'nin güvenlik kategorisi fonlarının oldukça ağırlıklandırılmış biçimde gözetim teknolojilerine aktığı görülüyor. Son yedi yılda programdan 1,7 milyar Euro, polis güçleri ve sınır kontrol kurumları için güvenlik ürünlerinin geliştirilmesine ayrılmış. Bu durum, mülteci sorununun gündemimizin ana maddesi olduğu bir zamanda oldukça açık bir politika ifadesi. Artık mülteci akınını durdurmak için eldeki çözümler duvarlar örmek ya da farklı ülkeleri “kapılarını tutmak” üzere fonlamaktan öteye geçiyor.
iBorderCtrl adı verilen AB fonlu bir projede, sınır güvenliği olarak görev alan bir yapay zekâ uygulamasının, sınırdan girmeye çalışan kişinin sorulara doğru yanıtlar verip vermediğini tespit etmesi üzerine çalışılıyor.
Örneğin, iBorderCtrl adı verilen AB fonlu bir projede, sınır güvenliği olarak görev alan bir yapay zekâ uygulamasının, sınırdan girmeye çalışan kişinin sorulara doğru yanıtlar verip vermediğini tespit etmesi üzerine çalışılıyor. Ancak şu anda test aşamasında olan uygulamanın kimi zaman doğru söylenmesi durumunda bile yanlış alarm vererek kişinin ülkeye girişini engelleyebildiği görülmüş. Böyle bir uygulamanın sınır güvenliği için kullanılması durumunda beyaz ırk harici kişilerin, azınlıkların, göçmenlerin, yaşlıların, çocukların ve engellilerin hatalı bir şekilde “yalancı” olarak rapor edilme olasılığı diğerlerine göre daha yüksek olabiliyor. Zira yapay zekâ, dominant olanın verisiyle besleniyor ve buna göre sonuçlar üretiyor. Yapay zekâ dışında, insansız hava araçları, artırılmış gerçeklik, yüz, ses, damar ve iris tanıma ve gözetleme için kullanılabilecek diğer biyometrik veriler üzerinden işleyen teknolojiler de AB’nin yoğun olarak fonladığı projeler arasında. Temel hakları ihlal ettiği ve etik olmadığı gerekçesiyle AB içinde dahi büyük tartışmalara neden olan bu güvenlik teknolojilerinin AR-GE çalışmalarına yılda milyarlarca Euro kamu fonu akıtılıyor ve önümüzdeki yedi yıl içinde en az 1,3 milyar Euro’nun daha serbest bırakılacağı öngörülüyor. Öte yandan AB yetkilileri ise bu alanların stratejik güvenlik konularıyla ilişkili olduğunu öne sürerek, geliştirilen teknolojilerin suç, terör ve doğal afetlerle mücadele için çok önemli olduğunu ifade ediyorlar. Nihai hedeflerinin ise AB bloğu güvenlik şirketlerini ABD, İsrail ve Çin ile rekabet etmeleri için desteklemek olduğunu belirtiyorlar. Amerika Birleşik Devletleri'nde de durum pek farklı değil. Özellikle yüz tanıma sistemleri üzerinden suçluların ve suç işleme potansiyeli (?) olan kişilerin tespit ve takibine yönelik sistemler, yapay zekanın dezavantajlı topluluklar ve azınlıklara karşı uyguladığı negatif ayrımcılık nedeniyle korkunç sonuçlar veriyor. Biyometrik tanıma sistemlerinin, kadınların ve siyah ırka mensup kişilerin ithamına ve masum insanların hapse atılmasına neden olduğuna tanık olduk. Bunun üzerine bazı eyaletler, şirketlerin yüz tanıma teknolojisi kullanımına yönelik yasaklamalar getirirken, kamu kurumları için herhangi bir yasaklama getirilmemesi de dikkatlerden kaçmamıştı. Öte yandan gerek Avrupa gerekse Amerika’da, “dolaşımda” olan insanların (yasal ve kaçak göçmenlerin) izlenebilmesi için kurulan sistemler iç güvenlik sistemleri olarak tanımlarken, bu sistemlerin dev birer gözetim ve ötekileştirme makinesi olarak çalıştıkları da su götürmez bir gerçek. Tüm bu tartışmalar üzerinden yazının en başındaki hipoteze geri dönüyorum: YZ tabanlı gözetim uygulamalarının otoriter rejimlerin sağlamlığını pekiştirdiği ve vatandaşlarının insanlık onurunu büyük ölçüde tehlikeye attığı aşikâr. Ancak söz konusu durum, yalnızca otoriter rejimlerde değil, iş demokrasi ve özgürlüklerden bahis açmaya gelindiğinde kendilerini melek, geri kalan rejimleri ise düşman ilan eden ülkelerde de pekâlâ geçerli. Bana göre otoriter bir rejimin gözetim araçlarını göstere göstere kullanmasından daha dehşet verici olan tek şey, sözüm ona liberal demokratik rejimlerin, perde önünde Çin ve diğer otoriter rejimlere karşı verdikleri demokrasi savaşının arkasında, dev fonlarla acımasız gözetim teknolojileri geliştiriyor ve uyguluyor olmaları.