Bir felsefeci YZ’nın olası varlığı durumunda onun epistemik veya düşünsel anlamda formel sorunlarına eğilemez; eninde sonunda insan olmanın ne demek olduğuna dair sorunla da yüzleşmek zorunda kalacaktır.
Geçen hafta kaldığım yerden devam edeceğim demiştim. Ancak söz konusu yazıyı bir daha okuyunca ZYZ ve GYZ arasındaki farkı okura çok iyi anlatamadığım sonucuna vardım. Tam bu esnada yardımıma 10 Şubat’ta
Futurism dergisinde yayınlanan bir makale yetişti.
Bu makaleye de değineceğim. Ancak buna değinmeden önce geçen yazıda bahsettiğim “çocuk ve YZ” analojisinden bahsedeyim. Analojiler felsefeciler için kıyaslar, tümevarımlar ve çıkarımlar gibi daha sağlım mantıksal aletlere nazaran daha zayıftırlar. Ancak YZ gibi “henüz” gelişmekte olan bir alanda analoji yapmak dışında çok fazla yol bulunmaz. Neden? Bariz bir sebebi vardır bunun; çünkü elimizde tümevarıma dayanan bir çıkarsamayla varabileceğimiz kadar veri yoktur. YZ hisseder mi? Bilemiyoruz. Ölümlü müdür? Bunu da bilemiyoruz. Hatta daha da zorlu bir soru karşımıza çıkar; bir YZ’nin varlığı durumunda onu nasıl bir sınıflandırmaya sokmamız gerekir? Canlı mı? Bilinçli mi?
İnsansı mı?
Bu sorular ilk başta önemsiz ve ilgisiz görünebilir ancak teknolojide her zaman gördüğümüz ve bildiğimiz üzere ötelenen soru ve sorunlar yarın daha da büyüyerek karşımıza çıkar. Felsefenin varlık sebeplerinden biri de budur; bu konudaki arayışlara yol göstermek.
Onun genel özelliklerini tahmin edebilecek kadar bilemiyoruz. Bu genellemeye biraz da olsun varabilmek için klasik ayrımlar ve mantıksal akıl yürütmelerin yanında analojiye de başvurmam bundan.
Şimdi başlayabiliriz.
KLARA VE GÜNEŞ
Geçen yazımda yaptığım gibi yine PolitikYol’un değerleri yazarlarından Funda Çapar’ın bir yazısına ancak bu sefer 18 Temmuz 2021’de Kazuo Ishiguro’nun YZ hakkında yazdığı bir roman olan
Klara ve Güneş hikâyesinin incelemesine atıf yapacağım
[1].
Klara ve Güneş, benzer YZ bilimkurgularında olduğu gibi “insan olmak” sorunu etrafında dönüyor. Romanın protanisti Klara bir YZ ve hissediyor; Klara, çocuk arkadaşı Josie’nin hastalığına üzülür
[2]. Onun pek çok özelliği “insani” özelliklerdir. Empati yeteneği vardır ve pek çok duyusu da “çalışmaktadır.”
İşte YZ bizi şaşırttığı kadar düşündürmektedir. Bir insan ne zaman insan olmuş sayılabilir ki biz YZ’nın belirli bir kriteri karşıladığı fikrinde mutabık kalalım? Mesela hırsızlık yapmış olsa da insanın insan olduğunu kabul etmeliyiz. O halde YZ için hırsızlık yapmaması gerektiğini mi yoksa hırsızlık yapmamasının onda “hard coded” (gömülü kodlu) veya “hard-wired” (donanımsal anlamda sabit) olmadığını mı söylememiz gerekir? Bunlardan hangisi “iyi bir çözümdür”? Tecavüzcü de modern hukuk anlamında bir insandır; neden bir robot insana bu kadar benzemek zorundadır? Tecavüz
edebileceği için mi?
Bunlar sadece YZ konusunda karşılaşacağımız formel güçlükler değildir; aynı zamanda etik sorunlardır da. Bir felsefeci YZ’nın olası varlığı durumunda onun epistemik veya düşünsel anlamda formel sorunlarına eğilemez; eninde sonunda insan olmanın ne demek olduğuna dair sorunla da yüzleşmek zorunda kalacaktır.
Bu da bizi yazımın başında ihmal ettiğimi söylediğim ZYZ ve GYZ arasındaki farka götürüyor. Burada bir sıkıcı analoji daha verirsek yanlış olmaz; en azından sadece sıkıcılıkla suçlanabilirim sanırım.
Bize gereken sadece YZ’nin durumu “anlaması” değildir. Anlayabilmesi için doğal -ya da neredeyse doğala yakın- bir gelişme düzlemini takip edebiliyor olmamız gerekir.
Biz insanların dostları olan köpekleri ve kedileri düşününüz; köpekler ve kediler belirli doğal dillerle kendilerini ifade ederler. Mesela köpeklerin mutlu olduğunu nasıl gösterdiklerine ilişkin genel kanı onların kuyruklarını hızlı bir şekilde sallamalarıdır. Köpekler, bizim toplumsal ilişkilerimizde kullandığımız genel iletişim metodu olan “doğal dilleri” bilmezler; onlarla kurulan dilsel iletişim
ex parte bir iletişimdir, tek taraflıdır. Hukukçuların sevdiği deyimle “uniliteraldir”. Bizim tümce ile ifade ettiğimiz bir komutu anlayabilirler: “hadi gidelim!” demek gibi. Ancak buna sözle değil bir davranış ve tutum ile karşılık verebilirler.
Yakın akrabalarımız şempanzeler ve benzeri primatlar için de aynı durum geçerlidir. Şempanzeler belirgin seviyelerde zeka belirtileri gösterse de bizim onlar ve hatta yüzbinlerce yıl önce yaşamış olan Neanderthaller arasındaki en büyük farklarımızdan birisi dil ve düşünce becerisiyle bir şeyleri hiyerarşik olarak “yoluna koyabilmektir.”
Bu analojiyle tersini göstermek istiyorum. Bu analojiyi YZ’ya uyarladığımızda ise başarılı olmamız imkânsızdır. Çünkü bize gereken sadece YZ’nin durumu “anlaması” değildir. Anlayabilmesi için doğal -ya da neredeyse doğala yakın- bir gelişme düzlemini takip edebiliyor olmamız gerekir. Bunu nasıl anlayacağız?
Bunu daha da detaylandıralım şimdi.
KURTLARIN BÜYÜTTÜĞÜ
Ünlü yönetmen Ridley Scott da “insan olmak” ile ilgili aynı problemi farklı yapıtlarında dile getiren bir sanatçı. Geçen yazımda
Blade Runner örneğini vermiştim. Ancak onun insan ve kimlik problemi konusundaki endişelerini ve felsefi alt metinlerini ilk
Alien filmi ve benzeri yapıtlarında da görmek mümkün. Scott’ın son yıllardaki projesi
Raised by Wolves bunlardan birisi. Ancak bir sinema yapıtı değil, bir TV (TV’den çok artık daha çok canlı akış platformlarında yayınlanan) dizisi.
Raised by Wolves yani Türkçesiyle “Kurtların Büyüttüğü”, dünyada mevcut iki büyük kamp olan Mitraistler ve Ateistler arasındaki bir savaş esnasında Ateistlerin eline geçirip “resetlediği” ve tekrar programladıkları Mitraist iki androidin “doğal” yollarla büyüttüğü çocukları anlatıyor.
“Anne” olarak bilinen android doğurganlık yeteneğine sahip. Dolayısıyla doğurabiliyor. Bu ise çocuklarına ve genel olarak “cemiyetinde” bulunan diğer kişilere karşı empati yeteneği göstermesini sağlıyor.
Aslında tam tersi de oluyor. Tehdit altında hissettiğinde altyordamlarından birisi devreye girip onun Mitraist bir Lamia modelini taklit etmesini görüyoruz. Korkunç bir savaş robotuna dönüşüyor.
Burada da yukarıda işaret ettiğim probleme geri dönüyoruz. Dolayısıyla izlememiz gereken yol insan olmakla ilgili psikolojik süreçlerin değerlendirilmesinin yanı sıra formel düşünmekten ne kastettiğimizi anlamak olacaktır.
YZ’nın “insan gibi” düşünmesini isterken aynı zamanda insanın da mustarip olduğu bazı sorunlarla karşılaşmasını nasıl değerlendirmeliyiz? Buna kesin bir cevap vermek şimdiden zor görünüyor.
10 Şubat 2022’de bilim ve teknoloji haberlerinin yayınlandığı
Futurism dergisinde çarpıcı bir bir haber yayımlandı. “OpenAI’nın Başmühendisi Gelişmiş YZ’nın Çoktan Bilinçli Olmaya Başladığını Söylüyor” başlıklı haberde, önde gelen YZ ve teknoloji araştırma şirketlerinden OpenAI’ın başmühendisinin söz konusu gelişmeyle ilgili değerlendirmelerinden bahsedildi
[3]. Başmühendise göre “bugün nöral ağlar (neural networks) bir dereceye kadar bilinçli
[4][5].
Burada karşımıza çok boyutlu bir sorun çıktığını görmek zor değil; YZ’nın “insan gibi” düşünmesini isterken aynı zamanda insanın da mustarip olduğu bazı sorunlarla karşılaşmasını nasıl değerlendirmeliyiz? Buna kesin bir cevap vermek şimdiden zor görünüyor.
Burada işte bilincin analizi problemi karşımıza çıkıyor.
Geçen haftaki yazımda, Russell ve Norvig’in kitabına sıklıkla referans vereceğimi söylemiştim. Bu da o anlardan birisi.
Bilgisayar programcıları ne demek istediğimi daha iyi anlayacaklardır; bilgisayar programlama dillerinin pek çoğu 0’a bölünmeyi tanımlamaz. 0’a bölünme operasyonunun bulunduğu bir kod, derleyici tarafından hatalı bulunur ve tanımlanmaz. Gayet doğaldır bu; çünkü matematikte sıfıra bölünme işlemi tanımsızdır (normalde matematiksel işlemlerde sonucu “0” olarak alırız ancak bu tanımsızlığı
ad hoc göstermek içindir). Dolayısıyla “sonsuz” değildir.
Eğer sonucu 0 olarak almazsak mesela;
1/0=∞
2/0= ∞
O halde
1/0=2/0 olacaktır.
Bu da
1=2 eder
Ve bu yanlış cevaptır.
Pekâlâ, bilgisayara bu şekilde bir fonksiyonu, bu matematiksel işlemi aritmetiğin kurallarına uymadığını bildiği için mi yoksa hesaplayamadığı için mi giremeyiz? Cevap ikincisidir. Çünkü aritmetik kurallarına uymadığını bilmesinin nasıl tanımlayacağını bilgisayara sormak zorundayız. Bilgisayar ise buna mantıklı bir cevap veremeyebilir. Ancak hesaplanamaz olduğunu “hesaba katmamız” gerekir.
O halde bir GYZ’den bahsetmek imkânsız mıdır? Hayır. Akla ne kadar aykırı görünse de nesneleri tanımlayabilmek için belirli bir kavram şemsiyesi kullanmak için bir kriter bulmak zordur o yüzden.
ZYZ ve GYZ arasındaki farka dair sorun tam olarak burada karşımıza çıkar; Guazzi’nin “Sembol Temellendirme Problemi” olarak adlandırdığı problemdir bu
[6]. Guazzi’ye göre Frege’nin ortaya koyduğu semboller arasındaki içlemlerin (bedeutung) temsilini SGP oluşturur. Eğer SGP olmazsa dünyanın tasavvurunu düşünmek imkânsızdır.
Mesela, bir tavşanın varlığını “kavramsal” olarak tanımlayabilmek için onun tüm canlılar ve daha üst bir kategori olarak varlıklar sınıfı içindeki varlığını tanımlayabilmem gerekir. Eğer varlık>canlı>tavşan olarak bir sınıflandırma yaparsam bu sınıflandırmadaki referansın genel sembolik görünümü bana bir anlamı verecektir. Oysa ki Guazzi’nin dediği gibi;
“Bu nokta hem insan zihni hem de YZ için özdeştir: PSS (sembolleri manipüle etme yetisine sahip olan ama aynı zamanda fiziksel evrende gerçekleştirilebilir varlıklar) analitik olarak içerilen aktüel göndergeler üzerinden bir referansı, referansı kendileri üretmek zorunda olduğu için üretmezler.[7]”
O halde bir GYZ’den bahsetmek imkânsız mıdır? Hayır. Akla ne kadar aykırı görünse de nesneleri tanımlayabilmek için belirli bir kavram şemsiyesi kullanmak için bir kriter bulmak zordur o yüzden. Burada hemen şu itirazı duyar gibiyim. O hâlde bir tardigrad ile YZ arasındaki farkı nasıl tanımlarız ki?
Çünkü tardigrad, 0’a bölünme kuralını bilebilecek bir veriyle depolanmamıştır. Bunun tekrar eden ve kısır bir analitik çıkarsamaya dönmemesine çalışmalıyız.
Bu konu daha çok su kaldırır. Gelecek hafta görüşmek üzere. Esen kalın.
[1] https://www.politikyol.com/klara-ile-gunes-yakin-gelecekten-bir-ayna/
[2] Kazuo Ishiguro,
Klara and The Sun, Borzoi Book, Penguin Randhom House, s.48.
[3] https://futurism.com/the-byte/openai-already-sentient
[4] https://futurism.com/the-byte/openai-already-sentient
[5] https://futurism.com/the-byte/ai-role-play-abuse-children
[6] Jodi Guazzini,
An Epistemological Approach to the Symbol Grounding Problem, der. Vincent C. Müller, Philosophy and Theory of Artificial Ingelligence, Springer Yayınları, e-kitap, 2017, s.36.
[7] Jodi Guazzini,
An Epistemological Approach to the Symbol Grounding Problem, s.38.
