1. Giriş
Kumandan Data, androidlerin olabileceği kadar insansı bir androiddir. Genel olarak (olabildiğince) insan gibi görünür, (olabildiğince) insan gibi davranır, diğer üyeler tarafından saygın bir birey olarak bilinir, muhakeme yapabilir ve önermesel tutumlara sahiptir.
Hukukî bir duruşmaya uyacak şekilde, önce duruşmada ele alınan dava için önem arz eden meseleleri açıklayacağım. Sonra iddiaları iki taraf için de savunacağım: Data’nın bir birey olduğunu savunan taraf ve Data’nın federasyonun bir malı olduğunu savunan taraf. Bu halde bana olayın özü Data’nın kişiliği (kişilik özellikleri değil, kişi oluşu anlamında) sorusunda yatıyor gibi görünüyor. Ama ya-hep-ya-hiç türünde mesele değil. Hayvanlar gibi varlıklara ahlaki statü verebiliyoruz. Bu yüzden kişilik kriterlerinin tamamen karşılanmış olmasına gerek yok. Bu durumda mesele, kişilik, ahlaki statü ve bu iki hususa ilişkin zihinsel kriterleri içeren karmaşık bir mesele haline geliyor. Dolayısıyla önce Data’nın kişiliğine ilişkin iki tarafın da iddialarını sunacağım ve bunları sonuçlarında ortaya çıkan ahlaki statüye ilişkin içerimleri de göz önünde bulundurarak değerlendireceğim.
2. Data’nın Kişi Olduğu Görüşü
Eğer “Data bir kişi midir?” sorusuna cevap bulmak durumunda olsaydık “evet” cevabı, onun ahlaki statüye sahip olması gerektiğini, “hayır” cevabı ise aksini ima ederdi. Öyleyse ortaya şu soru çıkıyor: Kişi olmanın ölçütleri nelerdir? Kişilik kavramının açıklanmasında genellikle atıfta bulunulan John Locke’ın kişilik anlayışını düşünebiliriz (vurgular bana ait):
[…] akıl yürütme ve tefekkür yetisi olan ve kendisini kendisi olarak görebilen, değişen zaman ve mekânda aynı kalarak düşünen bir şey olan, bunu da düşünceden ayrılamayacak olan bilinçle yapan zeki ve düşünebilen varlık. (1975: 335)
Bu tanımdan, kişiliğin ölçütü olarak hepsi makul görünen şu özellikleri çıkarabiliriz: zekâ, öz-farkındalık, psikolojik ve fiziksel süreklilik (süregelen kişisel kimlik) ve bilinç. (Bu ölçütlerin ilgili bölümde gösterilen mahkemede sunulanlarla örtüştüğüne dikkat ediniz.)
Şimdi Data’nın bir birey olması görüşü her bir ölçütü dikkate alarak nasıl savunulur incelemek istiyorum. (Aynısını bir sonraki bölümde karşıt görüş için yapacağım.)
Bence Data’nın zekaya sahip olduğu görüşünü savunmanın en elverişli yolu Data’nın bir bilgi işlem makinesi olduğunu göz önünde bulundurarak, bir tür işlevselci (functionalist) zihin kuramına başvurmak olacaktır. İşlevselcilik, gerektiği şekilde organize edilmiş herhangi bir işlevsel yapının zekaya sahip olabileceğini ifade eden çoklu gerçeklenebilirlik fikrine dayanır. Bu nedenle, bu şekilde ele alındığında, Data’nın akıllı olduğunu inkâr etmek için hiçbir prima facie neden yoktur. Aslına bakarsanız, yeteneklerine tanık olunduğunda, işlevselci bakımdan Data kolayca Yapay Genel Zekâ (Artificial General Intelligence) sahibi kabul edilebilir; yani o, entelektüel açıdan insanlarla eşittir. Böylece, bu argümanın sonu Data’nın (kurgusal da olsa) “güçlü AI” olduğunu kabul etmeye varır.
Süregelen kişisel kimlik kriteri ile ilgili olarak, eldeki mesele için önem arz edecek şekilde Data’yı insanlardan ayırt edecek hiçbir şey olmadığı kanısındayım. Data’nın bedensel süreklilik ve psikolojik sürekliliğe sahip olduğu açıktır. Kapatılıp açıldıktan sonra aynı “kişi” olarak kalır. (Bu nedenle bu kişilik kriterini her iki görüş kapsamında da daha fazla irdelemeyeceğim.)
Öz farkındalık konusunda ise Locke’ın yukarıda bahsedilen “kendisini kendisi olarak düşünmek” kavramını genişletebilir ve bunun bir varlığın kendisini bedensel uzantısının ve duyumlar, algılamalar, duygular vb. zihinsel durumlarının farkında olan ayrık bir fail olarak tanıması olduğunu söyleyebiliriz.
Şimdi, Data’nın öz farkındalığı ile ilgili olarak, önce gözlemsel kanıtlara bakalım. Dizi boyunca, Data’nın bedensel farkındalığı olduğu güvenle çıkarılabilir. Aynada kendini tanıyamama gibi kendinden haberdar olmamanın daha belirgin belirtilerini de doğrudan eleyebiliriz. Dizide (Data’nın kişi olduğunu savunan) Kaptan Picard tarafından bahsedildiği gibi Data, birinci şahıs anlatımını kullanır, ki bu da dışarıdan bakıldığında öz farkındalığı olduğunu ima eder (ancak öz farkındalık bakımından hiçbir şey ifade etmeyen davranışsal işaretler olarak düşünülerek itiraz edilebilir).
Daha felsefi bir savunma için, Derek Parfit’in (1984) indirgemeci kişilik görüşüne başvurabiliriz. Parfit, bir kişiyi oluşturan şeyin sadece beyin ve beden ve birbiriyle bağlantılı olarak ortaya çıkan bir dizi fiziksel ve zihinsel olay olduğunu savunuyor. Parfit kişilerin var olduğunu kabul ediyor, ancak kişilerin var olduğunu iddia etmeye gerek kalmadan gerçekliği tamamen tarif edebileceğimizi düşünüyor. Bu görüşte kişilik kavramı bir uzlaşma gibi görülür, öyle ki failler tarafından kendilerinden fiziksel ve zihinsel açıdan yeterince farklı olan başka faillere atfedilir. Bu, Data’nın öz-farkındalık sahibi olup olmadığını önemsiz kılar; zira farkında olacağı gerçek bir öz yoktur. Bu yüzden, herhangi bir insana yaptığımız gibi ona da kişilik bahşedebiliriz.
Bilinç, kavramın en yaygın anlamıyla, qualia denilen, zihinsel durumlarda bulunmanın öznel deneyimine işaret ederek öz farkındalıktan ayrılır. Bilinç genellikle burada tanımlanan qualia’ya karşılık gelen “fenomenal bilinç” (F-bilinç) ve failin düşüncelerini ve eylemlerini etkileyebilecek şekilde failin erişebileceği zihinsel/fiziksel durumları ifade eden “erişim-bilinci” (A-bilinç) olarak sınıflandırılır. Bu halde, bana bir varlığın kendinden haberdar olması için en azından erişim bilinci olması gerekliymiş gibi geliyor. Bu anlayışa göre bir varlık kendisinin farkında ama bilinçsiz olabilir.
Böylece Data’nın en azından A-bilinci olduğu savunulabilir zira zihnin işlevselci görüşü bilinci de kapsayacak şekilde genişletilebilir. David Armstrong (1970), bilincin böyle bir işlevsel açıklamasını yapmaya çalışmıştır. Onun bilince dair işlevselci açıklaması şöyledir. Birinci dereceden algılar, uyarıcı ve davranışsal-psikolojik çıktılar arasında oynadıkları role bağlı olarak işlevsel rollerine dayanarak açıklanırlar. Benzer şekilde, belirtilen birinci dereceden algılar ve diğer zihinsel durumlar üzerinde bir iç denetleme işlemi olarak bilince işlevsel bir rol atanabilir. Bu doğrultuda bilinç, çeşitli duyulardan gelen farklı algıların örgütlenmesi ve koordine edilmesinin bir aracı olarak alınabilir. Bu açıklama mevcut davanın savunucusu için, zihnin bilgisayımsal (computational) anlayışıyla uyumlu olduğu için tercih sebebi olmaktadır.
Yine de fenomenal bilinç sorunu, yani Data’nın qualia’ya sahip olup olmadığı, ucu açık bir soru olmaya devam etmektedir, ancak bu sorun insanlar için de geçerlidir.
3. Data’nın Kişi Olmasına Karşı Görüş
Şimdi kişi olma kriterlerini üzerinden yukardakiyle aynı sırayla geçerek karşıt görüşü savunacağım.
Teriminin ortak anlayışına dayanarak zekadan başlamak gerekirse, mevcut iddianın savunucusunun, zeka kavramının inceliklerine girme niyeti yoksa Data’ya zekâ atfetmesi adil olacaktır (dizide yapıldığı gibi). Bence her halükârda, yukarıda verilen Data’nın zeki olduğu görüşüne karşı, Data’nın sahip olduğu zekanın ancak onun Searle’ün (1980) İşlevselcilik eleştirisinde bahsettiği gibi bir “Çin odası” olduğunu gösterdiğini söylemek pek kabul edilebilir olmayacaktır. Tabii ki, kimlik teorisi gibi Data’nın zihinsel durumlara sahip olduğunu bile reddedecek görüşlere dayanan iddialar sunulabilir, ancak bu görüşlerin eksiklikleri iyi bilinir, bu yüzden onlara dayanan herhangi bir iddianın (bu makalenin konusu dışında kalan) itirazları alt edebilmesi pek olası değildir.
Öz-farkındalık meselesiyle ilgili olarak, Parfit’in önceki iddiada başvurulan görüşünün aksine, benliğin zihinsel olarak gerçek bir kavram olduğu konusunda ısrar ederek bir itiraz getirilebilir. Bu iddia kaçınılmaz olarak qualia’ya sahip olmakla bağlantılı olacaktır, yani Data’nın öznel deneyimleriyle birlikte kendi zihinsel durumlarının bilincinde olması gerekecektir. Öyleyse, bilinçle ilgili karşı iddiaya geçelim.
Bu noktada, zombi argümanı türünde bir argümana başvurmanın mevcut görüş için çok güçlü bir saldırı yolu olacağını düşünüyorum. Önceki iddia kapsamında Data’nın en azından erişim bilincine (A-bilinç) sahip olduğunun düşünülebileceğini savunduğumu hatırlayın. Ve zombi argümanı tam olarak bu argümanın zayıf noktasını hedef alıyor. En bilinen haliyle Chalmers (1996) tarafından formüle edildiği gibi, a-bilince sahip ancak fenomenal bilinci olmayan, yani qualia’dan yoksun olan felsefi zombileri tahayyül edebiliriz. Ve bu tip zombilerin metafiziksel mümkünatı ile ilgili yaygın eleştirinin, tam da Data vakasında normalde olduğu kadar güçlü bir şekilde geçerli olmaması söz konusu. Bahsedilen eleştiri, zihinsellik ve bilinç fiziksel olarak açıklanabiliyorsa, fiziksel açıdan insanla özdeş tüm varlıkların insanın zihinsel özelliklerine sahip olması gerektiğini ve dolayısıyla p-zombi fikrinin özellikle materyalist bir zihin anlayışına göre hatalı olduğunu söyler. Ancak Data, fiziksel olarak herhangi bir insanla aynı değildir. Bu nedenle onun bir felsefi zombi olması ve bu yüzden bir kişi olmaması pekâlâ mümkündür.
4. Görüşlerin Ahlaki Statüyle İlişkili Değerlendirilmesi
Artık Data’nın kişiliğiyle ilgili her iki iddia da sunulduğuna göre Data’nın ahlaki statüsü ile ilgili içerimlerini göz önünde bulundurarak onları karşılaştırmalı şekilde değerlendirmeye geçebiliriz.
Ahlaki statüye ilişkin yaygın bir görüş şudur ki ahlaki statüye sahip olmak için bir varlığın ya da onun çıkarının ahlaki olarak bu varlığın iyiliği için bir dereceye kadar önemli olması gerekir, yani o varlığa karşı yanlış yapılabilmelidir. (Jaworska ve Tannenbaum, 2013).
O halde ahlaki statüyle ilişkili davamızla ilgilendiren temel bir soru şu olacaktır: Data’ya yanlış yapılabilir mi? Bu, yukarıda belirtilen anlayışa dayanarak daha temel bir soruyu ortaya çıkarır:
(i) Data’nın menfaatleri ahlaki açıdan kendi iyiliği için bir dereceye kadar önemli midir?
Bu sorunun cevabının her iki görüşü savunurken de ele aldığım en tartışmalı konu olan bilince bağlı olduğunu düşünüyorum. Bilinci yoksa (qualia’ya sahip olmak da dahil olmak üzere), Data’nın çıkarları varmış gibi davranmasının bir önemi olmazdı. Satranç oynayan çağdaş bir yapay zekâ, şah-mat yapma amacına sahiptir, lakin şah-mat yapmakta bir çıkarı olduğunu kabul etmeyiz. O şah-mat yaptığı için mutlu olmaz, ya da bunu yapamadığı için üzülmez. Ve aynısı Data için de söylenebilir, her ne kadar bir satranç programınınkilere göre çok daha kompleks çıkarları varmış gibi gözükse de.
Yine de insanın (i)’ye “evet” cevabı veresi geliyor. Data çıkarları varmış gibi davranır, meslektaşlarına önem verir, aldığı ödülleri hatıra olarak saklar, hatta birine karşı romantik duygular beslemişliği bile vardır. Ancak yukarıdaki açıklama geçerliyse, tüm bunları yapmasının sebebi öyle yapmak için programlanmış olmasıdır ve aslen hiçbirinden gerçek bir çıkarı yoktur. Ama benzer bir görüş insanlar için de savunulabilir. Data’nın vakasındaki kadar bariz olmasa da insanların çıkarları genetik ve evrimsel faktörler gibi kendilerinin üzerinde hiçbir kontrole sahip olmadıkları faktörlerden büyük ölçüde etkilenir. Tıpkı Data’nın görünürdeki çıkarlarının onun programlanmasına atfedilebileceği gibi, insanların çıkarları da bunları evrimsel olarak kovalamaya programlanmış olmalarına atfedilebilir.
Yukarıda sunulan bu benzerlik karşısında, insanlar qualia’ya sahip olduğu için–en azında insan olarak hepimizin onaylayabileceği üzere–bir insan ve Data arasında ciddi bir fark olduğu iddia edilebilir, Böylece, kendimizi tekrar korkulan bilinç sorunuyla başa çıkma vaziyetinde buluyoruz.
Bilinç meselesinde bir ilerleme kaydetmek için, şimdi yaptığı bilinç tanımı standart hale gelmiş bir başka filozofa, Thomas Nagel’e (1974) döneceğim. Tanımı şöyle ifade edilebilir: Bir varlık, eğer o varlık olmak gibi bir şey varsa bilinçli bir deneyime sahiptir. Nagel bu tanıma dayanarak, yarasaları örnek olarak kullanmış ve onların fizyolojileri, nörolojileri ve davranışları hakkında (ideal olarak) eksiksiz bilgiye sahip olsaydık dahi, yarasa olmanın nasıl bir şey olduğunu bilemeyeceğimizi öne sürmüştür. Dolayısıyla bu görüşe göre Data’nın bilinciyle ilgili sorumuz şu hale gelir: Data olmak gibi bir şey var mı?
Ama belki de Data’nın durumunun yarasalarınki kadar umutsuz olması gerekmiyordur. Yarasaların aksine Data insanlarla iletişim kurabilir, hem de çok etkin bir şekilde. Ve iletişim, diğer insanların bizimkine benzer fenomenolojik deneyimler yaşadığına dair uzlaşmamızın yegâne temelidir. Bu uzlaşmanın aynı zamanda Data ve insan failler arasında da geçerli olduğunu düşünmek mantıklıdır, çünkü Data insanların sosyal ve mesleki hayatına sorunsuz bir şekilde dahil olabilmiştir. (Kendisinin çok sayıda madalya sahibi bir komutan olduğunu hatırlayın). Bu halde dilin fenomenal deneyimlerimizi başkalarınınkiyle karşılaştırabilmemiz için dolaylı bir yol arz ettiği söylenebilir. İnsanlar ve Data arasında bu türde deneyim paylaşımına dair her türlü kısıtın, insanların kendi aralarındaki paylaşım için de geçerli olacağını düşünüyorum. Data’nın, şu ya da bu öznel deneyimi yaşadığını söylemesi, herhangi bir insanın söylemesinden ne şekilde farklıdır ki? Sonuçta her ikisinin de öznel deneyimi başka bir bilinçli fail için nesnel olarak erişilemezdir. Söz konusu uzlaşımın desteklenmesinin bir başka yolu da diğer insanların bakış açısını alabilmemizden geçmektedir. Bizler için bir yarasanın bakış açısını almak, farklı bir türe ait oldukları için insanlardan çok farklı koşullar altında yaşamaları nedeniyle çok zor olacaktır. Ancak, insanların yaşadığı çevrede çalışmak üzere tasarlanmış olan Data, insanlar için çok daha anlaşılır olacaktır. Hatta bir insan olan yaratıcısı, onu muhtemelen kendi imajını yansıtacak şekilde yaratmıştır.
Ayrıca, Data’nın öğrenebildiğini de unutmamalıyız. Data programlamasının kısıtları ile sınırlı değildir. Programcısı bile onun hayatı boyunca gerçekleştireceği tüm eylemleri bilemezdi; tıpkı insan davranışlarını düzenleyen tüm psikoloji yasalarına hâkim olan bir psikoloğun bir insanın hayatı boyunca yapacağı her şeyi bilemeyeceği gibi.
Sonuç olarak, Data’nın zihinsel durumları vardır, toplumda rol alır ve ona insanlara verilenlere çok benzer sorumluluklar verilmiştir. Hakiki çıkarları varmış gibi konuşması ve davranmasına ek olarak böylesine insancıl koşullarda başarılı bir şekilde yaşamını sürdürdüğü için, qualia’sıyla ilgili kaçınılmaz şüpheye rağmen, Data’yı bir kişi olarak görmek için yeterli sebep bulunduğu sonucuna varıyorum.
Kaynakça
Locke, J. (1975). An Essay Concerning Human Understanding. ed. P. Nidditch, Oxford: Clarendon Press (original work, 2nd ed., first published 1694); partly reprinted in Perry 1975.
Parfit, D. (1984). Reasons and persons. OUP Oxford.
Searle, J. R. (1980). Minds, brains, and programs. Behavioral and brain sciences, 3(3), 417–424.
Armstrong, D. M. (1970). The nature of mind. In The mind-brain identity theory (pp. 67–79). Palgrave, London.
Chalmers, D. J. (1996). The conscious mind: In search of a fundamental theory. Oxford University Press.
Jaworska, A., & Tannenbaum, J. (2017). The Grounds of Moral Status. In E. N. Zalta (Ed.), The Stanford Encyclopedia of Philosophy (Fall 2017). Metaphysics Research Lab, Stanford University. Last accessed on 25.12.2017. https://plato.stanford.edu/archives/fall2017/entries/grounds-moral-status/
Nagel, T. (1974). What is it like to be a bat?. The philosophical review, 83(4), 435–450.
Özgün Metin: Zafer Kılıç, “Do Androids Dream of Human Rights?”, Medium, 28 Şubat 2018, https://medium.com/things-examined/do-androids-dream-of-human-rights-7d8ce5ce818f (erişim: 14 Aralık 2019), çev. Yusuf Ateş.