İşte şimdi HotBot 4b bir yanardağın içine doğru ilerliyor. Yıl 2050 veya 2150 ve yapay zeka, bu tür robotların insan düzeyinde zeka, yaratıcılık ve arzularla inşa edilebileceği kadar ilerledi. HotBot şimdi bu bilimsel görevde yok olacak. Acaba hakları var mıydı? Yoksa aşağı inmesini emrederek ahlaki açıdan yanlış bir iş mi yaptık?
Robotların ahlaki statüsü, en azından Isaac Asimov’un robot hikayelerine kadar uzanan, bilim kurguda sıkça işlenen bir konudur ve bu konudaki fikir birliği nettir: eğer bir gün neşe ve acı çekme kapasitesi de dahil olmak üzere, bizimkine benzer zihinsel yaşamları, insan benzeri planları, arzuları ve benlik duygusu olan robotlar yaratmayı başarırsak, işte o zaman bu robotlar insanlara yaptığımıza benzer bir ahlaki değerlendirmeyi hak ederler. Bu konu hakkında yazan filozoflar ve yapay zeka araştırmacıları genellikle aynı fikirdedir.
Bu fikir birliğine meydan okumak istiyorum, ancak tahmin edebileceğiniz şekilde değil. Bir gün insan benzeri bilişsel ve duygusal kapasiteye sahip robotlar yaratırsak, onlara normalde insanlara borçlu olduğumuzdan daha fazla ahlaki değer borçlu olacağımızı düşünüyorum.
Nedeni ise, biz onların yaratıcıları ve tasarımcıları olacağız. Dolayısıyla hem onların varlığından hem de mutlu ya da mutsuz olmalarından doğrudan sorumluyuz. Eğer bir robot gereksiz yere acı çekiyorsa veya gelişim potansiyeline ulaşamıyorsa, bu büyük ölçüde bizim onu yaratmamız, tasarlamamız veya bakımımızdaki bir başarısızlığımızdan kaynaklanacaktır. Robotlarla olan ahlaki ilişkimiz, yabancı insanlarla olan ilişkiden ziyade, ebeveynlerin çocuklarıyla ya da tanrıların yarattıkları varlıklarla olan ilişkisine daha çok benzeyecektir.
Bu bir bakıma eşitlikten başka bir şey değildir. Eğer başka insanları riske atan bir durum yaratırsam; örneğin, bir havaalanı inşa etmek için onların ekinlerini yok edersem o zaman onları tazmin etme konusunda, nedemsel bir bağım olmayan insanlara karşı olan yükümlülüğümden daha büyük bir ahlaki yükümlülüğe sahip olurum. Eğer gerçekten bilinçli robotlar yaratırsak, onlarla derin bir bağ kurmuş oluruz ve dolayısıyla onların refahından büyük ölçüde sorumlu oluruz. Özel yükümlülüğümüzün temelinde bu yatmaktadır.
Frankenstein’ın canavarı, yaratıcısı Victor Frankenstein’a şöyle der:
Ben senin yarattığın varlığım ve eğer sen de bana borçlu olduğun görevi yerine getirirsen, doğam gereği efendim ve kralım olan sana karşı yumuşak ve uysal olacağım. Ah, Frankenstein, herkese adil davranıp da yalnızca en çok adalet, merhamet ve sevgi borçlu olduğun bana ayak basma. Unutma ki ben senin yarattığın varlığım: Senin Adem’in olmalıydım…
Ya sadece bugün var olan tüm robotlarda olduğu gibi ahlaki bir değerlendirmeyi hak etmeyecek kadar basit robotlar yaratmalıyız ya da onları sadece dikkatli ve özenli bir şekilde var etmeliyiz. Bu özenli olma görevinin yanı sıra, yarattıklarımızdan hangilerinin gerçekten bilinçli olduğunu bilme görevi de gelir. Hangileri gerçek öznel deneyim akışlarına sahiptir ve neşe, acı çekme ya da yaratıcılık ve benlik duygusu gibi bilişsel başarılara sahiptir? Böyle bir bilgi olmadan, yarattıklarımıza karşı ne gibi yükümlülüklerimiz olduğunu bilemeyiz.
Peki ilgili bilgiyi nasıl edinebiliriz? Örneğin, gerçek bir duygusal deneyim akışı ile yapay bir zihindeki canlandırılmış duygular arasında nasıl bir ayrım yapılabilir? Sadece yüzeysel bir duygu canlandırması programlamak yeterli değildir. Eğer 2015 yılında üretilmiş standart bir bilgisayar işlemcisini oyuncak bir dinozora yerleştirir ve onu kapatma düğmesine bastığımda “Ah!” diyecek şekilde programlarsam, acı çekebilen bir robot yaratmış olmam. Ancak insan benzeri bilincin ortaya çıkması için tam olarak ne tür bir işlem ve karmaşıklık gereklidir? John Searle’ün görüşü gibi bazı görüşlere göre bilinç programlanmış bir varlıkta mümkün olmayabilir; biyolojik olarak insan beynine benzer bir yapı gerektirebilir. Diğer görüşler robot bilinci için yeterli koşullar konusunda çok daha liberaldir. Bilinç üzerine yapılan bilimsel çalışmalar henüz emekleme aşamasındadır. Konu hâlâ açıklığa kavuşmamıştır.
Yapay zekanın sofistike biçimlerini geliştirmeye devam edersek, yapay bilincin gerçekten ortaya çıkabileceği koşullara ilişkin anlayışımızı geliştirmek için ahlaki bir yükümlülüğümüz ortaya çıkar. Aksi takdirde ya mutluluğu ve acıyı sadece yanlış bir şekilde deneyimledikleri için ahlaki değerlendirmeyi hak etmeyen varlıklar için çıkarlarımızı feda etme felaketi ya da robot acısını tanımama ve böylece neredeyse ebeveynlik yükümlülüğümüz olan varlıklara karşı istemeden kölelik ve cinayetle eşdeğer zulümler işleme felaketi gibi ahlaki felaket riskleriyle karşı karşıya kalırız.
O halde, yarattıklarımıza karşı onların sevinçleri, acıları, düşünceleri ve yaratıcı potansiyelleri konusundaki özel sorumluluğumuzu kabul ederek davranmak gibi doğrudan bir ahlaki yükümlülüğümüz vardır. Ancak, gelecekteki potansiyel yaratımlarımızın ahlaki kaygılarımızı ne zaman hak ettiği ve hak edip etmediğini bilmek için sevinç, acı, düşünce ve yaratıcılığın maddi ve işlevsel temelleri hakkında yeterince bilgi edinmek gibi epistemik bir yükümlülüğümüz de vardır.
Eric Schwitzgebel – “We have greater moral obligations to robots than to humans“, (Erişim Tarihi: 28.07.2025)
Çevirmen: Mehlika Olgun
Çeviri Editörü: Emir Arıcı
