YouTube, Facebook, X (önceki adıyla Twitter), Instagram, Pinterest, TikTok ve ChatGPT ile Bard gibi sohbet botları-hepsi sizi manipüle ediyor. Daha spesifik olarak, algoritmaları sizi manipüle ediyor. Veya artık uzmanlardan, aktivistlerden ve akademisyenlerden duyduğumuz şey bu. Ama bir makinenin, en azından duyarlı bir yapay zekâdan yoksun bir makinenin, bizi manipüle etmesi ne anlama gelir?
Bir olasılık, insanların böyle şeyler söylediklerinde sadece belirsiz bir şekilde konuşuyor olduklarıdır. Aslında kastettikleri şey, belirli insan bireylerinin veya grupların (tasarımcılar ve mühendisler veya onların çalıştıkları şirketlerin) bizi manipüle ettiğidir. Algoritmaların ardındaki, onları üzerimizde belli etkiler yaratma niyetiyle tasarlayan kişiler; aslında manipülatörlerdir.
Bu açıklama kulağa yeterince mantıklı geliyor. Ancak ciddi bir sınırlamayla karşılaşıyor: günümüz makine öğrenimi algoritmalar sıklıkla yaratıcıları tarafından asla amaçlanmamış beklenmedik yollarla çalışmaktadır. İşte bunun basitleştirilmiş varsayımsal bir örneği: Bir Instagram mühendisinin, kullanıcılara ilgilerini çekecek videolar ve reklamlar önermesi amaçlanan bir makine öğrenimi algoritma oluşturduğunu düşünün. Bu algoritma, kullanıcıların programda gezinmeden veya programdan çıkmadan önce, video izlemek için harcadıkları zaman miktarını izleyerek ilgiyi ve tıklama oranlarını izleyerek reklamlara olan ilgiyi ölçüyor. Bir miktar eğitimden sonra algoritma bu ölçümler için, Amerika merkezli her kesimden kullanıcıya isyana teşvik eden aşırı sağcı propaganda videolarını silah reklamlarıyla birlikte göstererek optimizasyon yapıyor. Bazı kullanıcılar videolara sempatiyle yaklaşırken diğerleri onları itici ama ilgi çekici buluyor. İki grup da, ister isyan fantezileri kuruyor olsun ister korktukları için olsun, video ve reklamlarla yüksek oranda etkileşime giriyor.
En azından ikinci grubun bu videoları izlemeye ve muhtemelen bir silah satın almaya yönlendirildiğini düşünmek cazip geliyor. Fakat mühendisin, algoritmasının böyle bir sonuç vereceği hakkında hiçbir fikrinin olmadığını varsayın; algoritmanın sadece, insanları daha önceden ilgi duydukları video ve reklamlara yönlendireceğini düşünüyordu. Bu, bir algoritmanın insanları manipüle ettiği bir durum gibi gözüküyor ancak bunu, aslında manipüle edenin algoritmanın arkasındaki mühendis (veya şirket) olduğunu söyleyerek kesinleştiremeyiz.
Algoritmik manipülasyon sorununu daha net bir şekilde görebilmek için bir adım geriye gidelim ve şunu soralım: Genel olarak manipülasyon nedir? Konu üzerinde çalışan çoğu filozof şu şekilde düşünüyor: Manipülasyon (1) manipülatörün, hedefine (bilinçli veya bilinçsiz olarak) bir şey yaptırmayı amaçlamasını ve (2) aynı zamanda bir fail olarak hedefine yeterli ilgiyi göstermemesini gerektirir. Bu şüphesiz ki zorlayıcı bir kavram, ancak şimdilik bunu bir kenara bırakabiliriz.
Başlangıç olarak, daha büyük sorun, algoritmaların hiçbir niyeti yok gibi görünüyor olmasıdır. Varsayımsal Instagram algoritmamızdaki gibi bir durumda, manipülatif olmaları için insan yaratıcılarının manipülatif niyetlere sahip olmaları da gerekmez. Bu da, niyetleri manipülasyon hikayesinden çıkarmamız gerektiğini gösterir. Belki de manipülasyonun gerektirdiği şey manipülatörün; birinin inançlarını, duygularını veya arzularını bazı ideallerden uzaklaşmasına neden olacak şekilde etkilemesidir: örneğin, mantıklı karar verme süreçlerini atlayarak veya baltalayarak. Varyasımsal Instagram algoritmasının yaptığı şey de tam olarak budur: İzleyicileri sağcı propaganda videoları izleyerek vakitlerini geçirmek isteyip istemediklerini düşünmeye davet etmek yerine, onları bu tür videolara maruz bırakır ve izleyicilerin güçlü içgüdüsel tepkileri onları kaydırmaya devam ettirdikçe daha fazlasını sunar. Yani belki de algoritmaların bizi manipüle ettiğini söylediğimizde kastettiğimiz budur. Bu kesinlikle metaforik veya belirsiz bir ifade değildir; aksine bu algoritmaların bizi, mantıklı karar verme sürecimizi atlatacak şekilde belirli arzular (daha fazla kışkırtıcı video izleme veya bir ateşli silah satın alma gibi arzular) oluşturmaya nasıl yönlendirdiğine dair doğrudan bir gözlemdir.
Ancak, nispeten az sayıda filozofun manipülasyona dair niyetten bağımsız bir açıklama benimsemesinin bir nedeni var: Bu açıklama, manipülasyon gibi görünmeyen her türlü şeyi bir manipülasyon örneği olarak sınıflandırma tehdidi taşıyor. Örneğin; şimdi üç aydır ayık olan Daniel’ın, yakın zamanda alkolün karşılıklı aşırı tüketimi üzerine kurulmuş yıkıcı bir ilişkiyi terk ettiği bir durumu düşünün. Arkadaşlarıyla akşam yemeğinde, Daniel eski partnerine çok benzeyen birini görür. Birdenbire sarhoş olma ve eski ilişkisinin ilk heyecanını tekrardan yaşama isteğiyle dolup taşar. Bu kişi, Daniel’ın arzularını, mantıklı karar verme sürecini atlatacak şekilde direkt olarak etkilemiştir. Fakat niyetten bağımsız yaklaşımın önerdiğinin aksine, bu kişi Daniel’ı manipüle etmemiştir.
Yani bir ikilemle karşı karşıya kalıyoruz. Manipülasyona ilişkin bu anlayış biçimini; tartıştığımız türden algoritmik manipülasyonun, manipülasyon olarak sayılırken Daniel’ınki gibi durumların sayılmayacağı şekilde revize etmeye çalışabiliriz. Veya algoritmalar ve makinelerin bizi manipüle ettiğini söylediğimizde, aslında neyi kastettiğimizi gerçekten bilmediğimiz gerçeğiyle yüzleşmemiz gerekebilir.
İlk seçenek konusunda iyimseriz ve ‘Manipulative Machines’ adlı makalemizde niyetten bağımsız görüşü geliştiriyoruz. Bir özelliğin veya davranışın (örneğin, Instagram algoritmasının öneri davranışı) yalnızca; başkalarının davranışlarını, onların mantıklı karar verme süreçlerini atlatacak şekilde etkileme eğiliminde olması durumunda manipülasyon sayılacağı fikrini koruyoruz. Ancak, bu tür bir davranışın manipülasyon olarak sayılabilmesi için, varlığının bu tür bir etki yaratma eğilimiyle kısmen açıklanması gerektiğini de ekliyoruz. Bizce, Instagram algoritması ile görüntüsü Daniel’da içki içme arzusu uyandıran kişiyi ayıran şey budur.
Varsayımsal mühendisimiz Instagram algoritmasının bu şekilde çalışmasını asla amaçlamamış olsa da; insanlara aşırı sağcı propaganda göstermesinin açıklamasının bir kısmı, insanlara bu tür propaganda göstermenin mantıklı bir şekilde tercih edeceklerinden daha fazla bu tür video izlemelerine neden olmasıdır. Buna karşılık, Daniel’ın gördüğü kişinin o şekilde görünmesinin sebebinin, Daniel’ın ona nasıl tepki vereceğiyle hiçbir ilgisi yoktur. O halde, algoritmalar gerçekten de insanları manipüle edebilir; ve bu yalnızca tasarımcılarının amaçladığı şekillerde de değildir.
Niyetten bağımsız bir manipülasyon kavramının düzeltilmesinin bir nedeni, görünüşte manipülatif algoritmaların ciddi bir endişe kaynağı olmasıdır. Bu algoritmalar, insanların çevrim içi yaşamdaki özerkliği ve refahına yönelik ciddi tehditler oluşturmaktadırlar. Manipülasyon ve zararlarının sorumluluğun kime ait olduğunu bilmek ve en azından bir kısmını baştan önlemek istiyoruz. Niyetten bağımsız manipülasyon kavramıyla, manipülatörü kesin bir şekilde algoritmanın kendisi olarak tanımlayabiliriz. Bu da, endişelenmemiz gerekenin, belirli mühendislerin niyetleri olmadığını görmemizi sağlıyor. Bunun yerine, çevrim içi hayatlarımızı yapılandıran algoritmaları üreten şirketler, bu potansiyel manipülatörleri dünyaya sürmeden önce uygun miktarda önlem alma sorumluluğundadırlar.
Rachel Sterken & Jessica Pepp & Eliot Michaelson – “Can Machines Manipulate Us?“, (Erişim Tarihi: 14.02.2025)
Çeviren: Elifnur Avcı
Çeviri Editörü: İbrahim Yeşua Özçelik
