Algoritma Diktatörlüğü

Yazarlar: Himmet Hülür & Hamit Ölçer

Algoritma diktatörlüğü kavramı, dijital sistemlerin topladıkları verilerin analizi vasıtasıyla kişisel ve toplumsal hayatı belirli amaçlar doğrultusunda programlamalarını ve yönlendirmelerini ifade etmektedir. Bu kavram en temelde dijital teknolojilerin ve internetin bireysel ve toplumsal hayatı kuşatan rahatsız edici gerçekliğini dile getirmektedir. Bu anlamda, bir yandan eylem ve düşüncenin tekno-bilimsel imkanlarla programlanması vasıtasıyla kültürün insansızlaşmasının altı çizilirken, diğer yandan tekno-ekonomik ve politik güçlerin bedenleri ve zihinleri kontrol ve dizayn etmek için algoritmaları kullanmaları vurgulanmaktadır.

Mevcut teknik ve potansiyel kabiliyetleri ile birlikte düşünüldüğünde algoritmalar bizi gözetler, kodlar, kaydeder, arşivler, disipline eder ve denetler. Algoritma diktatörlüğü, kişisel ve toplumsal hayatla ilgili büyük verinin işlenmesi ve yönetilmesiyle mümkün olmaktadır. Bu açıdan, büyük veri diktatörlüğü olarak da adlandırabileceğimiz algoritma diktatörlüğü olgusu “panoptikon”, “sinoptikon”, “büyük birader”, “gözetim asemblajı”, “denetim toplumu” gibi kritik kavramlar ve fikirler etrafında değerlendirilebilir.

Teknik işlevselliği açısından ele alındığında “Algoritma bir problemin çözümünün veya belirlenen amaca nasıl ulaşılacağının anlatıldığı yoldur. Bu ifadeden anlaşılacağı üzere algoritma bir sonuç değil sonuca götüren yoldur” (Aytekin vd., 2018:151). Algoritmalar gittikçe artan bir şekilde, günlük bilgi birikimimizi şekillendiren araçlardan biri olarak karşımıza çıkmaktadır (Musiani, 2013:1). Bir bakıma makineler yoluyla öğrenme biçiminden söz etmek mümkündür. “Makine öğrenmesi, bir problemi o probleme ait veriye göre modelleyen bilgisayar algoritmalarının genel adıdır” (Atalay & Çelik, 2017:161). Bu anlamda gittikçe artan oranda algoritmaların olduğu bir dünyada yaşamaktayız (Musiani,2013:5).

Algoritma teriminin doğuşuna öncülük eden ilk ismin Harezmi olduğu  (Mehri, 2017:72) bilinse de burada sözü edilen algoritmaların günümüz modern algoritmik sistemlerle bir ilgisinin olmadığını belirtmek gerektir. Bu bağlamda algoritmik sistemleri modern dijital sistemlerin özelliğiyle bağlantılı olarak sibernetik teorinin parçası haline getiren kişi Norbert Wiener’dir. Wiener, bürokratik, organizasyonel ve mekanik gibi büyük sistemlerin davranışlarının düzenli geri bildirimlerle ayarlanmasının mümkün olabildiğini ve bunun sürdürülebileceğini savunmuştur (Ünver, 2018:3).

Norbert Wiener’in  önemi sadece modern algoritmik sistemlerin mucidi olmakla kalmayıp algoritmaların işleyiş düzeninin kişisel ve toplumsal hayatın özgürlüğünü tehdit edebilecek yönlerine de dikkat çekmiş olmasından ileri gelmektedir. Peki, algoritmaların gerçekten de insanın seçme özgürlüğüyle ve iradesiyle tam olarak ilişkisi nedir? Wiener bu noktada karamsardır. Wiener’e göre (1964:69) mekanik bize yardımcı olmaktadır ancak bu yardım bizim dürüstlüğümüz ve zekâmız üzerindeki talepleri pahasına mümkün olmaktadır. Bu anlamda dünya gitgide bize yeni teklifler sunmada çok daha az umut dolu ve bizi düşünmekten daha fazla uzaklaştıran bir dünya olarak karşımıza çıkacaktır.

“Algoritma diktatörlüğü” konusu ile ilgili literatürü incelediğimizde temel tartışmanın Gianluigi Fioriglio’nun “Freedom, Authority and Knowledge on Line: Dictatorship of the Algorithm (2015) adlı çalışmasıyla karşımıza çıktığını söyleyebiliriz. Fioriglio söz konusu çalışmasında algoritma diktatörlüğü kavramını özgürlük-otorite-bilgi ekseninde sosyal bilimlerin ilgi konusunu teşkil edecek birtakım analizleri ve öngörüleri paylaşmaktadır.

Fioriglio’ya göre (2015:398) teknik işlevselliği açısından bakıldığında algoritma sistemi, bilgisayar teknolojilerinin özünü oluşturmakta ve nihayetinde internetin gelişimiyle beraber arama motorlarında bilgilerin kısa vadede erişimini kolaylaştırmaktadır. Bu bakımdan her arama motoru sayısız algoritmalar sayesinde ilgi ve uygunluk düzeylerine göre listelenmiş sonuçları göstermektedir (Fioriglio, 2015:398). Bu olumlu görünen teknik işlevselliğine rağmen Fioriglio yine de her arama motorunun baskıcı ve tekelci bir konum arz edebileceğini ve bu bakımdan anti-tröst yasalar çerçevesinde arama motorlarının zorbalığının sınırlandırılması gerektiğini dile getirir (Fioriglio,2015:409).

Algoritma diktatörlüğü tartışmaları kapsamında screendaily.com yazarlarından Ben Dalton (2019) dünyaca ünlü sinema yönetmeni González Iñárritu’nun görüşlerini yorumlarken Iñárritu’nun Netflix’in içerik seçimi ve sunumundan dolayı insanların sinemanın zengin olanaklarından tam olarak faydalanamadığından yakındığını belirtmiş ve bunun da “algoritma diktatörlüğü” tartışmalarıyla bağlantılı olduğuna dikkat çekmiştir. Ayrıca Serdar Kuzuloğlu’nun (2019) algoritma diktatörlüğü ile ilgili bir söyleşide ortaya koyduğu örnek olaylar ışığında dile getirdiği fikirler büyük yankılar uyandırmıştır.

İnternet mecrasındaki sayısız algoritmik düzende çalışan sistemler bir bakıma verilerin elde edilip kullanılmasını hedefler. Örneğin Twitter, Amazon, Netflix gibi benzeri algoritmik platformların insanlardan elde ettikleri büyük miktarda verileri kullanıp toplumların davranış kalıplarını profilledikleri ve katalogladıkları (Ünver, 2018:2) görülmektedir.

Algoritmalar, kullanıcıların davranışlarına göre profiller oluşturup içeriği kullanıcı verilerine göre seçer, sıralar ve kişiselleştirirler. Yine algoritmalar, kullanıcıların hem bireysel hem de kişilerarası düzeylerde neyi bilmeleri ve nasıl bilmeleri gerektiğine ilişkin yollar ve kılavuzlar geliştirirler (Milan, 2015:3). Algoritmaların profil oluşturma potansiyelinin özellikle sosyal medya mecralarındaki farklı fikirleri kendi aralarında kategorize edip belirli bir türdeşleşmeye yol açtığını, toplumsal alanı sanal platformlar üzerinden kutuplaştırdığını söyleyebiliriz. Fotoğrafların yüz algılamalarında ya da Google’dan sözcüklerin aranmasında algoritmik mantık etkili olmuştur (Aytekin vd., 2018:157-158).

Algoritmaların Facebook gibi sosyal medya mecralarındaki görünürlüklerin artırılması ve kısıtlanmasında rol oynadığı göz önüne getirildiğinde algoritmaların bir anlamda Foucault’nun panoptikon fikrine de derinlik kazandırdığı söylenebilir (Bucher, 2012:1171). Bununla beraber algoritmik sistemin sinoptik bir özelliğe de sahip olduğunu belirtmek gerektir. Bir karşılaştırma yapıldığında panoptik düzlemde belirli bir azınlık çoğunluğu gözetleyip kontrol altına alırken, sinoptik düzlemde çoğunluk, azınlığı izlemektedir (Demir, 2017:59). Sonsuz sayıda algoritmalar sanal ortamdaki verileri takip edip yorumlamakta böylece kullanıcıların özelliklerine göre belirli görü alanları yaratmakta ve onları dijital bir denetim mekanizması içinde disipline edebilmektedir.

Bir zamanlar insanlar “pazar”ın ya da “görünmez el”in kendilerini yönetme tarzını yargıladıkları gibi şimdilerde algoritmaların kendilerini yönetme tarzını yargıladıkları ve bundan şikâyetçi oldukları görülmektedir (Edwards & Veale, 2017:19). Bu bağlamda adeta George Orwell’ın 1984 adlı (2019) yapıtında geçen Büyük Birader’in izleme faaliyetinin algoritmalar tarafından dijital/sanal mecralarda gerçekleştiğini ve üstelik bunun farkında olmamızın neredeyse imkânsız denilebilecek kadar güç olduğunu söyleyebiliriz. Orwell’ın Büyük Birader’i bireyleri izlerken aynı zamanda bireylerin iradesi üzerinde totaliter tahakküm uygulamakta ve onların seçimlerini manipülasyona uğratıp belirlenmiş olan seçenekleri kabul etmelerine yol açmaktaydı. Algoritmaları bu açıdan çağımızın distopik karakterini yansıtan yeni-Büyük Birader olarak nitelendirebiliriz.

Algoritmik sistemin doğasının toplumsal açıdan ele alınıp yorumlanmasında Deleuze’ün fikirlerinin çarpıcı olduğunu söyleyebiliriz. Deleuze, Foucault’nun modern toplumların disiplinci denetim aygıtlarının artık yerini gözetim araçlarına bıraktığını ve denetim olgusunun belirli alanlarla sınırlı kalmayıp her yere yayıldığını dile getirir. Deleuze, disiplin kapsamındaki alanların uzun zamandan beridir kriz geçirdiğini ve iktidarın, gözetim asemblajları yoluyla disipliner-kapalı biçimlerden açık alanlara yönlendirildiğini belirtir (Erwin, 2015:42). Bu anlamda Deleuze’e göre (2007:5) denetim toplumunda önemli olan şey koddur ve bu kod ise bir şifre özelliğini taşımaktadır. Erwin’in (2015:38) aktarımıyla, gözetim yalnızca bilgi toplamakla yetinmeyen aynı zamanda bu kodları çözen yeniden kodlayan, sıralayan ve değiştiren özelliklere sahiptir.

Algoritma diktatörlüğü en temelde büyük verinin analiz edilmesini ve bu analizlerin davranış ve düşünceyi yönlendirecek şekilde belirli amaçlar doğrultusunda kullanılmasını kapsar. Öncelikle büyük verinin toplanması ve analiz edilmesi yoluyla başlıca kalıplar ve eğilimler ortaya çıkarılır, ancak buna ek olarak bu ortaya çıkarılan genel kalıplar ve eğilimler bireylerin davranış ve tutumlarını etkilemek ve yönlendirmek için kullanılır. Büyük verinin işlenmesi vasıtasıyla oluşturulan kalıplar ve eğilimlere dayalı olarak bireylere çok geniş bir yelpazede davranış ve tutum seçenekleri sunulmaktadır. Bireyler ya farkında olmadan ya da başka imkânları olmadığı için bu seçeneklere boyun eğmektedir.

Büyük veri toplama ve kestirimci algoritmik analizler gibi gözetim teknikleri panoptik gözetim mantığını daha geniş alanlara, pazara açarak günümüzün veri simsarlarının taleplerini değiştirebilecek güce sahip olabildiği kadar nihayetinde özel ve kamu kurumları için sanal davranışların takibini yapmakta ve rutin biçimde birtakım video, biyometrik, jeo-demografik ve genetik bilgileri saklamaktadır (Erwin, 2015:34). Bu bağlamda yönetmenliğini Karim Amer ile Jehanne Noujaim’in ödüllü The Great Hack (2019) filmi bize büyük veri analizlerine sahip şirketlerin seçim kampanyalarını nasıl yönlendirebileceğine ilişkin çarpıcı bir bakış açısı sunduğunu görmekteyiz.

Algoritmalar davranış ve tutumlarımızı izler, kaydeder, çözümler ve yönlendirir. Örneğin, çoğu kez sosyal medya platformlarında karşımıza çıkan kişi profillerinin veya sayfaların gerek yaşadığımız mekân açısından gerekse beğenilerimiz açısından bize yakın olduklarını fark ederiz. Bu şekilde kişiselleştirilmiş reklamlar ve yönlendirmeler algoritmalar aracılığıyla oluşturulmaktadır. Seçmen tercihlerinin yönlendirilmesi de benzer bir algoritmik programlama ile gerçekleştirilmektedir.

Benzer biçimde örneğin herhangi bir web sitesinden bir ürünü satın aldığımızı düşünelim. Bu alışverişten sonra bazı firmalar bizi aramakta ya da e-posta adreslerimize izinsiz biçimde kendi ürünleri hakkında bilgi gönderip böylece bizi pazarlama faaliyetinin içine çekmektedirler. Bu tip bir işleme olanak sağlayan şey yine algoritmalardır. İnternet üzerinden verileri takip ederek oluşturulan algoritmalar bu verilerin denetlenmesi için kullanılır. Algoritmaların etkinlik alanı internetle sınırlı olmadığı halde yine de en büyük etkiye internet vasıtasıyla ulaştıkları görülür.

Dijital sistemin kendi doğasından kaynaklanan esnek yapısı ve dolayısıyla farklı durumlarda hızlıca değişime ve yenilenmeye ayak uydurma kapasitesi beraberinde algoritmaların işlediği internet mecralarının yasal çerçeveler içerisinde kontrol altına alınmasını güçleştirmektedir. Bu anlamda Fioriglio’nun da (2015:407) dile getirdiği üzere yasaların çeşitli tedbirler aldığı görülmekle beraber yine de algoritma diktatörlüğünden kaçmak çok güçtür.

Algoritmalar sadece dijital teknolojilerin işleyişini ifade eden sistemler olmayıp aynı zamanda yaşamın sosyo-politik ve ekonomik dinamiklerine etki eden bir toplumsal fail rolünü üstlendiği görülmektedir. Bu anlamda nüfuz sahibi politik güçlerin sanal mecralar üzerinde çeşitli firmalar aracılığıyla kendilerinin belirledikleri politik hedeflere ulaşmak için algoritmik sistemlerin gücünden faydalanmaları mümkün olabilmektedir.

Yurttaşların seçmen davranışlarının biçimlendirilmesi, yönlendirilmesi, optimizasyonu veya manipüle edilmesi noktasında algoritmaların kritik roller oynayabildiğini söyleyebiliriz. Bu bağlamda büyük verinin değerli hazineleri doğrultusunda ve politik bilgilerin görünürlük, paylaşım ve akışına yön veren algoritmaların kontrol edilmesiyle sosyal ağ platformları politikanın henüz yeterince açığa kavuşturulmamış araçları olarak belirmektedir (Tüfekci, 2014:27).

Bilgisayar programcılığının ve dijital sistemlerin temel işleyiş düzenini ifade eden algoritmalar, getirdiği kolaylıklarla birlikte kişisel ve toplumsal hayat açısından büyük tehditler içermektedir. Algoritmik sistemler, bireylere davranış kalıpları oluşturmalarıyla, bireylerin davranış eğilimlerini izleme-kaydetme-çözümleme yoluyla onların olası isteklerine yakın seçenekler sunmalarıyla, yanılsamalı özgürlükler ve belirlenmiş tercihler üretirler. Bu da kritik bir irade sorununa, davranışın ve düşünmenin programlanması ve otomatikleşmesi sorununa yol açmaktadır.

Algoritma diktatörlüğü kavramı, dijital sistemlerin gerek insan bedeni ve zihni gerekse bütün bir toplumsal hayat üzerinde denetim kuran teknolojik aklın temel bir eleştirisidir. Bu açıdan algoritma diktatörlüğü, gelişmekte olan dijital sosyoloji ya da internet sosyolojisine temel ilgi alanlarından birini oluşturmakla birlikte sosyolojiyi tümüyle tehdit etmektedir. Dijital teknolojilerin oluşturduğu mevcut ve potansiyel tehlikeler toplumsallığın temellerini aşındırmakta, teknolojik programlamaya dayalı biyopolitik denetim toplumun yerine geçmektedir.

 

Kaynakça

Amer, Karim & Noujaim, Jehane (2019). The Great Hack. Erişim adresi (28.01.2020):             https://www.filmkovani.com/the-great-hack-izle-fk3880984

Atalay, Muhammet & Çelik, Enes (2017). Büyük Veri Analizinde Yapay Zekâ Öğrenmesi ve

Makine Öğrenmesi Uygulamaları. Mehmet Akif Ersoy Üniversitesi Sosyal Bilimler Enstitüsü Dergisi, 9(22), s. 155-172.

Aytekin, Alper & Çakır, Fatma Sönmez & Yücel, Yakup Bahadır & Kulaözü, İlknur (2018).

Algoritmaların Hayatımızdaki Yeri ve Önemi. Avrasya Sosyal ve Ekonomi Araştırmaları Dergisi (ASEAD), 5(7), s. 151-162.

Bucher, Taina (2012). Want to be on the top?  Algorithmic power and the threat of invisibility

on Facebook. New Media & Society, 14(7), s. 1164-1180.

Dalton, Ben (2019, 19 Ağustos). Alejandro González Iñárritu Blasts ‘Dictatorship of the            Algorithm’ on Streamingservices. Erişim adresi (01.12.2019):       https://www.screendaily.com/news/alejandro-gonzalez-inarritu-blasts-dictatorship-of-           the-algorithm-on-streaming-ervices/5142008.article

Deleuze, Gilles (2007). Postscript on the Societies of Control. October, (Winter, 1992), 59,3-7.

Demir, Aysel (2017). Panopticon ve Synopticon Geriliminde Özgürlük Paradoksu. Kaygı,28(28), s. 55-65.

Edwards, Lilian&Veale, Michael (2017). Slaveto the Algorithm? Why a Right  to an

Explanation’ Is Probably Not The Remedy You Are Looking For. SSRN Electronic Journal, 16(1), s. 18-84.

Erwin, Sean (2015). Living By Algorithm: Smart Surveillance and the Society of Control.

Humanities and Technology Review, 34, s. 28-69.

Fioriglio, Gianluigi (2015). Freedom, Authorityand Knowledge On Line: The Dictatorschip

Of The Algorithm. Revista Internacional de PensamientoPolítico-I Época, 10, s. 395-410.

Kuzuloğlu, Serdar (219). Algoritma Diktatörlüğü Geliyor. Erişim adresi (28.01.2010):

https://www.youtube.com/watch?v=Zs2qnqp2yZc

Mehri, Bahman (2017). From Al-KhwarizmitoAlgorithm.Olympiads in Informatics, 11, s.

71-74.

Milan, Stefania (2015). When Algorithms Shape Collective Action: Social Media andthe

Dynamics of Cloud Protesting. Social Media + Society, 1(2). s. 1-10.

Musiani, Francesca (2013). Governance by algorithms. İnternet Policy Review, 2(3), s. 1-8.

Orwell George (2019). 1984 (Çev. Celal Üster). İstanbul: Can Yayınları.

Tufekci, Zeynep (2014).  Engineering the Public: Big Data, Surveillance and Computational

Politics. First Monday, 19(7), s. 1-39.

Ünver, Hamid Akın (2018). Artificial Intelligence, Authoritarianism and the Future of

Political Systems.EDAM Research Reports, 2018/9.

Wiener, N. (1964). God and Golem Inc.: A Comment on Certain Points where Cybernetics

Impinges on Religion. Cambridge: The M.I.T Press.