Gelişen teknoloji ile hayatımızın her alanına dokunan yapay zeka (YZ) bilgiye erişimimizi kolaylaştıran, günlük rutinlerimizi iyileştiren ve hatta iş süreçlerini dönüştüren bir güç haline geldi. Ancak bu teknolojik mucize, insanlığın tüm sorunlarını çözebilecek kadar tarafsız mı? Daha da önemlisi, YZ sistemlerinin arkasında yer alan algoritmalar ve veri setleri, toplumsal cinsiyet eşitliği açısından gerçekten “adil” mi?

Yapay zeka ayna mı, yargıç mı?

Yapay zekayı basit bir şekilde anlamak gerekirse veriyle eğitilmiş bir “makine öğrenimi” sistemidir. Ancak burada kritik bir nokta var: Yapay zekanın eğitildiği veri setleri, insan davranışlarını ve kararlarını yansıtıyor. Eğer veri setleri önyargılarla doluysa YZ de bu önyargıları öğrenip yeniden üretiyor. Bu durum da, yapay zekanın toplumsal eşitsizlikleri artıran bir ayna mı yoksa bu eşitsizlikleri yargılayıp düzeltebilen bir araç mı olduğu sorusunu gündeme getirebilir.

Örneğin, 2018 yılında Amazon’un geliştirdiği bir işe alım algoritması, geçmişteki verilerden öğrenerek kadın adayları sistematik olarak dışlamaya başlamıştı çünkü algoritma, erkeklerin ağırlıkta olduğu geçmiş işe alım verilerini temel alıyordu. Bu durum, YZ’nin yalnızca “ne öğretilirse onu öğrenen” bir sistem olmadığını, aynı zamanda geçmişteki hataları ve ayrımcılıkları yeniden üretebileceğini gösteriyor.

Cinsiyetçi önyargılar: Gözden kaçan tuzaklar

YZ’nin cinsiyetçi olmasının birkaç temel nedeni var:

• Veri setlerinin yanlılığı: Yapay zekalar, büyük ölçüde geçmiş verilere dayalı olarak eğitilir. Bu veriler, tarih boyunca süregelen toplumsal cinsiyet rolleri ve ayrımcılık içeriyorsa, YZ de bu önyargıları öğrenir. Psikolog Daniel Kahneman’ın Thinking, Fast and Slow (2011) kitabında belirttiği gibi, “Zihnimizin kısa yolları, önyargılarımızı şekillendirir.” Bu durum, YZ sistemleri için de geçerlidir.
• Algoritmik şeffaflık eksikliği: Çoğu YZ algoritmasının nasıl çalıştığı, kullanıcılar ve hatta geliştiriciler için bile tam olarak anlaşılmaz. Bu “kara kutu” etkisi, önyargıları tespit etmeyi ve düzeltmeyi zorlaştırır. Cathy O’Neil, Weapons of Math Destruction (2016) adlı kitabında, “Algoritmalar, tarafsız olduklarına dair bir illüzyon yaratır, ancak gerçekte adaletsizliği daha da görünmez kılabilirler,” diyerek bu soruna dikkat çeker.
• Dilin yanlılığı: YZ tabanlı dil modelleri, internetteki büyük metin veri tabanlarından öğrenir. Ancak bu metinler, genellikle toplumsal cinsiyet kalıplarını yansıtan ifadeler içerir. Örneğin, bir YZ modeli, “doktor” kelimesini erkeklerle, “hemşire” kelimesini kadınlarla ilişkilendirebilir.

Kişisel gelişim ve algı üzerine etkileri

YZ’nin cinsiyetçi önyargılarının sadece kurumsal dünyayı değil, bireysel algılarımızı da şekillendirdiğini fark etmek önemlidir. Bir birey olarak, günlük yaşamda kullandığımız teknoloji (arama motorları, sohbet botları, sosyal medya algoritmaları) aracılığıyla bu önyargılara maruz kalıyoruz.

• Rol modellerinin eksikliği: Örneğin, YZ tabanlı arama motorlarında “lider” kelimesini arattığınızda, erkek liderlerin daha çok öne çıktığını görebilirsiniz. Bu durum, özellikle genç kadınların kendilerini lider pozisyonlarında hayal etmesini zorlaştırabilir.
• Kendi önyargılarımızı pekiştirme: YZ’nin önerdiği içerikler, zaten sahip olduğumuz toplumsal cinsiyet kalıplarını güçlendirebilir. Örneğin, sosyal medya algoritmaları, yalnızca belirli bir perspektifi göstererek dünyayı dar bir mercekten görmemize neden olabilir.

Neler yapılabilir?

YZ’nin cinsiyetçi önyargılarını azaltmak ve teknolojiyi daha adil bir hale getirmek için bireysel ve toplumsal düzeyde yapabileceğimiz bazı adımlar var. Öncelikle, YZ sistemlerini eğitirken kullanılan veri setlerinin daha çeşitli ve kapsayıcı hale getirilmesi gerekiyor. Bu, özellikle kadınları ve diğer az temsil edilen grupları içeren verilerle sağlanabilir. Teknoloji şirketlerinin algoritmalarını daha şeffaf hale getirmesi, önyargıların tespit edilmesi ve düzeltilmesi için önemlidir.

Bununla beraber bir birey olarak, teknolojiyi kullanırken önyargıların farkında olmalı ve sorgulamalıyız. Cathy O’Neil’in dediği gibi, “Algoritmaların önerilerini körü körüne kabul etmeyin.” Teknoloji sektöründe daha fazla kadın liderin yer alması, toplumsal cinsiyet eşitliğini teşvik edebilir. Reshma Saujani’ye şu sözü için hakkını teslim edelim: “Kadınlar hata yapma korkusunu bırakıp cesurca ilerlemeli.”

Sonuç: Teknolojiyi daha adil hale getirmek

YZ’nin cinsiyetçi önyargılar içermesi, teknolojinin insan yapımı bir ürün olduğunu ve bu nedenle insan hatalarını taşıyabileceğini gösteriyor. Ancak bu, YZ’nin geleceğinin de insan ellerinde olduğunu kanıtlıyor. Daha eşitlikçi bir dünya yaratmak istiyorsak teknolojiyi nasıl geliştirdiğimiz ve kullandığımız konusunda daha dikkatli ve bilinçli olmalıyız. Sonuçta, teknoloji bizim bir yansımamızdır ve onu daha adil hale getirmek, kendi önyargılarımızla yüzleşmeyi gerektirir.

Kaynaklar:

• Amazon Hiring Algorithm Scandal, 2018.
• Harvard Business Review. “Gender Bias in Artificial Intelligence.” HBR Insights, 2021.
• Kahneman, Daniel. Thinking, Fast and Slow. Farrar, Straus and Giroux, 2011.
• Noble, Safiya Umoja. Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press, 2018.
• O’Neil, Cathy. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown, 2016.
• Saujani, Reshma. Brave, Not Perfect: Fear Less, Fail More, and Live Bolder. Currency, 2019.

İlginizi çekebilir: Başarısız olmuş yapay zeka startupları