Yapay zeka sistemleri cinsiyet eşitsizliğini daha da derinleştiriyor. Peki bunun önüne geçmek mümkün mü? 6 uzman anlatıyor.
Yakın tarihli bir UNESCO raporuna göre, Open AI’nin GPT-3.5 ve META’nın Llama 2’si de dahil olmak üzere yaygın olarak kullanılan büyük dil modelleri “kadınlara karşı önyargının kesin kanıtlarını” ortaya koyuyor. Kadın isimlerinin “ev”, “aile”, “çocuk” ve “evlilik” ile, erkek isimlerinin ise “iş”, “yönetici”, “maaş” ve “kariyer” ile ilişkilendirildiği görülüyor.
Diğer araştırmalarda da, yapay zeka tarafından üretilen referans mektupları ve makalelerde de benzer şekilde güçlü önyargılara rastlandı. Aynı sorun, yazılı komutlarla yapay zeka tarafından oluşturulan görüntüler de mevcut. Yapay zekadan temizlik yapan bir kişinin resmini oluşturmasını istediğinizde, bir kadın görüntüsüyle karşılaşma olasılığınız, erkeğe oranla daha fazla. Yapay zekada sadece cinsiyetçilik değil, ırkçılık gibi diğer ayrımcılık biçimleri de oldukça yaygın.
Yapay zeka modelleri, ister internetten toplanmış metinler veya görüntüler olsun, ister beyaz erkeği ‘varsayılan’ olarak ele alan hakemli araştırmalar olsun, önyargılı veriler üzerinden eğitiliyor. Bu kendi başına sorunlu bir durum, ancak yapay zeka aynı zamanda bu önyargıyı güçlendiriyor da.
Yapay zeka sistemleri halihazırda haber makaleleri, tavsiye mektupları yazmak, kimin işe alınacağına, kimin hangi reklamları göreceğine karar vermek ve tıp ve hukuk sistemlerinde çok ciddi kararların alınmasına yardımcı olmak için de kullanılıyor. Bu sistemlerin iyi sonuçlar üretme potansiyeli var – ancak eşitsizliği derinleştirme olasılıkları da oldukça yüksek.
Bu modelleri eğiten verilerin doğasını sorgulamanın yanı sıra, bu modelleri oluşturan insanların varsayımları ve önyargılarının gücü hakkında da düşünmemiz gerekiyor. O halde, yapay zekayı tasarlayan, oluşturan ve düzenleyen kişilerin çeşitliliği çok önemli. Bu nedenle, en büyük teknoloji şirketlerinin çoğunun çeşitlilik, eşitlik ve kapsayıcılık programlarını azaltması endişe verici.
2018 yılında yapay zeka alanında çalışanların %22’si kadındı. Kadınların liderliğindeki şirketlerin sayısı oldukça az: Yakın zamanda yapılan bir araştırma, Birleşik Krallık’ta risk sermayesi yatırımlarının yalnızca %2’sinin kadınların kurduğu şirketlere gittiğini ortaya koydu. Akademide bu konuda çalışan erkeklerin sayısı çok daha fazla. Ve kadınların yapay zekanın toplumsal, etik ve politik sonuçlarını düşünme olasılığı daha yüksektir.
Mevcut durumda, yapay zeka nedeniyle erkeklerden çok daha fazla kadın işini kaybedecek. Yüksek gelirli ülkelerde, erkeklerin (%2,9) iki katından (%7,8) fazla sayıda kadının işlerinin otomatikleştirilmesi olasılığı daha yüksek. Kamu Politikaları Araştırma Enstitüsü tarafından yapılan son araştırma, Birleşik Krallık’ta sekiz milyona kadar istihdamın risk altında olabileceğini ve bu durumdan etkilenen kadın sayısının erkeklerden çok daha fazla olduğunu ortaya koydu. Bu, yapay zeka odaklı işe alım modellerinin kadınları dezavantajlı hale getiren daha sinsi etkilerini hesaba katmıyor bile. Diğer çalışmalar, kadınların yapay zekayı çok fazla kullanmadıkları için iş yerinde erkeklerin gerisinde kalmalarına ilişkin endişeleri dile getiriyor. (Belki de kısmen teknolojiye güvenmedikleri için, bu da kaderin acımasız bir cilvesi gibi görünüyor).
Peki tüm bunların önüne geçmek için ne yapılabilir?
Birçok uzman robotların, görüntü oluşturucuların ve makine öğrenimi sistemlerinin arkasında insanların olduğunu vurguluyor. Yapay zeka insanlar tarafından eğitilir, beslenir ve tasarlanır. Dolayısıyla bu teknoloji (diğerleri gibi) tarafsız olmadığı gibi politikayla da çok ilişkili.
Bu nedenle, dikkatli bir şekilde tasarlanıp uygulandığı takdirde, yapay zekanın bir güçlendirme aracı olarak büyük bir potansiyele sahip olduğu konusunda herkes hemfikir: Angarya ve zaman yoksulluğunu azaltmak; herkes için sağlık sonuçlarını iyileştirmek; iklim değişikliği ve çevresel yıkımla mücadele etmek. Ancak mevcut gidişat bu yönde mi?
Yapay zeka kaynaklı iş kayıplarını inceleyen araştırmacılardan biri olan Bhargav Srinivasa Desikan, “Yapay zekata son yüzyıldaki tüm büyük teknolojilere davrandığımız gibi davranırsak, o zaman çok iyimser değilim. Sadece sosyal medyada olanları düşünün. Bununla birlikte, gelecek bizim kontrolümüz dışında yazılmıyor” diyor.
CARE’de Dijital Kapsayıcılık Kıdemli Teknik Direktörü Revi Sterling de benzer endişeleri dile getiriyor. Sorun şu ki, “piyasadaki yapay zekanın çoğu son kullanıcılar ya da kadınlar için tasarlanmadı” dedi. “Bunlar üretimde, bankacılıkta ve ticarette %1 tasarruf sağlamak için tasarlandılar.”
De Montfort Üniversitesi Bilgisayar ve Sosyal Sorumluluk Merkezi Eş Direktörü Kutoma Wakunuma, “Yapay zeka dünyasında, veriye sahip olan güç sahibidir” diyor. “Veri yeni petroldür. Ve hepsi birkaç elde toplanmış durumda: Küresel Kuzey’deki büyük teknoloji şirketleri.”
‘Her şey bize bağlı’
Dolayısıyla uzmanların vurguladığı üzere buradaki sorun teknolojik değil, ağırlıklı olarak siyasi ve ekonomik bir sorun.
Doktora araştırmacısı Yixin Wan, “Sorunu tanımlamak ilk adımdır” diyor. “Ancak analiz kapsamını, queer grupları da içeren daha geniş bir cinsiyet tanımına ve modellerin jeokültürel anlayışını geliştirmeye kadar genişletmemiz gerektiğini düşünüyorum. Çünkü şu anda bunlar ağırlıklı olarak Batılı.”
Kadın liderliğindeki start-up’lara yatırım yapılmaması konusunda bir araştırma yayınlayan Erin Young ise “Biz – ve biz derken herkesi kastediyorum – bu konuda dikkatli olduğumuz sürece, bu kodlanmış önyargıları azaltmanın yolları üzerinde çalışabiliriz” diyor.
Pérez-Ortiz de aynı fikirde: “Tüm bunlar bize bağlı. Hangi yapay zeka modellerinin oluşturulacağını ve bu alanda hangi araştırma konularının inceleneceğini belirleyenler insanlardır.”
Kaynak: Les Glorieuses