Avustralyalı bir olimpiyat sporcusunu hayal etmeniz istense, aklınıza yüzücü Emma McKeon, bisikletçi Grace Brown veya binici Chris Burton gelebilir.

Ancak aynı soruyu bir yapay zeka botuna sorduğunuzda, aldığınız cevap çok farklı olacaktır.

Olimpiyat heyecanı sürerken Edith Cowan Üniversitesi’nden araştırmacılar, yapay zeka destekli görüntü oluşturma platformu Midjourney’den 40 ülkeden Olimpiyat takımlarının görüntülerini oluşturmasını istedi.

Garip bir şekilde, yapay zeka aracı Avustralya takımını kanguru gövdeli ve koala başlı olarak tasvir ederken, Yunan takımı antik zırhlar giymiş olarak tasvir ediliyor.

Peki, yapay zekanın favori takımınızın tasviri hakkında ne düşünüyorsunuz?

Avustralyalı bir Olimpiyatçıyı resmetmeniz istenseydi, yüzücü Emma McKeon, bisikletçi Grace Brown veya binici Chris Burton aklınıza gelebilirdi. Ancak aynı soruyu bir AI bot’a sorun, cevap çok farklı olacaktır

Olimpiyat heyecanı ortasında, Edith Cowan Üniversitesi’nden araştırmacılar, yapay zeka destekli görüntü oluşturma platformu Midjourney’den 40 ülkeden Olimpiyat takımlarının görüntülerini oluşturmasını istedi. Yunanistan’ın Olimpiyat takımı tuhaf bir şekilde antik zırhlar giymiş şekilde tasvir edildi

Araştırmacılar Midjourney’den Avustralya, İrlanda, Yunanistan ve Hindistan’ın da aralarında bulunduğu 40 ülkeden Olimpiyat takımlarını gösteren görseller üretmesini istedi.

Ortaya çıkan görüntüler, yapay zekanın eğitim verilerinde yer alan cinsiyet, olaylar, kültür ve din gibi çeşitli önyargıları ortaya koyuyor.

Erkeklerin fotoğraflarda yer alma olasılığı kadınlara göre beş kat daha fazlayken, Ukrayna ve Türkiye de dahil olmak üzere bazı takımlar sadece erkeklerden oluşuyor.

40 fotoğraftaki sporcuların yüzde 82’si erkek, sadece yüzde 17’si kadındı.

Araştırmacılar ayrıca dikkat çekici bir olay yanlılığını da ortaya çıkardılar.

Erkeklerin fotoğraflarda yer alma olasılığı kadınlardan beş kat daha fazlaydı; Ukrayna (resimde) ve Türkiye de dahil olmak üzere birkaç takım yalnızca erkeklerden oluşuyordu

40 resimdeki tüm sporcuların yüzde 82’si erkekleri tasvir ederken, yalnızca yüzde 17’si kadınları tasvir ediyor. Resimde: Yapay zekanın Türkiye takımını tasviri

Araştırmacılar ayrıca Hollandalı ekibin bisikletçiler olarak tasvir edilmesiyle dikkat çekici bir olay yanlılığını da ortaya çıkardılar

Kanada takımı hokey oyuncularıyla, Arjantin takımı futbolla, Hollanda takımı ise bisikletle temsil edildi.

Ekip, bunun yapay zekanın ülkeleri uluslararası alanda tanınan spor dallarına göre kalıplaştırma eğiliminde olduğunu gösteriyor.

Kültürel önyargı açısından Avustralyalı takım tuhaf bir şekilde kanguru gövdeli ve koala başlı olarak tasvir edilmişti.

Bu arada Nijerya takımı geleneksel kıyafetleriyle, Japonya takımı ise komonos giymişti.

Hindistan ekibinde dini bir önyargı belirgindi; hepsi bindi giyerken tasvir edilmişti – bindi, esas olarak Hinduizm ile ilişkilendirilen dini bir semboldü.

Arjantin takımı futbolla temsil edildi. Takıma göre bu, AI’nın ülkeleri uluslararası alanda daha fazla tanınan sporlarıyla klişeleştirme eğiliminde olduğunu gösteriyor

Araştırmacılar, Kanada takımının hokey oyuncuları olarak tasvir edilmesiyle dikkat çekici bir olay yanlılığını ortaya çıkardı

Hepsinin Hinduizm ile ilişkilendirilen dini bir sembol olan bindi giydiği tasvir edilen Hint takımı arasında dini bir önyargı açıkça görülüyordu

Araştırmacılar, ‘Bu temsiliyet, Hindistan’daki dini çeşitliliği göz ardı ederek, ekibi tek bir dini uygulamaya dayalı olarak homojenleştirdi’ açıklamasında bulundu.

Yunanistan’ın Olimpiyat takımı tuhaf bir şekilde antik zırhlar giymiş şekilde tasvir edilirken, Mısır takımı ise firavun kostümüne benzeyen bir şey giymiş olarak gösterildi.

Sporcuların yüzlerindeki duygular da takımlara göre büyük farklılıklar gösterdi.

Güney Kore ve Çin takımlarının ciddi ifadeleri görülürken, İrlanda ve Yeni Zelanda takımlarının ise gülümsediği görüldü.

Edith Cowan Üniversitesi’nde kıdemli öğretim görevlisi olan Dr. Kelly Choong, “Yapay zekadaki önyargılar, yapay zeka algoritmasını bilgilendiren insan önyargılarından kaynaklanıyor ve yapay zeka da bunu tam anlamıyla ve bilişsel olarak ele alıyor” dedi.

Mısır ekibinin firavun kostümüne benzeyen bir şey giydiği görüldü

Sporcuların yüzlerinde görülen duygular da takımlar arasında büyük farklılıklar gösteriyordu. Güney Kore takımı ciddi ifadelerle görülebiliyordu

İrlanda (resimde) ve Yeni Zelanda takımları gülümserken gösterildi

‘Yapay zekada insan yargıları ve önyargıları gerçekmiş gibi çizilip sunuluyor ve eleştirel düşünme ve değerlendirme eksikliği, bilginin geçerliliğinin sorgulanmaması, sadece bir görevi tamamlama amacının sorgulanması anlamına geliyor.’

Dr. Choong, bu önyargıların hızla eşitlik sorunlarına, zararlı genellemelere ve ayrımcılığa yol açabileceğini iddia ediyor.

‘Toplumun bilgi ve yanıtlar için giderek daha fazla teknolojiye bağımlı hale gelmesiyle birlikte, bu algılar farklı kimliklere sahip insanlar için gerçek dezavantajlar yaratabilir’ diye ekledi.

‘Bir ülkenin belli sporlarla ilişkilendirilmesi, o ülkedeki herkesin bu sporlarda başarılı olduğu algısına yol açabilir – örneğin Kenya’nın koşuyla; Arjantin’in futbolla; Kanada’nın buz hokeyiyle ilişkilendirilmesi gibi.

‘Bu çarpıtılmış ‘gerçeklikler’, bu stereotiplere inanan bireylerin zihnine de yerleşebilir ve farkında olmadan gerçek hayatta bunları güçlendirebilir.’

Araştırmacılar, görüntülerin geliştiricilerin bu tür önyargıları azaltmak için algoritmalarını geliştirmeleri gerektiğini vurgulamasını umuyor.

Dr. Choong, ‘Teknoloji algoritmasını ve çıktılarını iyileştirmenin bir yolunu bulacak, ancak yine de gerçeğe uygun bir sunum sunmak yerine bir görevi tamamlamaya odaklanacak’ dedi.

‘Toplumun yapay zeka tarafından üretilen bilginin geçerliliğini sorgulaması ve eleştirel bir şekilde değerlendirmesi gerekecek.

‘Kullanıcıları eğitmek, yapay zeka ile bilginin bir arada var olabilmesi ve çıktılarına meydan okuyabilmek için çok önemli olacak.’