Yapay Zeka Önyargısı: Algoritmalar Neden Adil Olmayabilir?

“Bilgisayar karar verdiyse tarafsızdır” diye düşünmek çok kolaydır. Sonuçta bir makinenin sevdiği, sevmediği, kayırdığı kimse yoktur. Ama yapay zeka sistemleri de adil olmayan sonuçlar üretebilir. Bu duruma yapay zeka önyargısı, İngilizce kullanımıyla bias, denir.

Bu yazıda önyargının nereden geldiğini, neden fark edilmesi zor olduğunu ve çocuklarla bu konuyu nasıl konuşabileceğinizi anlatıyoruz.

Önce bir düşünce deneyi

Bir okulda yeni bir “resim yarışması değerlendirme robotu” kurulduğunu hayal edin. Robot, geçmiş yıllarda ödül almış resimlere bakarak neyin “iyi resim” olduğunu öğreniyor.

Geçmiş yıllarda ödül alan resimlerin neredeyse hepsi sulu boya manzaralarmış. Çünkü o yıllarda jüride manzara resmini çok seven bir öğretmen varmış.

Bu yıl bir öğrenci muhteşem bir kolaj yapıyor. Robot ne der?

Büyük ihtimalle düşük puan verir. Robot kolajdan nefret etmiyor; sadece “iyi resim” dendiğinde gördüğü örneklerin hepsi manzaraydı. Geçmişteki bir tercihi, bir kurala dönüştürdü.

İşte yapay zeka önyargısının özü budur: Model, verideki dengesizlikleri ve geçmişteki tercihleri öğrenir ve onları tekrar eder, hatta bazen büyütür.

Önyargı nereden gelir?

Önyargı genellikle tek bir yerden değil, sürecin farklı adımlarından sızar.

Veri eksik ya da dengesizse

Bir yüz tanıma sistemi ağırlıklı olarak belirli bir yaş grubundan ya da görünümden insanların fotoğraflarıyla eğitildiyse, diğer gruplarda daha fazla hata yapabilir. Model kötü niyetli değildir; sadece bazı yüzleri daha az görmüştür. Veri setinin çeşitliliği konusunu veri seti nedir yazımızda ayrıntılı ele aldık.

Veri geçmişi yansıtıyorsa

Veri doğru toplanmış olsa bile, geçmişteki adaletsizlikleri taşıyabilir. Yukarıdaki resim robotu örneğinde veri “doğru”dur: gerçekten o resimler ödül almıştır. Ama bu, o resimlerin gerçekten daha iyi olduğu anlamına gelmez.

Etiketleyen insanların bakış açısı

Veriyi etiketleyen insanların kendi alışkanlıkları ve varsayımları etiketlere yansıyabilir. “Bu yorum kaba mı?” sorusuna farklı kültürlerden, yaşlardan insanlar farklı cevaplar verebilir.

Neyin ölçüldüğü

Bazen asıl ölçmek istediğimiz şeyi ölçemeyiz ve yerine bir “vekil” kullanırız. Örneğin bir öğrencinin “ne kadar çalışkan” olduğunu doğrudan ölçemediğimiz için, uygulamada geçirdiği süreye bakarız. Ama uzun süre ekranda kalmak, çalışkanlık değil, zorlanmak anlamına da gelebilir. Yanlış vekil, yanlış sonuç demektir.

Tasarım kararları

Hangi özelliklerin kullanılacağı, modelin neyi “başarı” sayacağı ve hangi hatanın daha önemli kabul edileceği, insanların verdiği kararlardır. Bu kararlar da sonucu etkiler.

Neden fark etmesi zor?

Önyargılı bir insanı bazen sözlerinden anlarız. Yapay zeka ise önyargısını açıkça söylemez. Birkaç neden:

• Sonuçlar tek tek bakınca normal görünür. Bir kişiye verilen tek bir karar, tek başına incelendiğinde makul görünebilir. Sorun ancak binlerce karar bir arada incelendiğinde ortaya çıkar.
• Sayılar tarafsız görünür. “Yüzde 87 olasılık” gibi bir ifade, kulağa bilimsel ve objektif gelir.
• Modelin iç işleyişi karmaşıktır. Özellikle büyük sinir ağlarında bir kararın tam olarak neden verildiğini açıklamak zordur.

Dil modellerinde önyargı

ChatGPT gibi dil modelleri, insanların yazdığı çok büyük miktarda metinden öğrenir. Bu metinlerde toplumdaki kalıp yargılar da bulunur. Model bu kalıpları öğrenebilir.

Bunu çocuklarla güvenli bir şekilde gözlemlemenin bir yolu, meslekler üzerine hikayeler istemektir. Örneğin bir yetişkin gözetiminde modelden “bir doktor, bir hemşire, bir mühendis ve bir öğretmen hakkında kısa bir hikaye” istenir. Sonra şu sorular konuşulur: Hikayede hangi karakterler kadın, hangileri erkek olarak yazılmış? Bu dağılım hakkında ne düşünüyorsunuz? Farklı denemelerde sonuç değişiyor mu?

Model geliştiricileri bu tür kalıpları azaltmak için çeşitli yöntemler kullanıyor, bu yüzden sonuçlar modelden modele ve zamanla değişebilir. Amaç belli bir sonucu “yakalamak” değil, soruyu sormayı öğrenmektir.

Evde deneyin: önyargılı sepet oyunu

Bu oyun, önyargının veriden nasıl doğduğunu çok somut gösterir.

1. Bir torbaya 10 kırmızı, 2 yeşil lego parçası koyun.
2. Çocuğunuza torbadan gözü kapalı 5 parça çektirin ve renklerini not ettirin. Bunu birkaç kez tekrarlayın.
3. Sorun: “Buna bakarak, dünyadaki lego parçalarının çoğu hangi renktir?”
4. Çocuğunuz büyük ihtimalle “kırmızı” diyecek. Şimdi ona evdeki bütün lego kutusunu gösterin.
5. Konuşun: Tahmin neden yanlış çıktı? Sorun çekme yönteminde miydi, yoksa torbaya ne konduğunda mı?

Bu oyunda “model” (çocuğun tahmini) hiçbir hata yapmadı; gördüğü veriye göre en mantıklı sonucu çıkardı. Hata, torbanın dünyayı temsil etmemesindeydi. Yapay zeka önyargısının büyük kısmı tam olarak böyle ortaya çıkar.

Önyargıyı azaltmak için neler yapılır?

Tamamen önyargısız bir sistem kurmak çok zordur, ama azaltmak mümkündür:

• Veriyi çeşitlendirmek: Farklı grupları, durumları ve koşulları temsil eden örnekler toplamak
• Grupları ayrı ayrı test etmek: Modelin genel başarısına değil, farklı gruplardaki başarısına ayrı ayrı bakmak
• Farklı insanları sürece katmak: Sistemi tasarlayan ve test eden ekibin farklı bakış açılarına sahip olması
• Şeffaf olmak: Modelin hangi verilerle eğitildiğini ve nerelerde zayıf olduğunu açıkça yazmak
• İnsanı döngüde tutmak: Önemli kararlarda son sözü bir insana bırakmak

Adalet tek bir tanıma sığmaz

Önyargıyı azaltmak isterken ilginç bir soruyla karşılaşırız: “Adil” tam olarak ne demek? Herkese aynı kuralı uygulamak mı, yoksa herkesin eşit derecede doğru sonuç almasını sağlamak mı? Bazen bu iki hedef birbiriyle çelişebilir.

Bu soru, çocuklarla yapılabilecek güzel bir tartışmanın konusudur. Örneğin bir sınıfta en hızlı koşan öğrenciyi seçmek için herkese aynı pisti koşturmak adil görünür. Ama öğrencilerden birinin ayağı alçıdaysa? Bu tür sorular, yapay zeka tasarımının teknik olduğu kadar insani ve toplumsal bir iş olduğunu gösterir.

Çocuklara neden bu kadar erken anlatmalı?

Bugünün çocukları, yapay zeka sistemlerini hem kullanacak hem de bir kısmı ileride bu sistemleri tasarlayacak. Önyargı kavramını erken tanıyan bir çocuk:

• Bir uygulamanın önerilerini sorgusuz kabul etmek yerine “Bu neden bana gösterildi?” diye sorar.
• Kendi projelerinde veri toplarken çeşitliliği ve dengeyi düşünür.
• Teknolojinin tarafsız bir güç değil, insan kararlarının bir ürünü olduğunu anlar.

Bu bakış, yapay zeka etiği yazımızda ele aldığımız daha geniş sorumluluk anlayışının bir parçasıdır.

Kısaca

Yapay zeka önyargısı, modelin verideki dengesizlikleri, geçmişteki tercihleri ve tasarımdaki insan kararlarını öğrenip tekrar etmesidir. Makinenin niyeti yoktur, ama sonuçları yine de adil olmayabilir. Bunu fark etmenin ilk adımı, “bu model hangi örneklerle öğrendi?” sorusunu sormaktır.

L’Atelier AI’da öğrenciler kendi veri setlerini toplarken bu soruyu projelerinin içinde, mentorlarıyla birlikte tartışıyor. Programın yaklaşımını program sayfasında okuyabilirsiniz.