Yapay zekada önyargı, bir modelin bazı gruplar, durumlar ya da görüşler için sistematik olarak daha kötü ya da haksız sonuçlar üretmesidir. En yaygın nedeni eğitim verisidir: veri bazı grupları az temsil ediyorsa ya da geçmişteki toplumsal eşitsizlikleri yansıtıyorsa, model de bunları öğrenip tekrar eder.
Önyargı; verinin toplanma biçiminden, etiketleyen kişilerin varsayımlarından ya da modelin hangi amaçla ölçüldüğünden de kaynaklanabilir. Örneğin belirli ten renklerinde daha az örnekle eğitilen bir yüz tanıma sistemi, bu gruplarda daha çok hata yapabilir.
Önyargıyı azaltmak için çeşitli ve dengeli veri toplamak, sonuçları farklı gruplar için ayrı ayrı test etmek ve sistemleri geliştiren ekiplerin çeşitliliğini artırmak önemlidir. Tamamen önyargısız bir sistem kurmak zordur; bu yüzden şeffaflık ve denetim gereklidir.
Pour les enfants
Çocuğunuza nasıl anlatırsınız?
Bir uzaylıya dünyadaki kuşları sadece güvercin fotoğraflarıyla öğrettiğini düşün. Bir penguen gördüğünde "Bu kuş değil!" der. Uzaylı kötü niyetli değil, sadece eksik örneklerle öğrenmiş. Yapay zeka da eksik ya da tek taraflı örneklerle öğrenirse haksız kararlar verebilir.
Gündelik bir örnek
"Doktor" görseli istendiğinde bir görsel üretme modelinin hep aynı cinsiyetten kişiler çizmesi, eğitim verisindeki önyargının bir yansıması olabilir.
Veliler için not
Yapay zekanın bir bilgisayar olduğu için tarafsız olduğu düşüncesi yaygın bir yanılgıdır; modeller, eğitildikleri verinin önyargılarını taşıyabilir.