Makine öğrenmesi, önyargılar ve ayrımcılık

Yapay zekâ algoritmaları oluşturmak için kullanılan verilerdeki önyargılar ayrımcılık gibi sosyal sonuçlara neden oluyor. Bunlar da fırsat eşitsizliğini artırıyor ve belli grupların üzerindeki baskıyı güçlendiriyor. Dünyanın veri sistemleri doğal olarak yine dünyanın eşitsizliklerini ve önyargılarını yansıtıyor. Yapay zekâ da geliştirici ve kullanıcıların dünya görüşünü yansıttığından önyargıları kodlayıp pekiştiriyor. Şu an yapay zekânın en yaygın biçimi olan makine öğrenmesi, dünyadaki örneklerin pek çok soruna yol açan kalıplarını tarayarak yol alıyor. Örneğin eğitimle ilgili verilere baktığımızda bazı grupların bu verilere dahil edilmediğini; verilerin dar bir kültürel kaynaktan toplandığını görüyoruz. Eğitim verileri, gerçek dünyanın tüm eşitsizliklerini, önyargılarını ve adaletsizliklerini içeriyor ve makine öğrenmesi sistemlerinin bu haksızlıkları belirleme ve düzeltme gibi bir becerisi yok. Verilerden, ırk ya da cinsiyete ilişkin bilgileri ayıklamak da bu sorunu çözmüyo...