Yapay zekâ, insan ve etik

Etik üzerine çalışan kişiler genelde yapay zekâ ve robotik gibi yeni teknolojilerin etkisini ve tehlikelerini abartma eğiliminde… Tartışmalar özellikle bilgi teknolojisinde mahremiyet, gözetim, veri yönetimi ve veri yoluyla manipülasyon üzerinde yoğunlaşsa da şeffaflık, ayrımcılık, toplumsal değer yaratıp yaratmama ve hesap verebilirlik gibi konulara kadar da uzanıyor.  

Avrupa Komisyonu, 2018’de yapay zekânın uygulanma biçimleri için tavsiyelerde bulunmak üzere 52 uzmandan oluşan bir grup kurdu. Grup üyeleri akademi, sivil toplum ve endüstri temsilcileri arasından seçildi. 8 Nisan 2019’da güvenilir yapay zekâ için “Ethics Guidelines for Trustworthy Artificial Intelligence” başlıklı bir etik kılavuz hazırlandı. Bu kılavuzda, yapay zekâ uygulamalarının güvenilir sayılabilmesi için uyulması gereken yedi temel ilke belirlendi.

-  Yapay zekâ sistemleri insanları güçlendirmeli, bilinçli kararlar alabilmelerine ve özgür seçimler yapabilmelerine izin vermeli ve temel insan haklarının gelişimine katkı sunmalıdır. Bkz. COVID-19, dijitalleşme ve “büyük reset”

- Yapay zekâ sistemleri sağlam ve güvenilir olmalıdır. Hatasızlık, işlevini yerine getirebilme ve tekrarlanabilir olma özelliklerini taşımalı ve bir şeyler ters gittiğinde geri dönülebilecek kadar güvenli olmalıdırlar.   

-  Mahremiyete, özel hayatın gizliliğine ve verilerin korunmasına saygı gösterilmelidir. Veri kalitesi ve veri bütünlüğü dikkate alınarak uygun veri yönetişimi mekanizmaları sağlanmalıdır. Bkz. Veri ekonomisi, teknoloji devleri ve gözetim kapitalizmi

-  Yapay zekâ sistemleri ve iş modelleri şeffaf olmalıdır. İnsanlar bir yapay zekâ sistemi ile etkileşime girdiğinin farkında olabilmeli, sistemin uygulaması ve sınırları hakkında bilgilendirilmelidir.

-  Yapay zekânın savunmasız grupların marjinalleştirilmesinden, önyargı ve ayrımcılığın daha da artmasına kadar pek çok olumsuz etkisi olabilir. Bu nedenle yapay zekâ sistemleri çeşitliliği teşvik etmeli, herkes tarafından erişilebilir olmalı, insanların din, dil, cinsiyet, cinsel yönelim, yaş, ırk gibi farklılıklarına saygılı olmalı, ayrımcılık yapmamalı, adil muamele ilkesine uymalıdır. Bkz. Dijital dönüşüm, devletin rolü ve sosyal inovasyon

-  Yapay zekâ gelecek nesiller de dahil insanlığa fayda sağlamalıdır. Sürdürülebilir ve çevre dostu olmalıdır. Bkz. İklim krizi, COVID-19 ve Yeşil Yeni Anlaşma

-  Yapay zekâ sistemleri sorumlu ve hesap verebilir olmalı, bunun için gerekli mekanizmalar oluşturulmalıdır.

Yapay zekâ, duygularımızı anlamaya, yorumlamaya, işlemeye ve hatta taklit etmeye başlıyor

Bu tartışma ve çalışmalar sürerken yapay zekâ, giderek daha zeki ve daha az yapay olma yolunda ilerliyor. Büyük veriye bağımlılığı azalmaya başlıyor ve yakında insanların problemlere yaklaşımına çok benzer bir “yukarıdan aşağıya akıl yürütme” yöntemini kullanabilecek kadar gelişecek. Bu akıl yürütme becerisi, yapay zekânın daha yaygın kullanımını; daha önceleri ona yer olmadığı düşünülen sektör ve alanlara da girebilmesini sağlayacak.

Diğer yandan artık yapay zekâ sistemleri duygularımızı anlamaya, yorumlamaya, işlemeye ve hatta taklit etmeye de başlıyor. Yapay zekâ, pazar araştırmaları ve siyasi anketler için derin öğrenme destekli yüz ve ses analizleriyle bugün bile duyguları tahlil edebiliyor. Affectiva, Beyond Verbal ve Sensay gibi şirketler, kullanımı basit duygu analizi yazılımları geliştiriyor. Amazon, Google, Facebook ve Apple gibi şirketlerin kullanıcı duygularının tahlili için bu yazılımlara yönelmesiyle birlikte, 2022’ye kadar bu pazarın büyüklüğünün 41 milyar dolara ulaşacağı tahmin ediliyor.

Yapay zekâ, insanı yerinden mi edecek?

Bu gelişmeler, yapay zekânın ekonomide insanı yerinden edeceğine dair kaygıların da daha fazla dillendirilmesine yol açıyor. Distopiklere göre insan ve makine, bir evrim mücadelesine girecek ve kazanan makine olacak. Yapay zekâ sistemleri, orta ve üst düzey beceri gerektiren işlerin en önemli görevlerini üstlenecek; robotlar, düşük beceri gerektiren sıradan görevleri yapacak. Bunun sonucunda işsizlik muazzam boyutlara ulaşacak, kazançlar düşecek, işini kaybeden insanlar yeni iş bulamayacak.

Ütopiklere göre ise birçok iş akıllı makineler tarafından yapılacak ama bunun sonucunda eşi benzeri görülmemiş bir zenginlik ortaya çıkacak. Ekonomik bir gerileme yaşanmayacak. Yani makineler, insan beyninin yapabildiği her şeyi yapabilecek kapasiteye sahip olacak. İnsan beyni taranarak bilgisayarlara transfer edilecek. Böylece milyarlarca kopyalanmış insan beyni bilişsel işleri yerine getirirken robotlar da ağır işleri üstlenecek. İnsanlarsa becerilerini daha anlamlı hedefler için kullanacak.

Her iki yaklaşım da çok uçta görünüyor. Geleceğin bu anlamda ne getireceği belirsiz olsa da muhtemelen insanlık bu iki ucun ortasında bir yerlerde yeni bir yola girecek. Şimdilik tartışmalar ağırlıklı olarak insan merkezli şekilde sürse de yapay zekâyı ve robotiği merkeze alacak şekilde genişliyor. İnsan için dahi binlerce yıldır cevabı aranan “özgür irade var mıdır, kararlarımızı nasıl veriyoruz, sorumluluk nedir, vicdan diye bir şey var mıdır” gibi felsefi sorular, yapay zekâyı ve robotları da içine alarak, etik felsefesinden hukuk felsefesine uzayan heyecan verici bir serüvene yol açıyor. 

 

Kaynaklar: “High-Level Expert Group on Artificial Intelligence: Ethics Guidelines for Trustworthy AI”, European Commission;“Ethics of Artificial Intelligence and Robotics”, Vincent C. Müller, Stanford Encyclopedia of Philosophy; “3 Ways AI Is Getting More Emotional”, Sophie Kleber; “The Future of AI Will Be About Less Data, Not More”, H. James Wilson, Paul R. Daugherty, Chase Davenport; “How Will AI Change Work? Here Are 5 Schools of Thought”, Mark Knickrehm, Harvard Business Review; “Perspectives on Big Data, Ethics, and Society”, Jacob Metcalf, Emily F. Keller, Danah Boyd, Council for Big Data, Ethics, and Society