Günümüzde yapay zeka, veriler aracılığıyla yeni içgörüler edinmemiz ve insan karar verme yetisini geliştirmemiz için bize yardımcı oluyor. Örneğin, cep telefonlarımıza giriş yapmak için yüz tanımayı, yardım almak için ise ses tanılamayı ve niyet analizlerini kullanıyoruz. e-Ticaret perakendecileri, tahmin etmek ve tüketicilere yeni ürünler önermek için yapay zeka ile çalışıyor. Bankalar, sahtekarlığı azaltmak ve müşteri deneyimlerini daha iyi yönetmek için etkileşimli yapay zeka kullanıyor.

Günümüzde kullanılan yapay zekanın büyük bir bölümü sınırlı yapay zekadan oluşmaktadır. İnsan zekasına daha yakın olan ve oldukça geniş bir karar, duygu ve yargı aralığına yayılabilen genel yapay zeka (general AI), yakın bir zamanda hayatımıza girmeyecek. Günümüzde var olan sınırlı yapay zeka belirli görevlerde oldukça iyi olsa da, sınırlılık doğası gereği kimi kısıtlamalar getirebilir ve önyargıya elverişli olabilir.

Önyargı, eksik veri örneklerinden veya yanlış veri kümelerinden kaynaklanabilir. Ayrıca etkileşim önyargısı da -zaman içinde etkileşimler aracılığıyla gerçekleşen çarpık öğrenme - var. Ve bazen önyargı, yeni bir yasa veya yeni bir iş kuralı gibi işteki ani bir değişiklikten kaynaklanabilir. Son olarak, etkisiz eğitim algoritmaları da önyargıya sebep olabilir. Önyargıların nelerden kaynaklandığını fark etmek, onları azaltma konusunda yardımcı olur ve yapay zeka uygulamasının amaçlanan iş sonuçlarını sağlamasını garantiler.

Yapay zeka önyargısının sebebi nedir?

İstenmeyen önyargılar birçok nedenden kaynaklanabiliyor olsa da, en önemli itici güçlerden iki tanesi verilerdeki önyargı ve eğitimdeki önyargıdır.

Verilerdeki önyargının en belirgin nedeni, yapay zeka sistemini eğitmek üzere kullanılan veri örneklerinde çeşitlilik olmamasıdır. Örneğin, parça değişimlerini öngörmek ve mal varlığı (asset) performansını optimize etmek için, yapay zeka algoritmaları aracılığıyla uçak motorlarından sensör verilerini rutin olarak çalıştırıyoruz.

Fakat yapay zeka ABD’den Avrupa’ya olan uçuşlar - soğuk Kuzey Yarımküre üzerinden uçmak- için eğitildiyse ve sonrasında Sahra altı Afrika’daki uçuşlar için kullanıldıysa, veri kümesinin eğitimli modelin parametrelerinin dışında kalacağını ve yanlış sonuçlar üreteceğini görmek kolaydır. Başka bir deyişle, algoritma sadece içinde bulunan veriler kadar akıllıdır.

Gerçek şu ki, yapay zeka sistemlerini eğitmek için kapsamlı veriler elde etmek zor olabilir. Bu nedenle, birçok sistem sadece kolay ve erişime hazır verileri kullanmakta. Bazen, yapay zeka algoritmasını tüm potansiyel kullanım durumları için eğitecek veriler mevcut olmayabilir.

Eğitmedeki önyargı ise aceleye gelmiş ve eksik eğitme algoritmalarından kaynaklanabilir. Örneğin, konuşmalar aracılığıyla öğrenmek ve zekileşmek üzere tasarlanan bir yapay zeka chatbotu, belirli bir şekilde eğitilmiş olmasaydı, maruz kaldığı politik olarak yanlış dili öğrenebilir ve kullanmaya başlayabilirdi - Microsoft’un Tay’dan öğrendiği gibi. Benzer şekilde, yapay zekanın ceza adalet sistemindeki potansiyel kullanımı yapay zeka algoritmaları eğitiminin doğru bir şekilde oluşturulduğunu bilmediğimiz için endişe uyandırıcı olabilir.

Çevik (agile) programlama, ürünlerin kısa süreli iteratif gelişiminde bizi eğitti. Bu yaklaşım, yapay zekanın vaatleriyle ortaya çıkan heyecanla birleştiğinde, hızla istenen kullanım durumlarının ötesine uzanan erken uygulamaları destekleyebilir. Sınırlı yapay zeka sağduyu veya adalet duygusunu kapsamadığı için, eğitimdeki önyargıyı ortadan kaldırmak çok fazla planlama ve tasarım çalışması gerektirir. İnsandan-makineye sürekliliğindeki döngüde insanın bu kadar önemli olmasının arkasında bu yatmaktadır. Alanlarındaki uzmanlar, modellerin buna uygun bir şekilde düşünülmesine ve eğitilmesine yardımcı olabilir.

Veri ve yetenek çeşitliliği önyargıyı hafifletebilir

Veri önyargısını önlemenin en iyi yolu, tüm olası kullanım durumlarını yansıtan kapsamlı ve geniş bir veri kümesi kullanmaktır. Eğer yetersiz bir şekilde temsil edilen veya orantısız dahili veri varsa, dış kaynaklar bu boşlukları doldurabilir ve makineye daha zengin ve daha eksiksiz bir resim sunabilir. Özetle, veri kümesi ne kadar kapsamlı olursa, yapay zeka tahminleri o kadar doğru olacaktır.

Yapay zeka ile çalışan ekiplerde çeşitlilik (diversity) eğitmedeki önyargıyı çözmektedir. Farklı beceriler, düşünüşler, yaklaşımlar ve geçmişlere sahip yeni ekip üyeleri edinmek, daha bütünsel bir tasarımı teşvik eder. En büyük öğrenimlerimizden bir tanesi, yapay zekanın, yapay zeka algoritmalarının çözeceği doğru soruları belirlemeye yardımcı olan farklı ekipler tarafından eğitilmesinin en iyisi olduğudur.

Örneğin, çeşitli ekipler, daha yüksek alım-satım (trading) geliri elde etmek üzere algoritmaları eğitmek için varlık yönetiminde çok terabaytlık operasyonel verileri kullandı. En belirgin yaklaşım, günlük tüccarlara (day traders) (genellikle bekar olan 30-35 yaşlarındaki beyaz erkekler) odaklanmaktı. Klasik veri mühendisleri ve nöral ağ uzmanlarının ötesinde bir dizi farklı üyesi olan ekiplerden biri, bu amaca yöneldi ve ayrıca 50-55 yaşlarındaki kadınları hedefleyen daha büyük bir fırsat belirledi. Bu da, yatırım yapılabilir yüksek bir mal varlığı segmentini ortaya çıkardı. Çeşitliliğe sahip (diverse) ekipler, başkalarının belki sormayı bile bilmediği soruları düşünüyor.

Yapay zeka önyargıyı en aza indirmeye yardımcı olur

Yapay zekaya dair önyargıların tehlikelerine ilişkin şimdiye kadar söylenen her şey hakkındaki gerçek şu: Doğru tasarım ve düşünceli kullanım ile yapay zekaya dair önyargıyı azaltmaya yardımcı olabiliriz. Aslında pek çok durumda yapay zeka, insan karar verme sürecinde mevcut olan önyargıyı en aza indirebilir. Örneğin, insan kaynakları işe alım fonksiyonlarında, iş tanımları, bilinçdışı gerçekleşen ayrımcılığı ortadan kaldırmak için yapay zeka programları aracılığıyla cinsiyet önyargıları içeren kelimelerin belirlenip elenmesiyle gözden geçirilebilir.

Özet olarak, uygun tasarım ve birkaç temel ilke, yapay zeka uygulamalarındaki istenmeyen önyargıları aza indirebilir. Doğru yönetim uygulamaları işin olmazsa olmazıdır. Veri kapsamı geniş olmalıdır ve çeşitliğe sahip ekipler daha iyi sonuçlar elde eder.

Kaynak: CIO Dergisi