IBM Yapay Zekanın Önyargılarını Tespit Edecek

Dünyanın en büyük bilişim teknolojisi şirketi IBM, algoritmaların verdiği kararların nasıl ve neden verildiğini anlık olarak analiz edebilecek bir araç geliştirdi.

IBM Yapay Zekanın Önyargılarını Tespit Edecek
IBM Yapay Zekanın Önyargılarını Tespit Edecek
+3
Haber albümü için resme tıklayın

Google'ın fotoğraf algoritmasının Afrika kökenli Amerikalıları "goril" olarak tanımlaması gibi örnekler, yakın gelecekte hayatın her alanında kullanılma ihtimali bulunan bu algoritmaların ne kadar önyargılı olduğunu tartışmaya açmıştı.

Fairness 360 (Adalet 360) adı verilen araç, yapay zekanın önyargılara sahip olup olmadığının belirtilerini tarayarak gerekli düzenlemeler konusunda önerilerde bulunacak.

Teknoloji devleri ve diğer şirketler tarafından kullanılan algoritmaların karar verme sürecinde her zaman adil olmadığına dair endişeler son dönemde artıyor.

Örneğin bazı yüz tanıma algoritmalarının beyaz yüzleri tanırken siyah yüzleri tanıyamadığı ortaya çıkmıştı.

Bu algoritmalar artık emniyet, sigorta veya internet içerikleri gibi pek çok alanda kullanıldığı için olası bir önyargının geniş etkileri olabilir.

Algoritmalar genellikle " kara kutu" mantığına göre işliyor, yani çalışma sürecinde algoritma sahipleri hangi kararın nasıl ve neden verildiğini göremiyor.

IBM'in bulut temelli yazılımı açık kaynaklı ve algoritma geliştirmek için yaygın olarak kullanılan platformlarla uyumlu olacak.

IBM'in arayüzünün bir örneği

Tüketiciler bir arayüz üzerinden algoritmaların nasıl karar verdiğini ve kararı verirken hangi faktörleri değerlendirdiğini görebilecek.

Algoritmanın hata oranı, performansı ve adilliği de incelenebilecek.

IBM'in Bilişsel Çözümler Birimi Başkan Yardımcısı David Kenny, "Yapay zeka kullanan ve hatalı bir kararın yaratacağı risklerle karşı karşıya olan şirketlere şeffaflık ve kontrol sağlıyoruz" diyor.

Google'ın geliştirdiği arayüzün kullanımına bir örnek olarak sunulan bu görselde gülen suratlar maviyle, gülmeyenler ise kırmızıyla işaretlenmiş

Diğer teknoloji şirketleri de aynı soruna benzer çözümler getirmek için çalışmalar yürütüyor.

Google geçen hafta duyurduğu bir araçla kullanıcıların makine öğrenimi modellerinin nasıl çalıştığını görmesine olanak sağlamıştı.

Fakat Google'ın geliştirdiği araç gerçek zamanlı değil. Bu araç verileri zaman içinde değerlendirerek genel bir tablo sunuyor.

Makine öğrenimi ve algoritmalarda önyargı, yapay zeka topluluğunun son dönemdeki önemli gündem maddelerinden birini oluşturuyor.

Microsoft ve Facebook da benzer önyargı tespit araçlar geliştirdiklerini açıklamışlardı.

Problemin bir kısmı, algoritmaların öğrenmesi için sunulan verilerin yeterli çeşitliliğe sahip olmamasından kaynaklanıyor.

Bilgisayarının yalnızca beyaz bir maske taktığında yüzünü tanıyabildiğini fark eden Massachusetts Institute of Technology öğrencisi Joy Buolamwini , 2016'da Algoritmik Adalet Birliği (AJL) adlı bir örgüt kurmuştu.

Google, 2015 yılında fotoğraf algoritmasının Afrika kökenli Amerikalıları "goril" olarak tanımlamasının ardından, "dehşete kapıldıklarını ve içten bir şekilde özür dilediklerini" söylemişti.

2017'de de Liberty adlı insan hakları örgütü İngiltere'de polislerin, suça karışanların cezaevinde tutulup tutulmayacağına dair artan bir oranda algoritma kullanmaya başladığını, bu algoritmanın da sadece insanların yaşı, cinsiyeti ve adresini temel aldığı konusunda bir uyarı yayınlamıştı.

Joy Buolamwini yüzünü tanıyamayan bilgisayarının beyaz bir maske taktığında yüzünü tanıdığını ortaya çıkarmıştı

Dünya Ekonomik Forumu'ndan Kay Firt-Butterfield, yapay zeka ve etik üzerine tartışmaların yoğunlaşmakta olduğunu söylüyor:

"Bir hukukçu olarak, algoritmaların yanlış kararlarını ortaya çıkarma yöntemleri hakkında yapılan tartışmaları gerçekten ilgi çekici buluyorum.

"Önyargıdan bahsederken ilk endişelendiğimiz konu bu algoritmaları yaratanların çoğunun genç beyaz insanlar, genelde de erkekler olması. Bu yüzden Batı'da endüstriyi daha çeşitli hale getirmemiz gerekiyor."

# TEKNOLOJİ İLE İLİŞKİLİ:

22 Eyl 2018 - 13:07 - Bilgisayar Dünyası --- Okunma


göndermek için kutuyu işaretleyin

Yorum yazarak OKU HABER Topluluk Kuralları’nı kabul etmiş bulunuyor ve yorumunuzla ilgili doğrudan veya dolaylı tüm sorumluluğu tek başınıza üstleniyorsunuz. Yazılan yorumlardan OKU HABER hiçbir şekilde sorumlu tutulamaz.

Anadolu Ajansı (AA), İhlas Haber Ajansı (İHA), Demirören Haber Ajansı (DHA) tarafından servis edilen tüm haberler OKU HABER editörlerinin hiçbir editöryel müdahalesi olmadan, ajans kanallarından geldiği şekliyle yayınlanmaktadır. Sitemize ajanslar üzerinden aktarılan haberlerin hukuki muhatabı OKU HABER değil haberi geçen ajanstır.




Anket Erken seçim olsa hangi adaya oy vermeyi düşünürsünüz?