ALTIN 488,66
DOLAR 8,6580
EURO 10,1795
BIST 1.419
Adana Adıyaman Afyon Ağrı Aksaray Amasya Ankara Antalya Ardahan Artvin Aydın Balıkesir Bartın Batman Bayburt Bilecik Bingöl Bitlis Bolu Burdur Bursa Çanakkale Çankırı Çorum Denizli Diyarbakır Düzce Edirne Elazığ Erzincan Erzurum Eskişehir Gaziantep Giresun Gümüşhane Hakkari Hatay Iğdır Isparta İstanbul İzmir K.Maraş Karabük Karaman Kars Kastamonu Kayseri Kırıkkale Kırklareli Kırşehir Kilis Kocaeli Konya Kütahya Malatya Manisa Mardin Mersin Muğla Muş Nevşehir Niğde Ordu Osmaniye Rize Sakarya Samsun Siirt Sinop Sivas Şanlıurfa Şırnak Tekirdağ Tokat Trabzon Tunceli Uşak Van Yalova Yozgat Zonguldak
İstanbul 26 °C
Sağanak Yağışlı

Yüz tanıma teknolojisi dünya çapında yaygınlaştıkça, ırkların ana hatlarını çiziyor

07.12.2020
202
Yüz tanıma teknolojisi dünya çapında yaygınlaştıkça, ırkların ana hatlarını çiziyor

Çalışma, yüz tanıma teknolojisinde ırksal önyargı yaratanın ana hatlarını çiziyor. Yüz tanıma teknolojisi dünya çapında yaygınlaştıkça, ırklar arasındaki dengesizliğe daha fazla dikkat çekildi.

Dallas School of Behavioral and Brain Sciences’ta (BBS) Teksas Üniversitesi’nden araştırmacılar, 29 Eylül’de Biyometri, Davranış ve Kimlik Bilimi üzerine IEEE İşlemleri dergisinde çevrimiçi olarak yayınlanan bir çalışmada, yüzdeki bu açıklara katkıda bulunan temel faktörleri özetledi. Tanıma doğruluğu ve teknoloji geliştikçe algoritmaları değerlendirmek için bir kılavuz sunar.

BBS’de Aage ve Margareta Møller Profesörü olan Dr. Alice O’Toole, hem “derin hem de tatmin edici olmayan” olarak nitelendirdiği çalışmanın kıdemli yazarıdır çünkü bu, zorluğun boyutunu açıklığa kavuşturur.

“Herkes basit bir çözüm arıyor, ancak önyargıların gerçekleşebileceği bu farklı yolları ana hatlarıyla belirlememiz – hiçbiri birbirini dışlamıyor – bunu bir uyarı kağıdı yapıyor” dedi. “Bir algoritmayı düzeltmeye çalışıyorsanız, kaç farklı şeyin döndüğünün farkında olun.”

Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) tarafından geçen yıl yapılan bir çalışmada, hükümet kurumu yüz tanıma algoritmalarının çoğunun ırksal azınlıkları beyazlardan çok daha fazla yanlış tanımladığını buldu; Asyalılar, Siyahlar ve Yerli Amerikalılar özellikle risk altında. .

Araştırmalarının bir sonucu olarak, UT Dallas bilim adamları, yüz tanıma algoritmalarında ırksal önyargı için herkese uyan tek bir çözüm bulunmamakla birlikte, teknolojinin performansını artırabilecek özel yaklaşımlar olduğu sonucuna vardılar.

Yüz tanıma teknolojisi dünya çapında yaygınlaştıkça, ırkların ana hatlarını çiziyor 1
Yüz tanıma algoritmaları

Araştırmanın baş yazarı olan psikoloji bilimleri doktora öğrencisi Jacqueline Cavazos, önyargıya katkıda bulunan faktörleri iki kategoriye ayırdı: veriye dayalı ve operasyonel olarak tanımlanmış. İlki, algoritmanın performansını etkilerken, ikincisi kullanıcıdan kaynaklanır.

Cavazos, “Veriye dayalı faktörler, en yaygın teorik konulara odaklanıyor – eğitim görüntü havuzunun kendi içinde çarpık olduğu” dedi. “Kullanılan görüntüler grupları temsil ediyor mu? Eğitim görüntüleri ırklar arasında aynı kalitede mi? Yoksa algoritmaların yüz temsillerini hesaplamasında ırk grupları arasında farklı bir şey var mı?”

O’Toole, “Irksal önyargı için görüntü zorluğuyla ilgili tartışmamız nispeten yeni bir konu. Görüntü çiftlerinin ayırt edilmesinin daha zor hale geldikçe – kalite düştükçe – ırksal önyargının daha belirgin hale geldiğini gösteriyoruz. Bu daha önce gösterilmedi.”

Cavazos, eşleştirme ve uyuşmama kararları arasında eşiğin nerede ayarlandığına ve hangi tür eşleştirilmiş görüntülerin seçildiğine bağlı olarak operasyonel önyargının getirilebileceğini açıkladı.

Cavazos, “Makalemiz daha önce gösterilenleri doğruluyor: Aynı kimliğin ne olduğu ve farklı kimlikler için kriter belirlediğiniz yerde hata oranını etkileyebilir ve bazen aynı eşik size farklı ırklar için farklı hata oranları verecektir” dedi.

“İkinci olarak, bir algoritmayı test ettiğinizde, farklı kimliklere sahip görüntü çiftlerinin her zaman demografik bilgilerle eşleştirilmesi gerektiğinden emin olmanız gerekir; bu bize kimlik doğruluğunun yalnızca kimliğe dayandığını garanti eder.”

“İnsan katılımcılara iki görüntü gösterilir. Eşleşen demografiye sahip farklı insanlar – aynı ırk, aynı cinsiyet vb. Algoritmalar da bu kadar benzer çiftler halinde sunulmazsa, algoritma performansı gerçekte olduğundan daha iyi görünebilir çünkü makinenin görevi daha kolaydır.”

Çalışma yüz tanıma algoritmalarının kullanımında ırksal önyargının nasıl değerlendirilmesi gerektiğini ana hatlarıyla belirtirken, araştırmacılar soruna kolay bir çözüm olmadığını vurguluyor.

O’Toole, “Bu makalenin ilginç yanlarından biri, tüm bu faktörleri nasıl bir araya getirdiğidir,” dedi. “Daha önceki çalışmalar bireysel konulara odaklanmıştı. Ancak bu algoritmaları kullanmanın en iyi yolunu bilmek için hepsine bakmanız gerekiyor.”

O’Toole, araştırmalarının kullanıcıların hangi algoritmaların önyargı göstermesi gerektiğini ve bu önyargı için potansiyel olarak nasıl kalibre edeceklerini anlamalarına yardımcı olabileceğine inanıyor.

O’Toole, “Örneğin, bir algoritmanın performansını çeşitli şekillerde ölçebilirsiniz. Bir ölçü, algoritmanın yarış önyargılı olduğunu gösterirken bir diğeri olmayabilir. Dahası, algoritma sizin açıkça ölçmediğiniz bir şekilde önyargılı olabilir.” dedi.

Yüz tanıma teknolojisi dünya çapında yaygınlaştıkça, ırkların ana hatlarını çiziyor 2
Yüz tanıma algoritmaları

“Örneğin, bir ölçü, algoritmanın yanlış bir şekilde masum bir kişiyi suçlayıp suçlayamayacağının doğrudan göstergesi olabilir. Aynı kişi olduklarını belirtmek için makinede iki görüntüdeki insanların ne kadar benzer görünmesi gerektiğini belirlemeyi amaçlayabilir.”

“Ölçü, algoritmanın kaç tane doğru tanımlama yaptığına odaklanabilir. Bu ölçümler aynı algoritmadan yapılır, ancak bir durumda önyargıya ve diğer durumda adil performansa işaret ederek kolayca ayrışabilirler.”

O’Toole, alanındaki araştırmacıların hala yüz tanıma yanlılığı hakkında var olan efsanelerle savaştığını söyledi. Birincisi, önyargının makinelere özgü bir sorun olduğu düşüncesi.

“Makineleri pencereden atmak süreci adil hale getirmeyecek; insanlar algoritmaların yaptığı gibi aynı mücadeleleri yaşıyor” dedi.

Bir başka zorluk da, ırkın ya hep ya hiç tanımlayıcı olduğu algısının üstesinden gelmektir.

O’Toole, “Yarış kategorik olarak veya sınırlı bir yarış listesi varmış gibi görülmemelidir” dedi. “Gerçekte, biyolojik olarak ırk süreklidir, bu nedenle ‘ırk eşitliği’ diyebileceğinizi ve iki ırk için bir algoritma ayarlayabileceğinizi düşünmek mantıksız bir beklentidir. Bu, karışık ırktan insanları dezavantajlı hale getirebilir.”

Bilim adamları, yüz tanıma algoritmalarının nasıl kullanılacağını bildiklerinde yardımcı olma potansiyeline sahip olduğu konusunda hemfikir olsalar da – ve daha yeni algoritmalar ırksal önyargılara karşı önemli ilerleme sağladı – yapılacak daha çok iş olduğunu biliyorlar.

O’Toole, “Bu, bu algoritmaların şu anda olduğu gibi kullanılmaması gerektiği anlamına gelmiyor. Ancak dikkate alınması gereken faktörler var ve işlemin son derece dikkatli yapılması gerekiyor,” dedi.

“Sorunun karmaşıklığı hakkında o kadar çok şey öğrendik ki, her yüzü bir yüz tanıma algoritmasına eşit derecede zorlama sorununa asla bir çözüm olamayacağını kabul etmeliyiz .”

Referans: Jacqueline G. Cavazos ve ark. Yüz tanıma algoritmaları arasında doğruluk karşılaştırması: Irk önyargısını nerede ölçüyoruz? Biyometri, Davranış ve Kimlik Bilimi Üzerine IEEE İşlemleri (2020).
University of Texas at Dallas tarafından sağlanmıştır.

ZİYARETÇİ YORUMLARI - 0 YORUM

Henüz yorum yapılmamış.