Yüz Tanıma Teknolojisi Senatörleri Yanlış Suçlu Olarak Tanımladı

Gelişen yüz tanıma sistemleri günlük hayatımıza girmeye devam ederken, Amerikan Sivil Özgürlükler Birliği’nin (ACLU) yaptığı bir test teknolojinin hâlâ ciddi hatalar yapabileceğini ortaya koydu.

Amazon’un Yüz Tanıma Sistemi Test Edildi

Amazon’un geliştirdiği yüz tanıma sistemi, bazı Amerikan polis birimlerinde kullanılmaya başlanmıştı. Sistem, suçluları tespit etme amacıyla tasarlanmış olsa da, ACLU’nun yaptığı testte ciddi hatalar tespit edildi. Birlik, sistemin doğruluğunu ölçmek için Amerikan Senatosu üyeleri üzerinde denemeler yaptı.

Senatörler Hatalı Şekilde Sabıkalı Olarak Tanımlandı

Yapılan testlerde, yüz tanıma sistemi 535 Senatörü taradı ve elindeki suçlu veri tabanıyla karşılaştırdı. Test sonucunda, aslında hiçbir senatör suçlu listesinde yer almamasına rağmen, 28 senatör sistem tarafından sabıkalı olarak eşleştirildi. Bu durum, yüz tanıma algoritmalarının hâlâ yanılgıya açık olduğunu gösteriyor.

Hataların Özellikle Siyahi Senatörlerde Yoğunlaşması Endişe Yaratıyor

Amazon yetkilileri, ACLU’nun hata değerlendirmesini eleştirerek sistemin doğru çalışması için yüzde 95 ve üzeri eşleşme oranı gerektiğini belirtti. Ancak, hataların belirli demografik gruplarda, özellikle siyahi senatörlerde yoğunlaşması, teknolojiye dair ciddi etik ve adalet endişelerini gündeme taşıyor.

Ucuz Ama Hatalı Sistem

Polis teşkilatları bu sistemi kullanmaya devam ederken, aylık 12 Dolar gibi düşük bir ücret ödedikleri belirtiliyor. Bu durum, yüksek teknolojiye sahip bir yazılımın bu kadar ucuz olmasının, doğruluk ve güvenilirlik açısından soru işaretleri yaratabileceğini gösteriyor.

Yüz Tanıma Sistemlerinin Geleceği

Bu skandal, yüz tanıma teknolojilerinin hâlâ geliştirilme aşamasında olduğunu ve özellikle hassas alanlarda dikkatle uygulanması gerektiğini ortaya koyuyor. Uzmanlar, algoritmaların eğitildiği veri setlerinin çeşitliliğinin artırılmasının ve etik standartların belirlenmesinin kritik olduğunu vurguluyor.