Teknolojinin Adaleti Tehdit Ediyor

ABD'de polis, yapay zekalı yüz tanıma araçlarının güvenine dayanarak gerçekleşen gözaltı olaylarına karıştı. Yapay zeka teknolojisinin, siyah bireyleri yanlış yerde gözaltına almasına neden olduğu vurgulanıyor.

Halihazırda yetkililere dava açma hazırlığındaki Woodruff, Şubat ayında çocuklarını okula göndermeye hazırlandığı bir gün, Detroit polisi tarafından evinden alındığını belirtti.

Woodruff, New York Times'a yaptığı açıklamada, gözaltı sırasında hırsızlık ve araba çalma suçlamalarıyla karşı karşıya kaldığını, hamileliğinin son döneminde olduğu için karakolda rahatsızlandığını ve nezarette saatlerce bekletildiğini ifade etti.

Sonuç olarak Woodruff'un suçsuz olduğu anlaşıldı ve polis teşkilatının kullandığı yüz tanıma yazılımının onu yanıltarak haksız yere gözaltına aldığı ortaya çıktı.

Mahkeme belgelerine göre, Woodruff'un haksız gözaltına alınması, Detroit polisine benzin istasyonunun silahla soyulduğu ihbarının ardından gerçekleşti.

Polis, olaya karıştığı düşünülen bir kadının güvenlik kamerası görüntülerini inceledi ve bu kadının yüzünü DataWorks Plus adlı yüz tanıma aracına yükledi.

Yapay zeka yazılımı, aramayı tamamladığında Woodruff'un adını çıkardı. Üstelik, Woodruff'un sistemde kayıtlı fotoğrafının henüz 8 yaşındayken çekildiği ve yapay zekanın bu fotoğrafı kullanarak masum kadının adını verdiği ortaya çıktı.

Detroit yetkilileri, yapay zeka destekli yüz tanıma yazılımı nedeniyle haksız gözaltılara ilişkin üç ayrı dava ile karşı karşıya.

Uzmanlar, yapay zekanın kolluk kuvvetleri içinde yaygınlaşmasından bu yana, 6 siyah vatandaşın haksız yere gözaltına alındığını belirtiyor.

Amerikan Sivil Haklar Birliği'nin kıdemli avukatı Phil Mayor, "Kalitesiz teknoloji, kalitesiz soruşturmaları beraberinde getiriyor. Polisin yürüttüğü soruşturmaların ciddiyetine dair verdiği güvenceler güvenilir gelmiyor." şeklinde konuştu.