STK'lerden yapay zeka uyarısı

İngiltere İçişleri Bakanlığı, mülteci başvurularını değerlendirmek için yapay zeka destekli yeni bir sistem geliştirdi. "Göçmenlik Başvurularını Belirleme ve Önceleme (IPIC)" adlı bu sistem, sığınmacıların kimlik, adli sicil, ırk, din ve sağlık bilgilerini dikkate alarak başvuruların kabul edilip edilmeyeceğine ve hangi kişilerin sınır dışı edileceğine karar verecek.

Adaletsizlik ve gizlilik endişeleri

STK'ler, sistemin adaletsiz sonuçlar doğurabileceği ve kişisel verilerin gizliliğini ihlal edebileceği konusunda uyarıda bulundu. Privacy International, IPIC’nin bazı başvuruları İçişleri Bakanlığı memurları tarafından incelenmeden onaylayabileceği riskine dikkat çekti. Göçmen Hakları Ağı da, sistemin önyargılı olma ihtimali ve mahremiyet ihlalleri konusunda endişeli.

Hızlı ama şeffaf olmayan kararlar

Oxford Üniversitesi’nden uzmanlar, yapay zeka sisteminin karar sürecini hızlandırabileceğini ancak şeffaflık eksikliği giderilmezse adaletsiz uygulamalara yol açabileceğini ifade etti.