İngiltere’de Ruh Sağlığı Sorunu Yaşayan Çocuklar Hâlâ Uzak Hastanelere Sevk Ediliyor
İngiltere’nin Sosyal Yardım Dolandırıcılığını Bulan Yapay Zeka Sisteminde Önyargı Tespit Edildi

Mina Kim/Reuters
İngiltere hükümeti, sosyal yardım dolandırıcılığını tespit etmek için kullanılan yapay zeka sisteminin bazı grupları yanlış hedef aldığına dair önemli eleştirilerle karşı karşıya. The Guardian’ın elde ettiği belgelere göre, yapay zeka sistemi, kişilerin yaşına, engellilik durumuna, medeni durumuna ve uyruğuna göre önyargı gösterebiliyor.
Sistem, dolandırıcılık riskini belirlerken bazı grupları diğerlerine oranla daha fazla incelemeye alıyor. Çalışma ve Emeklilik Bakanlığı’nın (DWP) yayımladığı bir rapora göre, bu önyargılar “istatistiksel olarak anlamlı eşitsizliklere” yol açıyor. Ancak bakanlık, bu sistemin nihai kararları almadığını ve insan denetiminin devrede olduğunu savunuyor.
Kampanyacılar: “Önce Zarar Ver, Sonra Düzelt” Yaklaşımı
Kamu Hukuku Projesi’nden Caroline Selman, yapay zeka sisteminin marjinal grupları haksız yere hedef alma riski taşıdığına dikkat çekerek DWP’yi eleştirdi. Selman, “Hükümet, önyargı potansiyelini analiz etmeden bu sistemleri kullanmayı bırakmalı,” dedi.
Şeffaflık Eksikliği Eleştiriliyor
Hükümetin yapay zeka kullanımına dair daha fazla bilgi paylaşmaktan kaçınması da tepki topluyor. Bilim ve Teknoloji Bakanı Peter Kyle, “Hükümet, yapay zeka algoritmalarının şeffaflığı konusunda yeterince ciddiyet göstermiyor,” diyerek eleştirilerini dile getirdi.
Gelecekte Daha Fazla Şeffaflık Bekleniyor
Sosyal yardım sisteminde yapay zekanın önyargı yaratması, kamu sektöründe teknolojinin etik kullanımı konusundaki tartışmaları artırdı. Uzmanlar, yapay zekanın ayrımcılığı önlemek için daha dikkatli tasarlanması gerektiğini vurguluyor. Hükümetin bu konuda atacağı adımlar, kamuoyunun merceği altında olmaya devam edecek.