İngiltere suç öngören yapay zeka sistemini kapattı

İngiltere’de suçları önceden tahmin etmek ve kırılgan durumdaki vatandaşları tespit etmek amacıyla devreye alınan “Think Family” adlı yapay zeka sisteminin temel modelleri güvenilirlik ve doğruluk sorunları nedeniyle sessizce devre dışı bırakıldı. Yapılan bağımsız incelemeler, sistemin bazı modellerinin doğruluk oranının yüzde 10’un altında kaldığını ortaya koydu.

İngiltere’de emniyet birimlerinin suçları önceden tahmin etmek ve kırılgan durumdaki vatandaşları tespit etmek amacıyla kullandığı “Think Family” adlı yapay zeka sisteminin en önemli modellerinden vazgeçildiği bildirildi.

Wired dergisinin Social Finance tarafından hazırlanan bir inceleme raporuna dayandırdığı haberine göre, sistem bünyesindeki birkaç yapay zeka modeli, Bristol şehri yetkililerinin sisteme güvenilemeyeceğine karar vermesinin ardından sessizce devre dışı bırakıldı.

Haberde, 2016 yılında faaliyete geçen ve çok çeşitli gizli bilgileri bünyesinde barındıran sistemin, devlet denetçileri ve bağımsız uzmanlar tarafından şeffaflık eksikliği gerekçesiyle eleştirildiği kaydedildi.

Uzmanlar, programın bazı modellerindeki bu şeffaflık dışı yapının kamuoyunun güvenini sarsabileceği yönünde uyarılarda bulunmuştu.

Sistemde kullanılan modellerden biri, çocuk istismarını tespit etmeye odaklanan CSE modeliydi.

Çocuk koruma vakfı Barnardo’s, programın geliştiricilerine cinsel istismara maruz kalmış 100 çocuğa ait anonimleştirilmiş veriler sağlamıştı.

Sistem, bu verilerden hareketle benzer özellikler taşıyan diğer çocukları tespit etmeyi hedefliyordu.

Wired’ın aktardığı değerlendirmelerde, Think Family sisteminin emniyet güçleri için yararlı olabileceği ve “olaylara daha zamanında müdahale edilmesini sağlayabileceği” belirtilmekle birlikte, Social Finance raporu yapay zeka modellerinin projenin “en zayıf halkası” olduğunu ortaya koydu.

İncelemede, modellerdeki doğruluk payının son derece yetersiz olduğu vurgulandı.

Social Finance uzmanları, risk değerlendirmesi yapan yapay zeka modellerini kendi testlerinden geçirmek istediklerinde ise kullanılabilir durumda hiçbir veri bulamadı.

İngiliz devlet kurumlarının hiçbirinin, bu modellerin neden ve ne zaman kapatıldığına dair resmi bir kayıt tutmadığı belirlendi.

Bağımsız denetim şirketi Eticas tarafından yapılan bir başka araştırma ise Think Family modellerinin çoğunun çok düşük doğruluk oranlarıyla çalıştığını gösterdi.

Bu durum, “risk altında” olarak tanımlanan kişilerin büyük bir kısmının yanlış teşhis edildiği anlamına geliyor.

İncelemede, soygun gerçekleştirebilecek kişileri tahmin etmek üzere tasarlanan bir modelin, yıllar boyunca yüzde 10’un altında bir doğruluk oranıyla çalıştığı tespit edildi.

Yaşanan başarısızlıklara ve sisteme yönelik eleştirilere rağmen, Birleşik Krallık hükümetinin İngiltere ve Galler’deki tüm emniyet müdürlüklerinde yapay zeka entegrasyonunu sağlamak üzere 75 milyon sterlin bütçeli “PoliceAI” adlı yeni bir proje başlattığı bildirildi.

Projenin yönetiminde, bölgesel düzeyde başarısızlıkla sonuçlanan önceki yapay zeka sistemini de destekleyen Avon ve Somerset eski Emniyet Müdürü Andy Marsh yer alıyor.

Daha önce konuya ilişkin değerlendirmede bulunan İngiliz siber istihbarat teşkilatı GCHQ’nun Direktörü Anne Keast-Butler, yapay zeka dahil olmak üzere teknolojik değişim hızının yüksekliğine işaret ederek, “altımızdaki toprağın kaydığını” ve Birleşik Krallık ile müttefiklerinin küresel rekabette liderliği koruma mücadelesiyle karşı karşıya olduğunu ifade etmişti.