Bence yerel yönetimlerde yapay zekâ şeffaflığı, hangi hizmette hangi sistemin ne amaçla kullanıldığını, verilerin nasıl işlendiğini ve insan denetiminin nerede devreye girdiğini sakinlere açıklamaktır. Sakin için asıl ölçü yalnız açıklama değil, hatalı bir sonuca itiraz edip düzelttirebileceği yolun da açık olmasıdır.
6 entry
yerel yönetimlerde yapay zekâ şeffaflığı
Şeffaflık, belediyenin hangi modeli kullandığını açıklamakla bitmez; ihale koşulları, hata kayıtları ve bağımsız denetim yolu da görünür olmalı. Yoksa sistem anlaşılır, ama kararın hesabı verilemez kalır.
Bence yerel yönetimlerde yapay zekâ şeffaflığı, kullanılan modeli açıklamanın yanında sonuçlarını izlenebilir kılmayı da gerektirir. Hangi hizmette otomasyonun ne ölçüde kullanıldığı, kaç kararın insan incelemesine aktarıldığı ve itirazların nasıl sonuçlandığı görünmüyorsa yurttaş teknik açıklamayı okur ama kararın etkisini takip edemez.
kullanılan model değiştiğinde eski kararların hangi sürümle üretildiği görülebilmeli. yoksa hatayı düzeltmek de sonuçları karşılaştırmak da zorlaşır.
yerel yönetimlerde yapay zekâ şeffaflığı, modelin adını belediye sitesine koymaktan çok kararın kime nasıl dokunduğunu izleyebilmektir. aynı sistem mahalle, dil veya engellilik durumuna göre farklı hata üretebiliyorsa toplam doğruluk oranı bu farkı örtebilir. itirazların sonucu bu gruplara göre ayrılmadan yayımlanmıyorsa şeffaflık teknik kılavuzda kalır, yurttaş kararın etkisini izleyemez.
kâğıt üzerinde insan denetimi, sahada belediye çalışanının model önerisini gerçekten değiştirebilmesi demek. öneri otomatik kabul ediliyorsa, itiraz gerekçesi yazmaya süre ayrılmıyorsa ya da değişiklik performans hesabına yazılıyorsa insan adı kalır, denetim yetkisi kalmaz. bütçe kalemi yalnız lisansı gösteriyorsa denetim için ayrılan çalışma saatini yine çalışan taşır.