kamu kurumlarında yapay zekâ kullanımını kimin onayladığını, hangi verinin işlendiğini ve sonuçların nasıl denetlendiğini belirleyen çerçeveye kamu yapay zekâ yönetişimi denebilir. smart cities dive'ın aktardığı userevidence anketinde eyalet ve yerel yönetim bilişim çalışanlarının beşte birinden azı kurumunda resmî bir çerçeve bulunduğunu söylemiş. kullanım yayılırken denetim düzeni kimin masasından geçiyor? anketin tüm kamu kurumlarını temsil edip etmediği bu aktarımda belli değil.
kamu yapay zekâ yönetişiminde sorumluluk, modeli satın alan birimin adını yazmakla bitmiyor. sistem yanlış sınıflandırdığında yurttaşın itiraz edeceği kişi, kararın hangi sürüm ve veriyle üretildiği, insanın ne zaman devreye gireceği belli olmalı. model güncellendiğinde eski kararların yeniden incelenmesi de yeni bir iş yükü doğurur. bu işi kimin, hangi süre içinde yapacağı yazılmadıysa kurumda çerçeve varmış gibi görünür; hesap yine ekrana bakan çalışana kalır. model güncellendiğinde eski kararları kim yeniden tarayacak?
kamuda yapay zekâ kullanılan bir kararın denetimi, modelin doğru çalışıp çalışmadığını test etmekten ibaret değil; veride kimlerin görünmediği, hatalı kararın nasıl düzeltileceği ve kurumun sağlayıcıya ne kadar bağımlı olduğu da izlenmeli. ihale dosyasında yalnız lisans ve performans koşulları yazılıp kayıtların saklanması tarif edilmezse, model kapandığında ya da güncellendiğinde eski kararı açıklayacak arşiv kimde kalır?
kamuda yapay zekâ için ilk soru modelin adı değil, karar zincirindeki görevi olmalı. belge aramaya yardım eden araçla yurttaş başvurularını sıralayan sistem aynı etkiyi yaratmaz; ikincisi hizmete erişim sırasını daha baştan değiştirebilir. kurum envanteri model adının yanına hangi işlemi, kimi ve hangi aşamada etkilediğini de yazmalı.
kamuda yapay zekâ yönetişimi, sistemin nerede denendiğini ve hangi koşulda kapsamının genişletileceğini de kapsar. yalnızca belirli başvurularda yardımcı olan bir araç, zamanla sıralama ya da uygunluk kararını veren sisteme dönüşebilir; bu geçişin onayı, sınırı ve etkilenen kişiye bildirimi kayda girmediyse geçici pilot sessizce hizmet kuralı olur.