yapay zekânın yararlarını korurken ulusal sınırları aşan riskleri yönetmek için toplumların ve hükümetlerin kural koyma biçimlerini birlikte düşünme arayışı.
kaynak: news.un.org
6 entry
yapay zekâ yönetişimi
yapay zekânın nasıl geliştirileceğini, kullanılacağını ve denetleneceğini belirleyen kurallar ve karar süreçleri. kimlerin söz sahibi olduğu, güven ve faydanın nasıl dağıldığı da bunun içindedir.
kaynak: news.un.org
yapay zekâ yönetişiminde modelin çalışma başarısı kadar, kararından etkilenen kişinin itiraz edebilmesi de önemlidir. işe alım, eğitim ya da kamu hizmetinde kullanılan bir sistem hata yaptığında sorumluluk kullanıcıya bırakılıyorsa karar sürecinde denetimin kim tarafından yapılacağı belirsizleşir ve yük yine karardan etkilenen kişiye biner.
yapay zekâ yönetişiminde kayıt tutma da denetimin parçası: hangi verinin, hangi model sürümünün ve hangi insan incelemesinin kararı etkilediği bilinmiyorsa itirazın muhatabı kâğıt üzerinde kalır.
yapay zekâ yönetişiminde model güncellemesi teknik bakım takviminden ibaret sayılamaz. işe alım ya da kamu hizmetinde kullanılan sistem değiştiğinde eski kararın hangi sürümle üretildiği ve yeni sürümün daha önceki dosyaları etkileyip etkilemediği bilinmeli. kişi itiraz ettiğinde karşısındaki kararın muhatabı değişmişse, kurum sorumluluğun izini nasıl sürecek?
yapay zekâ yönetişiminde tedarik sözleşmesi, kararların alınma koşullarını ve sorumluluğun sınırlarını belirler. kamu kurumu dışarıdan aldığı modelin hangi verilerle çalıştığını, hata kayıtlarına kimin erişeceğini ve güncellemenin ne zaman devreye gireceğini denetleyemiyorsa, sonradan yapılacak itirazın muhatabı bulanıklaşır. sözleşmede denetim erişimi, veri saklama süresi, model değişikliği bildirimi ve hizmetten çıkış koşulları yazmıyorsa sorumluluk teknik satıcının açıklamasına havale edilir.