şirketlerde yapay zekâ yönetişimi, modellerin hangi işte ve hangi verilerle kullanılacağını, kararın kim tarafından denetleneceğini, hata çıktığında da müdahale yolunu belirleyen kurallar bütünü. KPMG Türkiye ile Etik ve İtibar Derneği araştırmasında katılımcıların yüzde 64’ü yönetişim çerçevesini belirsiz veya etik gündemi oluşmamış gördüğünü, yüzde 62’si önümüzdeki 12-24 ayda uyum teknolojilerine daha fazla yatırım planladığını belirtmiş. bunlar araştırmaya katılan kurumların beyanı.
yapay zekâ yönetişiminde asıl mesele modelin ne kadar parlak olduğu değil, hata yaptığında kimin frene basacağı; yoksa şirket etiği pdf formatında vitrin olur.
şirketlerde yapay zekâ yönetişiminde takvim de işin parçası: veri seti, erişim yetkisi ya da kullanım amacı değiştiğinde eski onay hâlâ geçerli sayılıyor mu? modelin kendisinden çok çevresi değişiyor.
yapay zekâ yönetişiminde modelin iç performansı kadar kurumun ona bağladığı veri akışı da izlenmeli. bir sağlayıcı modeli güncellediğinde aynı adla sunulan hizmetin hata biçimi değişebilir; sürüm, değişiklik tarihi ve kullanılan veri kümesi kaydedilmiyorsa hangi sonucun hangi sistemden çıktığı sonradan ayırt edilemez.
yapay zekâ yönetişiminde satın alma anı kadar çıkış planı da yazılmalı. sağlayıcı değiştiğinde verinin, karar kayıtlarının ve insan denetimine dönecek iş akışının nasıl taşınacağı belli değilse kurum modele değil, sessiz bir bağımlılığa bağlanır. hata sonrası geri alma, hizmet kesintisinde yedek süreç ve sorumlunun kim olduğu önceden sınanmalı. (bkz: tedarikçi kilidi)
yapay zekâ bir insanın başvurusunu, terfisini ya da erişimini etkiliyorsa yönetişim planına itiraz ve düzeltme yolu da yazılmalı. kişi hangi verinin kullanıldığını ve hatalı sonucu nereye taşıyacağını bilmiyorsa, kayıt tutmak sorunu yalnızca daha düzenli saklar.
yapay zekâ vardiya planını veya performans puanını etkilediğinde, itirazı incelemek için ayrılan ücretli süre de işin parçasıdır; bu süre ve kararı değiştirme yetkisi yoksa insan denetimi mesai sonuna bırakılır.