Ana içeriğe geç

otomasyon yanlılığı

Bu entry’yi başlık içinde oku

Bir yaklaşım otomatik öneriyi tutarlı ve tarafsız bir ikinci görüş sayar; diğeri makinenin her çıktısını baştan kuşkuyla karşılar. Otomasyon yanlılığı, kişinin otomatik sistemin öneri, uyarı veya sınıflandırmasına gereğinden fazla ağırlık vererek çelişen bilgiyi aramaması ya da kendi değerlendirmesini erken bırakmasıdır. Sorun otomasyona güvenmek değil, güvenin hangi koşulda geri çekileceğinin belirsiz kalmasıdır. Zincir çoğu kez tek bir yanlış komutla kurulmaz. Sistem olağan görevlerde başarılı olur, operatörün denetim yükü azalır, istisnai bir durumda hatalı veya eksik çıktı üretir; zaman baskısı, arayüzün kesinlik izlenimi ve bağımsız bilgiye erişim güçlüğü bu çıktının doğrulanmadan uygulanmasına katkıda bulunur. Savunma katmanları yalnız ekrana bir uyarı daha koymak değildir: sistemin belirsizliğini görünür kılmak, kritik karar için bağımsız çapraz kontrol sağlamak, itiraz yetkisini uygulanabilir tutmak ve otomasyon devreden çıktığında elde kullanılacak beceriyi korumak gerekir. Yine de otomatik öneriyle aynı sonuca varmak tek başına yanlılık kanıtı değildir. İnceleme, karar anında hangi karşı işaretlerin erişilebilir olduğunu ve doğrulamanın fiilen mümkün olup olmadığını göstermelidir; sonuç bilgisi bu boşluğu dolduramaz.