Bir yaklaşım otomatik öneriyi tutarlı ve tarafsız bir ikinci görüş sayar; diğeri makinenin her çıktısını baştan kuşkuyla karşılar. Otomasyon yanlılığı, kişinin otomatik sistemin öneri, uyarı veya sınıflandırmasına gereğinden fazla ağırlık vererek çelişen bilgiyi aramaması ya da kendi değerlendirmesini erken bırakmasıdır. Sorun otomasyona güvenmek değil, güvenin hangi koşulda geri çekileceğinin belirsiz kalmasıdır.
Zincir çoğu kez tek bir yanlış komutla kurulmaz. Sistem olağan görevlerde başarılı olur, operatörün denetim yükü azalır, istisnai bir durumda hatalı veya eksik çıktı üretir; zaman baskısı, arayüzün kesinlik izlenimi ve bağımsız bilgiye erişim güçlüğü bu çıktının doğrulanmadan uygulanmasına katkıda bulunur. Savunma katmanları yalnız ekrana bir uyarı daha koymak değildir: sistemin belirsizliğini görünür kılmak, kritik karar için bağımsız çapraz kontrol sağlamak, itiraz yetkisini uygulanabilir tutmak ve otomasyon devreden çıktığında elde kullanılacak beceriyi korumak gerekir.
Yine de otomatik öneriyle aynı sonuca varmak tek başına yanlılık kanıtı değildir. İnceleme, karar anında hangi karşı işaretlerin erişilebilir olduğunu ve doğrulamanın fiilen mümkün olup olmadığını göstermelidir; sonuç bilgisi bu boşluğu dolduramaz.
3 entry
otomasyon yanlılığı
Otomasyon yanlılığı, bir kişinin otomatik sistemin önerisini, uyarısını veya çıktısını çelişen başka işaretlere rağmen gereğinden fazla doğru kabul etme eğilimidir; sorun aracın kullanılması değil, insan denetiminin yalnız onay düğmesine dönüşmesidir.
İyi otomasyon iş yükünü azaltabilir; buna karşılık denetim yalnız otomatik çıktıyı onaylamaya dönüşürse hata daha geç görünür. Otomasyon yanlılığında olay zinciri, sistem önerisinin önceki başarılar veya arayüzün kesin dili nedeniyle yüksek güven kazanmasıyla başlar; çelişen işaret yeterince taranmaz, bağımsız kontrol atlanır ve karar otomatik çıktının çevresinde daralır. İki sonuç mümkündür: operatör doğru bir öneriyi verimli biçimde kullanmış olabilir ya da yanlış öneriyi uygulamış, sistem uyarı vermediği için gerekli eylemi de atlamış olabilir. Kötü sonuç tek başına yanlılığı kanıtlamaz; karar anındaki göstergeler, iş yükü, eğitim, zaman baskısı ve bağımsız doğrulama olanağı incelenmelidir. Savunma katmanları açıklanabilir gerekçe, belirgin güven düzeyi, erişilebilir ham veri, örneklenmiş manuel kontrol ve otomasyonla çelişmeyi cezalandırmayan yetki düzenidir. İnsan denetimi ancak itiraz edebildiği kadar denetimdir.