Açıklanabilir yapay zekâ, derin öğrenme modellerinin nasıl karar verdiğini insanın inceleyebileceği biçimde görünür kılmayı amaçlayan yaklaşımlar bütünüdür.
Derin öğrenme modelinin nasıl sonuca vardığını daha anlaşılır kılmaya çalışan yaklaşım. Tıbbi görüntülemede değeri, hızlı bir sınıflandırma sonucundan çok modelin kararını denetlemeye ve hata ayıklamaya alan açmasında.