题目：A Dempster-Shafer Approach to Trustworthy AI With Application to Fetal Brain MRI Segmentation

基于Dempster-Shafer方法的可信AI在胎儿脑MRI分割中的应用

作者：Lucas Fidon; Michael Aertsen; Florian Kofler; Andrea Bink; Anna L. David; Thomas Deprest; Doaa Emam; Frédéric Guffens; András Jakab; Gregor Kasprian; Patric Kienast; Andrew Melbourne; Bjoern Menze; Nada Mufti; Ivana Pogledic; Daniela Prayer; Marlene Stuempflen; Esther Van Elslander; Sébastien Ourselin; Jan Deprest; Tom Vercauteren

摘要

用于医学图像分割的深度学习模型在病理病例和与训练图像不同中心获取的图像上可能会出乎意料地出现严重失败，产生违反专家知识的标注错误。这些错误削弱了深度学习模型在医学图像分割中的可信度。检测和纠正这些错误的机制对于将这项技术安全地转化到临床至关重要，并可能成为未来人工智能（AI）法规的要求。在这项工作中，我们提出了一个可信AI的理论框架和一个基于Dempster-Shafer理论的实际系统，该系统可以增强任何主干AI系统，使用后备方法和故障保护机制。我们的方法依赖于可信AI的可操作