Cancer Innovation最新研究 | 解释性人工智能在乳腺癌检测和风险预测中的应用

英文题目：

Explainable artificial intelligence in breast cancer detection and risk prediction: A systematic scoping review

中文题目：

解释性人工智能在乳腺癌检测和风险预测中的应用

随着人工智能（AI）技术的进步，数据驱动的算法在医学领域变得越来越流行。然而，由于许多算法的非线性和复杂性，临床医生对这些算法的决策过程缺乏信任，认为其为“黑箱”过程。因此，科学界提出了解释性人工智能（XAI）以解决这一问题。本研究旨在系统性地回顾XAI在乳腺癌检测和风险预测中的应用。

本研究通过对2017年至2023年间的相关文献进行系统搜索，最终纳入了30项符合条件的研究。本研究发现，XAI方法在乳腺癌的检测和风险预测中具有重要的应用潜力。XAI的应用提高了AI驱动的健康系统和医疗设备的透明度、可解释性、公平性和可信度，最终改善了护理质量和患者结果。通过提供对模型决策过程的理解，XAI能够帮助临床医生更好地验证和信任AI的预测，从而在乳腺癌的早期检测和治疗中发挥重要作用。

本研究结果显示，SHapley Additive exPlanations（SHAP）是乳腺癌研究中使用最广泛的模型无关XAI技术，主要用于解释模型预测结果、诊断和分类生物标志物，以及预后和生存分析。此外，SHAP模型主要解释基于树的集成机器学习模型，因其模型无关性使其在解释任何模型预测时都非常受欢迎。本研究还发现，Grad-CAM和CAM是最常用的模型特定XAI方法，在图像处理任务中有着一定的适用性。

本研究同时提出，尽管XAI方法在临床应用中具有潜力，但仍需进一步验证其结果的可靠性和有效性，以增强临床医生对AI系统的信任。此外，未来的研究应关注XAI方法的改进，以应对复杂的多模态临床数据挑战，确保其在癌症护理中的广泛应用。