Система інтерпретації медичних діагностичних моделей на основі методів XAI

Abstract

Актуальність дослідження зумовлена необхідністю подолання проблеми «чорного ящика» у сучасних системах медичної діагностики. Широке впровадження алгоритмів глибокого навчання стримується відсутністю довіри з боку лікарів та жорсткими регуляторними вимогами щодо прозорості та пояснюваності рішень штучного інтелекту. Метою роботи є підвищення ефективності автоматизованої медичної діагностики шляхом розробки інформаційної системи інтерпретації рішень моделей машинного навчання, що базується на гібридному використанні методів XAI для мультимодальних даних. Об’єктом роботи є процеси інтерпретації медичних даних медичної діагностики на основі машинного навчання для аналізу табличних клінічних даних та рентгенографічних зображень. Предметом роботи є методи пояснюваного штучного інтелекту для інтерпретації медичних діагностичних моделей, їх програмна реалізація засобами Python, архітектурні рішення для інтеграції XAI–модулів у веборієнтовану діагностичну платформу, та метрики оцінки якості пояснень. Пояснювальна записка складається зі вступу, чотирьох розділів та висновків. У першому розділі проведено аналіз проблематики медичного ШІ, регуляторних вимог та існуючих методів пояснення. Другий розділ присвячено проєктуванню архітектури системи (XAI Orchestrator) та обґрунтуванню вибору алгоритмів. У третьому розділі описано програмну реалізацію системи засобами Python, PyTorch та Streamlit. Четвертий розділ містить результати експериментальних досліджень на наборах даних Breast Cancer Wisconsin та Chest X–Ray Images, а також аналіз клінічних кейсів. The relevance of the study is driven by the need to overcome the “black box” problem in modern medical diagnostic systems. The widespread implementation of deep learning algorithms is hindered by a lack of trust from clinicians and strict regulatory requirements regarding the transparency and explainability of artificial intelligence decisions. The aim of the study is to improve the efficiency of automated medical diagnostics by developing an information system for interpreting machine learning model decisions, based on the hybrid use of XAI methods for multimodal data. The object of the study is the processes of interpreting medical diagnostic data based on machine learning for the analysis of tabular clinical data and radiographic images. The subject of the study covers Explainable Artificial Intelligence (XAI) methods for interpreting medical diagnostic models, their software implementation using Python, architectural solutions for integrating XAI modules into a web–oriented diagnostic platform, and metrics for evaluating the quality of explanations. The explanatory note consists of an introduction, four chapters, and conclusions. The first chapter analyzes the issues of medical AI, regulatory requirements, and existing explanation methods. The second chapter focuses on designing the system architecture (XAI Orchestrator) and justifying the selection of algorithms. The third chapter describes the software implementation of the system using Python, PyTorch, and Streamlit. The fourth chapter contains the results of experimental studies on the Breast Cancer Wisconsin and Chest X–Ray Images datasets, as well as an analysis of clinical cases.