nach oben

Erschienen in:

05.02.2024 | Künstliche Intelligenz | Schwerpunkt: Digitale Pathologie

Erklärbare Künstliche Intelligenz in der Pathologie

verfasst von: Prof. Frederick Klauschen, Jonas Dippel, Dr. Philipp Keyl, Prof. Philipp Jurmeister, Prof. Michael Bockmayr, Dr. Dr. Andreas Mock, Dr. Oliver Buchstab, Dr. Maximilian Alber, Dr. Lukas Ruff, Prof. Grégoire Montavon, Prof. Klaus-Robert Müller

Erschienen in: Die Pathologie | Ausgabe 2/2024

Einloggen, um Zugang zu erhalten

Zusammenfassung

Mit den Entwicklungen der Präzisionsmedizin steigen die Anforderungen an die pathologische Diagnostik, histomorphologische und molekularpathologische Daten standardisiert, quantitativ und integriert zu beurteilen. Große Hoffnungen werden in Verfahren der Künstlichen Intelligenz (KI) gesetzt, die gezeigt haben, komplexe klinische, histologische und molekulare Daten zur Krankheitsklassifikation, Biomarkerquantifizierung und Prognoseabschätzung auswerten zu können. Diese Arbeit gibt einen Überblick über neueste Entwicklungen der KI in der Pathologie, diskutiert die Grenzen insbesondere hinsichtlich der Intransparenz der KI und beschreibt Lösungen, die Entscheidungsprozesse mit Verfahren der sog. erklärbaren KI („explainable AI“, XAI) transparenter zu gestalten.

Klauschen F, Dippel J, Keyl P et al (2024) Toward explainable artificial intelligence for precision pathology. Annu Rev Pathol Mech Dis 19:541–570CrossRef

Krizhevsky A, Sutskever I, Hinton GE (2012) Imagenet classification with deep convolutional neural networks. In: Bartlett PL, Pereira FCN, Burges CJC, Bottou L, Weinberger KQ (Hrsg) Advances in Neural Information Processing Systems 25, S 1106–1114

Ronneberger O, Fischer P, Brox T (2015) U‑net: Convolutional networks for biomedical image segmentation. In: Medical Image Computing and Computer-Assisted Intervention–MICCAI 2015: 18th International Conference, Munich, Germany, October 5–9, 2015, Proceedings, Part III 18. Springer, S 234–241

Ren S, Kaiming H, Ross B et al (2017) Faster R‑CNN: towards real-time object detection with region proposal networks. IEEE Trans Pattern Anal Mach Intell 39(6):1137–1149PubMedCrossRef

Brown TB, Mann B, Ryder N et al (2020) Language models are few-shot learners. In: NeurIPS

Jumper J, Evans R, Pritzel A et al (2021) Highly accurate protein structure prediction with AlphaFold. Nature 596(7873):583–589ADSPubMedPubMedCentralCrossRef

Unke OT, Chmiela S, Sauceda HE et al (2021) Machine learning force fields. Chem Rev 121(16):10142–10186PubMedPubMedCentralCrossRef

Litjens G, Kooi T, Ehteshami Bejnordi B et al (2017) A survey on deep learning in medical image analysis. Med Image Anal 42:60–88PubMedCrossRef

Lengauer T, Sander O, Saleta S et al (2007) Bioinformatics prediction of hiv coreceptor usage. Nat Biotechnol 25(12):1407–1410PubMedCrossRef

10.

Zhang Y, Weng Y, Lund J (2022) Applications of explainable artificial intelligence in diagnosis and surgery. Diagnostics 12(2):237PubMedPubMedCentralCrossRef

11.

Lapuschkin S, Waldchen S, Binder A et al (2019) Unmasking clever hans predictors and assessing what machines really learn. Nat Commun 10:1096

12.

Anders CJ, Weber L, Neumann D et al (2021) Finding and removing clever hans using explanation methods to debug and improve deep models. Inf Fusion 77:261–295CrossRef

13.

Keyl P, Bockmayr M, Heim D et al (2022) Patient-level proteomic network prediction by explainable artificial intelligence. NPJ Precis Oncol 6(1):35PubMedPubMedCentralCrossRef

14.

Binder A, Bockmayr M, Hagele M et al (2021) Morphological and molecular breast cancer profiling through explainable machine learning. Nat Mach Intell 3(4):355–366CrossRef

15.

Hagele M, Seegerer P, Lapuschkin S et al (2020) Resolving challenges in deep learning-based analyses of histopathological images using explanation methods. Sci Rep 10:6423

16.

Bach S, Binder A, Montavon G et al (2015) On pixel-wise explanations for non-linear classifier decisions by layer-wise relevance propagation. Plos One 10(7):e130140PubMedPubMedCentralCrossRef

17.

Kather JN, Pearson AT, Halama N et al (2019) Deep learning can predict microsatellite instability directly from histology in gastrointestinal cancer. Nat Med 25(7):1054–1056PubMedPubMedCentralCrossRef

18.

Moore LD, Le T, Fan G (2013) DNA methylation and its basic function. Neuropsychopharmacology 38(1):23–38PubMedCrossRef

19.

Kim M, Costello J (2017) DNA methylation: an epigenetic mark of cellular memory. Exp Mol Med 49(4):e322PubMedPubMedCentralCrossRef

20.

Pidsley R, Zotenko E, Peters TJ et al (2016) Critical evaluation of the Illumina MethylationEPIC BeadChip microarray for whole-genome DNA methylation profiling. Genome Biol 17(1):208PubMedPubMedCentralCrossRef

21.

Hovestadt V, Remke M, Kool M et al (2013) Robust molecular subgrouping and copy-number profiling of medulloblastoma from small amounts of archival tumour material using highdensity DNA methylation arrays. Acta Neuropathol 125(6):913–916PubMedPubMedCentralCrossRef

22.

Pajtler KW, Witt H, Sill M et al (2015) Molecular classification of ependymal tumors across All CNS compartments, histopathological grades, and age groups. Cancer Cell 27(5):728–743PubMedPubMedCentralCrossRef

23.

Sturm D, Orr BA, Toprak UH et al (2016) New brain tumor entities emerge from molecular classification of CNS-PNETs. Cell 164(5):1060–1072PubMedPubMedCentralCrossRef

24.

Bockmayr M, Harnisch K, Pohl LC et al (2022) Comprehensive profiling of myxopapillary ependymomas identifies a distinct molecular subtype with relapsing disease. Neuro Oncol 24(10):1689–1699PubMedPubMedCentralCrossRef

25.

Capper D, Jones DTW, Sill M et al (2018) DNA methylation-based classification of central nervous system tumours. Nature 555(7697):469–474ADSPubMedPubMedCentralCrossRef

26.

Louis DN, Wesseling P, Aldape K et al (2020) cIMPACT-NOW update 6: new entity and diagnostic principle recommendations of the cIMPACT-Utrecht meeting on future CNS tumor classification and grading. Brain Pathol 30(4):844–856PubMedPubMedCentralCrossRef

27.

Leitheiser M, Capper D, Seegerer P et al (2022) Machine learning models predict the primary sites of head and neck squamous cell carcinoma metastases based on DNA methylation. J Pathol 256:378–387PubMedCrossRef

28.

Jurmeister P, Bockmayr M, Seegerer P et al (2019) Machine learning analysis of DNA methylation profiles distinguishes primary lung squamous cell carcinomas from head and neck metastases. Sci Transl Med 11(509):eaaw8513PubMedCrossRef

29.

Jurmeister P, Gloß S, Roller R et al (2022) DNA methylation-based classification of sinonasal tumors. Nat Commun 13(1):7148ADSPubMedPubMedCentralCrossRef

30.

Chereda H, Bleckmann A, Menck K, Perera-Bel J et al (2021) Explaining decisions of graph convolutional neural networks: patient-specific molecular subnetworks responsible for metastasis prediction in breast cancer. Genome Med 13(1):42PubMedPubMedCentralCrossRef

31.

Pfeifer B, Baniecki H, Saranti A et al (2022) Multi-omics disease module detection with an explainable greedy decision forest. Sci Rep 12(1):16857ADSPubMedPubMedCentralCrossRef

32.

Schulte-Sasse R, Budach S, Hnisz D, Marsico A (2021) Integration of multiomics data with graph convolutional networks to identify new cancer genes and their associated molecular mechanisms. Nat Mach Intell 3(6):513–526CrossRef

33.

Bourgeais V, Zehraoui F, Hamdoune MB, Hanczar B (2021) Deep gonet: self-explainable deep neural network based on gene ontology for phenotype prediction from gene expression data. BMC Bioinform 22-S(455):10

34.

Delgado FM, G’omez-Vela F (2019) Computational methods for gene regulatory networks reconstruction and analysis: a review. Artif Intell Med 95:133–145PubMedCrossRef

35.

Fiers MWEJ, Minnoye L, Aibar S et al (2018) Mapping gene regulatory networks from single-cell omics data. Brief Funct Genomics 17(4):246–254PubMedPubMedCentralCrossRef

36.

Pratapa A, Jalihal AP, Law JN, Bharadwaj A, Murali TM (2020) Benchmarking algorithms for gene regulatory network inference from single-cell transcriptomic data. Nat Methods 17(2):147–154PubMedPubMedCentralCrossRef

37.

Rao VS, Srinivas K, Sujini GN, Kumar GN (2014) Protein-protein interaction detection: methods and analysis. Int J Proteomics 2014:147648

38.

Raatz M, Shah S, Chitadze G (2021) M. ggemann, A. Traulsen. The impact of phenotypic heterogeneity of tumour cells on treatment and relapse dynamics. PLoS Comput Biol 17(2):e1008702PubMedPubMedCentralCrossRef

39.

Marusyk A, Janiszewska M, Polyak K (2020) Intratumor heterogeneity: the rosetta stone of therapy resistance. Cancer Cell 37(4):471–484PubMedPubMedCentralCrossRef

40.

Huynh-Thu VA, Irrthum A, Wehenkel L, Geurts P (2010) Inferring regulatory networks from expression data using tree-based methods. Plos One 5(9)

41.

Keyl P, Bischoff P, Dernbach G et al (2023) Single-cell gene regulatory network prediction by explainable AI. Nucleic Acids Res

42.

Moerman T, Aibar SS, Bravo Gonzalez-Blas C et al (2019) GRNBoost2 and Arboreto: efficient and scalable inference of gene regulatory networks. Bioinformatics 35(12):2159–2161PubMedCrossRef

43.

Chen RJ, Lu MY, Williamson DFK et al (2022) Pan-cancer integrative histology-genomic analysis via multimodal deep learning. Cancer Cell 40(8):865–878PubMedPubMedCentralCrossRef

44.

Chen RJ, Lu MY, Weng W‑H et al (2021) Multimodal CoAttention transformer for survival prediction in gigapixel whole slide images

45.

Chen RJ, Lu MY, W J et al (2019) Pathomic fusion: An integrated framework for fusing histopathology and genomic features for cancer diagnosis and prognosis

46.

Subramanian A, Tamayo P, Mootha VK et al (2005) Gene set enrichment analysis: a knowledge-based approach for interpreting genome-wide expression profiles. Proc Natl Acad Sci USA 102(43):15545–15550ADSPubMedPubMedCentralCrossRef

47.

Tan K, Huang W, Liu X et al (2022) A multi-modal fusion framework based on multi-task correlation learning for cancer prognosis prediction. Artif Intell Med 126:102260PubMedCrossRef

48.

Boehm KM, Khosravi P, Vanguri R et al (2022) Harnessing multimodal data integration to advance precision oncology. Nat Rev Cancer 22(2):114–126PubMedCrossRef

49.

Lipkova J, Chen RJ, Chen B, Lu MY et al (2022) Artificial intelligence for multimodal data integration in oncology. Cancer Cell 40(10):1095–1110PubMedPubMedCentralCrossRef

50.

Chen Y, Wright EC, Lovett LN et al (2023) Human-centered design to address biases in artificial intelligence. J Med Internet Res 25:e43251PubMedPubMedCentralCrossRef

Titel: Erklärbare Künstliche Intelligenz in der Pathologie
verfasst von: Prof. Frederick Klauschen
Jonas Dippel
Dr. Philipp Keyl
Prof. Philipp Jurmeister
Prof. Michael Bockmayr
Dr. Dr. Andreas Mock
Dr. Oliver Buchstab
Dr. Maximilian Alber
Dr. Lukas Ruff
Prof. Grégoire Montavon
Prof. Klaus-Robert Müller
Publikationsdatum: 05.02.2024
Verlag: Springer Medizin
Schlagwörter: Künstliche Intelligenz
Pathologie
Biomarker
Erschienen in: Die Pathologie / Ausgabe 2/2024
Print ISSN: 2731-7188
Elektronische ISSN: 2731-7196
DOI: https://doi.org/10.1007/s00292-024-01308-7

Leitlinien kompakt für die Innere Medizin

Mit medbee Pocketcards sicher entscheiden.

^{Seit 2022 gehört die medbee GmbH zum Springer Medizin Verlag}

Kostenlos registrieren

Update Innere Medizin

Bestellen Sie unseren Fach-Newsletter und bleiben Sie gut informiert.

Newsletter bestellen

Live-Webinar "Urologie und Sexualmedizin in der Praxis"

Springer Medizin

Erklärbare Künstliche Intelligenz in der Pathologie

Zusammenfassung

Leitlinien kompakt für die Innere Medizin

Neu im Fachgebiet Innere Medizin

Erhebliches Risiko für Kehlkopfkrebs bei mäßiger Dysplasie

Nach Herzinfarkt mit Typ-1-Diabetes schlechtere Karten als mit Typ 2?

15% bedauern gewählte Blasenkrebs-Therapie

Costims – das nächste heiße Ding in der Krebstherapie?

Update Innere Medizin

Live-Webinar "Urologie und Sexualmedizin in der Praxis"

Springer Medizin

Zusammenfassung

Bitte loggen Sie sich ein, um Zugang zu diesem Inhalt zu erhalten

Weitere Artikel der Ausgabe 2/2024

Erratum zu: Molekulare Klassifikation des Endometriumkarzinoms – ein kurzer Überblick

Mitteilungen der Deutschen Gesellschaft für Pathologie

Auswirkungen vorgeschalteter Laborprozesse auf die Digitalisierung histologischer Schnittpräparate

Knochenmarkhistologie bei Zytopenien

Melaninbleiche – eine (fast) vergessene Technik

Digitalisierung der histopathologischen Routinediagnostik

Leitlinien kompakt für die Innere Medizin

Neu im Fachgebiet Innere Medizin

Erhebliches Risiko für Kehlkopfkrebs bei mäßiger Dysplasie

Nach Herzinfarkt mit Typ-1-Diabetes schlechtere Karten als mit Typ 2?

15% bedauern gewählte Blasenkrebs-Therapie

Costims – das nächste heiße Ding in der Krebstherapie?

Update Innere Medizin