Neuer Leitfaden der WHO zum Einsatz großer KI-Modelle
Die Weltgesundheitsorganisation (WHO) hat neue Richtlinien zum Einsatz großer KI-Modelle im Gesundheitswesen veröffentlicht. Die steigende Verwendung multimodaler KI-Modelle in wissenschaftlicher Forschung, öffentlichem Gesundheitswesen und der Pharmaindustrie erfordert laut WHO ein „sicheres und wirksames“ Engagement aller Beteiligten.
Die WHO fordert ein Engagement von Regierungen, Technologieunternehmen, Gesundheitsdienstleistern, Patienten und der Zivilgesellschaft für den sicheren Einsatz von KI im Gesundheitswesen. Dies schließt die frühzeitige Einbeziehung verschiedener Interessengruppen in den Entwicklungsprozess von KI-Modellen ein. Entscheidungen in der Entwicklung berücksichtigen häufig mehrere Parteien, darunter Entwickler, Technologieunternehmen, Universitäten und nationale Gesundheitssysteme.
Das Finetuning von KI-Modellen und die Integration von Large Multi-modal Models (LMMs) in bestehende Software oder Hardware-Komponenten erfordern die Beteiligung verschiedener Anbieter. Erst kürzlich verwies das Bundesamt für Sicherheit in der Informationstechnik auf die Herausforderungen der Cybersicherheit bei KI und hat Richtlinien dazu veröffentlicht. Die WHO betont deshalb die Notwendigkeit von Transparenz, da es für Endverbraucher zunehmend schwierig wird, Verantwortlichkeiten nachzuvollziehen.
Die aktuellen Richtlinien bauen auf den bereits 2021 von der WHO veröffentlichten Leitlinien zur Ethik und Governance im Einsatz von KI im Gesundheitswesen auf. Experten wurden zu Vorteilen und Risiken von KI-Modellen befragt, wobei mögliche Auswirkungen auf den Arbeitsmarkt, die Überschätzung der Systeme, KI-Bias, Halluzinationen und offene Fragen zur Datenqualität und Cybersicherheit als Risiken identifiziert wurden.
Leitfaden für verantwortungsvollen Einsatz von LMMs
Der mehr als 70 Seiten umfassende Leitfaden der WHO enthält über 40 Empfehlungen für Regierungen, Technologieunternehmen und Gesundheitsdienstleister. Der Fokus liegt auf einem „verantwortungsvollen Einsatz von LMMs zur Förderung und dem Schutz der öffentlichen Gesundheit“. Im Mittelpunkt stehen dabei Anwendungen für Ärztinnen und Ärzte sowie für Patientinnen und Patienten zur Diagnose, Büro- und Verwaltungsaufgaben, medizinische Ausbildung, pflegerische Aufgaben sowie wissenschaftliche Forschung und Arzneimittelentwicklung.
Die Richtlinien von 2021 umfassen sechs Grundsätze, darunter der Schutz der Autonomie, Förderung des Wohlbefindens der Menschen, Transparenz und Erklärbarkeit der KI, Verantwortung aus rechtlicher Sicht, Inklusivität und Gerechtigkeit sowie reaktionsfähige und nachhaltige KI. Die WHO spricht sich für eine weltweite Zusammenarbeit von Regierungen aus, um KI-Systeme zu regulieren, was bereits durch die KI-Verordnung in Europa angestrebt wird. Beim AI Safety Summit haben sich bereits 30 Staaten darauf geeinigt, beim Einsatz von KI besser zu kooperieren.
Link zum Leitfaden: https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf
Originalartikel:
Healthcare Digital
Chiara Maurer
https://www.healthcare-digital.de/neuer-leitfaden-der-who-zum-einsatz-grosser-ki-modelle-a-0f7c454fd3d92f4f86440a1e5de16827/?cmp=nl-443&uuid=f006f30e51b2ce35c8130342ebeeea94