Nachricht

Apr 14, 2024

„Oppenheimer“ und die Risiken von KI im Gesundheitswesen

Von Junaid NabiAug. 2, 2023 Alle großen Geschichten haben ein kompliziertes Ende. Das heißt aber nicht, dass sie keine einfachen und lehrreichen Lektionen anbieten können. Höhepunkte sind Christopher Nolans Hauptwerk „Oppenheimer“.

Von Junaid NabiAug. 2. 2023

Alle großen Geschichten haben ein kompliziertes Ende. Das heißt aber nicht, dass sie keine einfachen und lehrreichen Lektionen anbieten können. Christopher Nolans Hauptwerk „Oppenheimer“ beleuchtet die tragische Geschichte um den „Vater der Atombombe“. Aber es ist auch eine Geschichte darüber, wie die Vereinigten Staaten die Chance verpasst haben, weltweit führend bei der Entwicklung einer Innovation zu sein, die das 20. Jahrhundert prägen würde. Dieses Jahrhundert wird von transformativen Technologien – insbesondere künstlicher Intelligenz – geprägt sein, und die Geschichte von J. Robert Oppenheimer bietet besonders wichtige Lehren für Führungskräfte im Gesundheitswesen, Unternehmer und politische Entscheidungsträger.

Oppenheimers Ära war vom Wettlauf um die Atomkraft geprägt, während unsere Ära vom Wettbewerb in der Technologie der künstlichen Intelligenz geprägt ist. Beide Technologien sind mächtige Werkzeuge, die die Entwicklung der Menschheit verändern werden. Eine weitere beunruhigende Ähnlichkeit mit der Ära Oppenheimers besteht darin, dass politische Akteure, die ihre nationale Politik auf Innovationen ausrichten, sich offenbar nicht mit den Nuancen der Wissenschaft auseinandersetzen oder diese politisieren. Diese Politik macht es zunehmend schwieriger, konstruktive Gespräche über die Zukunft von Innovationen im Gesundheitswesen zu führen. Wir sehen dies bereits anhand der Fehlinformationen rund um die mRNA-Technologie und der anhaltenden Belästigung von Wissenschaftlern.

Werbung

Mittlerweile nutzen bereits mehr als ein Dutzend Gesundheitsunternehmen ChatGPT, einen von OpenAI entwickelten KI-gestützten Chatbot, für eine Vielzahl von Funktionen. Wir verstehen jedoch nicht vollständig, welche Konsequenzen die Integration dieser großen Sprachmodelle in Gesundheitsfunktionen hat. Überraschenderweise konzentrierten sich viele der laufenden Gespräche über KI-Politik und -Regulierung auf führende Unternehmen der Technologiebranche und nutzten nicht in vollem Umfang das Fachwissen von Führungskräften aus der Gesundheitsbranche, die über einzigartige Erkenntnisse über die Anwendung von KI im Gesundheitswesen und in der Medizin verfügen. Das erinnerte mich an eine eindringliche Szene im Film „Oppenheimer“, in der der titelgebende Wissenschaftler versucht, Präsident Truman von den Gefahren der Atomkraft zu überzeugen, doch seine Bedenken werden zurückgewiesen.

Die Aufmerksamkeit der Medien auf diese rasanten technologischen Entwicklungen und Bedenken hinsichtlich der Nutzung von Verbraucherdaten erhöhen auch den Handlungsdruck auf die Gesetzgeber. Letzte Woche gaben die republikanische Senatorin Lindsey Graham und die demokratische Senatorin Elizabeth Warren zu, dass „der Kongress zu langsam ist, ihm die technische Expertise fehlt“ und unterstrichen die Bedeutung der Schaffung einer überparteilichen Regulierungsbehörde durch den Digital Consumer Protection Commission Act. Die vorgeschlagene Idee scheint eher auf große Technologieunternehmen ausgerichtet zu sein, was die Frage verfehlt, warum diese Schutzmaßnahmen für KI-Anwendungen und -Bemühungen im Gesundheitswesen notwendig sind. Forschungsstudien verdeutlichen weiterhin, wie auf maschinellem Lernen basierende Tools zu einer unangemessenen medizinischen Versorgung führen können.

Ihre tägliche Dosis an Nachrichten aus Gesundheit und Medizin

Oppenheimers Geschichte veranschaulichte auch, wie es eine Diskrepanz zwischen den Zielen der Wissenschaft – wie Transparenz, Zusammenarbeit und Wahrheitssuche – und politischen Zielen gibt, die sich ständig ändern. Dies zu verstehen ist jetzt besonders dringend, da die Öffentlichkeit ständig darüber erfährt, wie KI Branchen, einschließlich des Gesundheitswesens, verändern wird.

Werbung

Mangelnde Klarheit darüber, wie sich diese Veränderungen auf die Patientenversorgung auswirken werden, kann jedoch zu einem Umfeld der Angst und des Misstrauens führen, das letztendlich Innovationen ersticken kann – denn Gesundheit ist viel persönlicher als die Wirtschaft. Führungskräfte im Gesundheitswesen, die diese Technologien zur Entwicklung digitaler Anwendungen nutzen, können eine wichtige Rolle als Wissenschaftskommunikatoren spielen, indem sie beispielsweise in ihren Kommunikationsmaterialien einen eigenen Abschnitt darüber einrichten, was Patienten von ihrer Technologie erwarten können.

Schließlich müssen wir unsere digitalen Innovationsbemühungen neu ausrichten, um Lücken in der Gesundheitsversorgung zu schließen, und Maßnahmen ergreifen, um gefährdete Bevölkerungsgruppen nicht noch weiter zu marginalisieren. Oppenheimers Geschichte erinnert auch an das Leid, das den hispanischen und indianischen Gemeinschaften in New Mexico während der Zeit des Trinity-Tests zugefügt wurde. Aktuelle Studien zeigen bereits, wie digitale Algorithmen bei der Entscheidungsfindung im Gesundheitswesen Ungleichheiten verschärfen können. Unternehmer und politische Entscheidungsträger im Bereich Gesundheitstechnologie müssen sicherstellen, dass alle notwendigen Strategien zur Vermeidung von Verzerrungen – einschließlich der Bereitstellung repräsentativer Datensätze für die Entwicklung digitaler Anwendungen – umgesetzt werden, um negative Folgen für unterversorgte Patienten zu vermeiden. Dies ist auch eine der effektivsten Möglichkeiten für digitale Gesundheitsunternehmen, Vertrauen aufzubauen.

Wir befinden uns an einem Wendepunkt bei der Anwendung dieser Technologien im Gesundheitswesen – nicht viel anders als Oppenheimers Geschichte bei der Anwendung der Atomkraft auf Waffen. Die damaligen politischen und wissenschaftlichen Führungskräfte waren sich der weitreichenden Auswirkungen nuklearer Innovationen nicht vollständig bewusst. Wir führen gerade ein ähnliches Gespräch. Einige Führungskräfte aus der Technologiebranche haben sich für eine Pause bei der weiteren Forschung und Entwicklung generativer KI ausgesprochen. Die Hauptprobleme dieses Ansatzes bestehen darin, dass er den Vereinigten Staaten weltweit einen Wettbewerbsnachteil verschafft und die grundlegenden Probleme, die sich aus der Integration dieser Technologie in verschiedene Anwendungen ergeben, nicht angeht. Eine wirksamere prophylaktische Strategie zur Linderung potenzieller schädlicher Auswirkungen bestünde darin, die richtigen Interessengruppen zusammenzubringen, Rahmenbedingungen zu entwickeln, um die Richtung dieser unglaublichen Technologie zu bestimmen, und globale Datenpartnerschaften zu schaffen, die die Standards für die zukünftige Nutzung dieser Tools festlegen.

Das Lernen aus historischen Fehleinschätzungen kann die notwendige Orientierung für die Gestaltung der nächsten Schritte geben. Wer Innovationen im Bereich KI für das Gesundheitswesen entwickeln möchte, sollte sich „Oppenheimer“ ansehen und sich Notizen machen.

Junaid Nabi ist Arzt und Gesundheitsstratege und Mitglied der Arbeitsgruppe zu regulatorischen Überlegungen für digitale Gesundheit und Innovation bei der Weltgesundheitsorganisation. Er ist New Voices Senior Fellow am Aspen Institute und Millennium Fellow am Atlantic Council.

Künstliche Intelligenz

Gesundheitstech

Spannende Neuigkeiten! STAT hat seinen Kommentarbereich in unsere nur für Abonnenten zugängliche App STAT+ Connect verschoben. Abonnieren Sie noch heute STAT+, um an der Diskussion teilzunehmen, oder besuchen Sie uns auf Twitter, Facebook, LinkedIn und Threads. Bleiben wir in Verbindung!

Um eine Korrekturanfrage einzureichen, besuchen Sie bitte unsere Seite „Kontakt“.