KI-Experten diskutieren darüber, wie robuste KI in das Gesundheitswesen integriert werden kann, warum interdisziplinäre Zusammenarbeit entscheidend ist und welches Potenzial generative KI in der Forschung birgt.
Feifei Li und Lloyd Minor hielten am 14. Mai die Eröffnungsreden beim ersten RAISE Health Symposium an der Stanford University School of Medicine. Steve Fish
Die meisten Menschen, die von künstlicher Intelligenz beeinflusst wurden, hatten einen Aha-Moment, der ihnen eine Welt voller Möglichkeiten eröffnete. Auf dem ersten RAISE Health Symposium am 14. Mai teilte Lloyd Minor, MD, Dekan der Stanford University School of Medicine und Vizepräsident für medizinische Angelegenheiten an der Stanford University, seine Sichtweise mit.
Als ein neugieriger Teenager gebeten wurde, seine Erkenntnisse über das Innenohr zusammenzufassen, wandte er sich generativer künstlicher Intelligenz zu. „Ich fragte: ‚Was ist das Dehiszenzsyndrom des oberen Bogengangs?‘“, erklärte Minor den fast 4.000 Teilnehmern des Symposiums. Innerhalb weniger Sekunden erschienen mehrere Absätze.
„Sie sind gut, wirklich gut“, sagte er. „Dass diese Informationen in einer prägnanten, im Allgemeinen korrekten und klar priorisierten Beschreibung der Krankheit zusammengefasst wurden, ist bemerkenswert.“
Viele teilten Minors Begeisterung für die halbtägige Veranstaltung, die aus der RAISE Health-Initiative hervorgegangen war. Dieses Projekt der Stanford University School of Medicine und des Stanford Institute for Human-Centered Artificial Intelligence (HAI) hat sich zum Ziel gesetzt, den verantwortungsvollen Einsatz von künstlicher Intelligenz in der biomedizinischen Forschung, Ausbildung und Patientenversorgung zu fördern. Die Referenten erörterten, was es bedeutet, künstliche Intelligenz in der Medizin so einzusetzen, dass sie nicht nur für Ärzte und Wissenschaftler nützlich, sondern auch transparent, fair und gerecht für Patienten ist.
„Wir glauben, dass diese Technologie die menschlichen Fähigkeiten erweitert“, sagte Fei-Fei Li, Professorin für Informatik an der Stanford School of Engineering, Leiterin des Projekts RAISE Health with Minor und Co-Leiterin von HAI. Generation für Generation könnten neue Technologien entstehen: von neuen Molekülsequenzen von Antibiotika über die Kartierung der Biodiversität bis hin zur Entschlüsselung verborgener Aspekte der Grundlagenbiologie – KI beschleunigt den wissenschaftlichen Fortschritt. Doch nicht alles davon ist vorteilhaft. „Alle diese Anwendungen können unbeabsichtigte Folgen haben, und wir brauchen Informatiker, die [künstliche Intelligenz] verantwortungsvoll entwickeln und implementieren und dabei mit verschiedenen Interessengruppen zusammenarbeiten – von Ärzten und Ethikern bis hin zu Sicherheitsexperten und darüber hinaus“, sagte sie. „Initiativen wie RAISE Health unterstreichen unser Engagement dafür.“
Die Zusammenlegung der drei Abteilungen von Stanford Medicine – der Medizinischen Fakultät, Stanford Health Care und der Stanford University School of Child Health Medicine – und ihre Verbindungen zu anderen Teilen der Stanford University haben dazu geführt, dass sich Experten mit der Entwicklung künstlicher Intelligenz sowie mit Management- und Integrationsfragen im Gesundheitswesen und in der Medizin auseinandersetzen. Medizin, so hieß es im Lied.
„Wir sind bestens aufgestellt, um eine Vorreiterrolle bei der Entwicklung und dem verantwortungsvollen Einsatz künstlicher Intelligenz einzunehmen – von grundlegenden biologischen Entdeckungen über die Verbesserung der Arzneimittelentwicklung und die Effizienzsteigerung klinischer Studienprozesse bis hin zur eigentlichen Erbringung von Gesundheitsdienstleistungen. Die Art und Weise, wie das Gesundheitssystem aufgebaut ist“, sagte er.
Mehrere Redner betonten ein einfaches Konzept: Der Fokus muss auf dem Nutzer (in diesem Fall dem Patienten oder Arzt) liegen, dann ergibt sich alles Weitere von selbst. „Dadurch steht der Patient im Mittelpunkt all unseres Handelns“, sagte Dr. Lisa Lehmann, Leiterin der Bioethik am Brigham and Women’s Hospital. „Wir müssen seine Bedürfnisse und Prioritäten berücksichtigen.“
Von links nach rechts: Mohana Ravindranath, Nachrichtensprecherin von STAT News; Jessica Peter Lee von Microsoft Research; Sylvia Plevritis, Professorin für biomedizinische Datenwissenschaft, spricht über die Rolle künstlicher Intelligenz in der medizinischen Forschung. Steve Fish
Die Redner des Panels, darunter Lehmann, die medizinische Bioethikerin Mildred Cho von der Stanford University und der Chief Clinical Officer von Google, Michael Howell, wiesen auf die Komplexität von Krankenhaussystemen hin und betonten, wie wichtig es sei, deren Zweck vor jeder Intervention zu verstehen. Es gelte, diese Systeme umzusetzen und sicherzustellen, dass sie inklusiv sind und die Bedürfnisse der Menschen berücksichtigen, denen sie helfen sollen.
Ein Schlüsselfaktor ist Transparenz: Sie macht deutlich, woher die zum Trainieren des Algorithmus verwendeten Daten stammen, was der ursprüngliche Zweck des Algorithmus ist und ob zukünftige Patientendaten dem Algorithmus weiterhin beim Lernen helfen werden, neben anderen Faktoren.
„Der Versuch, ethische Probleme vorherzusehen, bevor sie sich verschärfen, bedeutet, den optimalen Punkt zu finden, an dem man genügend über die Technologie weiß, um Vertrauen in sie zu haben, aber nicht bevor sich das Problem weiter ausbreitet, und es frühzeitig zu lösen“, sagte Denton Char, Doktorand der Medizinischen Wissenschaften und außerordentlicher Professor am Institut für Pädiatrische Anästhesiologie, Perioperative Medizin und Schmerzmedizin. Ein wichtiger Schritt sei, so Char, alle potenziell von der Technologie betroffenen Interessengruppen zu identifizieren und herauszufinden, wie diese selbst die damit verbundenen Fragen beantworten möchten.
Jesse Ehrenfeld, MD, Präsident der American Medical Association, erörtert vier Faktoren, die die Akzeptanz digitaler Gesundheitstools, einschließlich solcher mit künstlicher Intelligenz, beeinflussen: Ist es effektiv? Funktioniert es in meiner Einrichtung? Wer trägt die Kosten? Wer ist verantwortlich?
Dr. Michael Pfeffer, Chief Information Officer von Stanford Health Care, nannte ein aktuelles Beispiel, in dem viele der Probleme mit Pflegekräften an Stanford-Krankenhäusern getestet wurden. Kliniker werden durch umfangreiche Sprachmodelle unterstützt, die eingehende Patientennachrichten mit ersten Anmerkungen versehen. Obwohl das Projekt nicht perfekt ist, berichten Ärzte, die an der Entwicklung der Technologie beteiligt waren, dass das Modell ihre Arbeitsbelastung verringert.
„Wir konzentrieren uns stets auf drei wichtige Aspekte: Sicherheit, Effizienz und Inklusion. Wir sind Ärzte. Wir haben den Eid geschworen, keinen Schaden anzurichten“, sagte Dr. Nina Vasan, klinische Assistenzprofessorin für Psychiatrie und Verhaltenswissenschaften, die sich Char und Pfeffer der Gruppe anschloss. „Dies sollte der erste Weg sein, diese Instrumente zu evaluieren.“
Nigam Shah, MBBS, Ph.D., Professor für Medizin und Biomedizinische Datenwissenschaft, eröffnete die Diskussion mit einer schockierenden Statistik, obwohl er das Publikum zuvor ausdrücklich gewarnt hatte. „Ich spreche in allgemeinen Begriffen und mit Zahlen, und manchmal sind diese sehr direkt“, sagte er.
Laut Shah hängt der Erfolg von KI von unserer Fähigkeit ab, sie zu skalieren. „Die Durchführung fundierter wissenschaftlicher Forschung an einem Modell dauert etwa zehn Jahre. Wollte jedes der 123 Stipendien- und Weiterbildungsprogramme das Modell mit dieser Strenge testen und einsetzen, wäre es mit unserer derzeitigen Organisation und Testweise sehr schwierig, die korrekte wissenschaftliche Arbeit zu leisten. Es würde 138 Milliarden Dollar kosten, sicherzustellen, dass alle unsere Standorte einwandfrei funktionieren“, sagte Shah. „Das können wir uns nicht leisten. Wir müssen also einen Weg finden, zu expandieren, und wir müssen expandieren und dabei gleichzeitig gute Wissenschaft betreiben. Die Kompetenzen für die wissenschaftliche Strenge sind an einem Ort vorhanden, die Kompetenzen für die Skalierung an einem anderen. Daher benötigen wir diese Art von Partnerschaft.“
Die stellvertretende Dekanin Yuan Ashley und Mildred Cho (Empfang) nahmen am RAISE Health Workshop teil. Steve Fish
Einige Redner auf dem Symposium sagten, dies könne durch öffentlich-private Partnerschaften erreicht werden, wie beispielsweise durch die jüngste Exekutivverordnung des Weißen Hauses zur sicheren und vertrauenswürdigen Entwicklung und Nutzung künstlicher Intelligenz und das Konsortium für Künstliche Intelligenz im Gesundheitswesen (CHAI).
„Die öffentlich-private Partnerschaft mit dem größten Potenzial ist die zwischen Hochschulen, der Privatwirtschaft und dem öffentlichen Sektor“, sagte Laura Adams, leitende Beraterin der Nationalen Akademie der Medizin. Sie merkte an, dass die Regierung das Vertrauen der Öffentlichkeit sichern, akademische medizinische Zentren Legitimität gewährleisten und die Privatwirtschaft technisches Know-how und Rechenzeit bereitstellen könne. „Wir alle sind besser als jeder Einzelne, und das ist uns bewusst … wir können das Potenzial der künstlichen Intelligenz nicht einfach ausschöpfen, solange wir nicht verstehen, wie wir miteinander interagieren.“
Mehrere Redner betonten, dass KI auch Auswirkungen auf die Forschung habe, sei es, dass Wissenschaftler sie nutzen, um biologische Dogmen zu erforschen, neue Sequenzen und Strukturen synthetischer Moleküle vorherzusagen, um neue Behandlungsmethoden zu unterstützen, oder sogar, um wissenschaftliche Arbeiten zusammenzufassen oder zu verfassen.
„Dies ist eine Chance, das Unbekannte zu entdecken“, sagte Dr. Jessica Mega, Kardiologin an der Stanford University School of Medicine und Mitbegründerin von Verily, einem Tochterunternehmen von Alphabet. Mega erwähnte die Hyperspektralbildgebung, die Bildmerkmale erfasst, die für das menschliche Auge unsichtbar sind. Die Idee ist, mithilfe künstlicher Intelligenz Muster in pathologischen Präparaten zu erkennen, die auf Krankheiten hinweisen und für Menschen nicht sichtbar sind. „Ich ermutige alle, sich dem Unbekannten zu öffnen. Ich denke, jeder hier kennt jemanden mit einer Erkrankung, der etwas benötigt, das über unsere heutigen Möglichkeiten hinausgeht“, sagte Mejia.
Die Diskussionsteilnehmer waren sich auch einig, dass Systeme der künstlichen Intelligenz neue Wege bieten werden, um voreingenommene Entscheidungsfindung zu erkennen und zu bekämpfen, unabhängig davon, ob sie von Menschen oder künstlicher Intelligenz getroffen wird, und dass sie die Fähigkeit besitzen, die Quelle der Voreingenommenheit zu identifizieren.
„Gesundheit ist mehr als nur medizinische Versorgung“, stimmten mehrere Podiumsteilnehmer überein. Die Redner betonten, dass Forscher soziale Determinanten der Gesundheit, wie sozioökonomischen Status, Wohnort, Bildungsniveau sowie ethnische Zugehörigkeit und Herkunft, bei der Erhebung umfassender Daten und der Rekrutierung von Studienteilnehmern oft vernachlässigen. „KI ist nur so effektiv wie die Daten, mit denen das Modell trainiert wird“, sagte Michelle Williams, Professorin für Epidemiologie an der Harvard University und außerordentliche Professorin für Epidemiologie und Bevölkerungsgesundheit an der Stanford University School of Medicine. „Wenn wir unsere Ziele erreichen wollen – die Verbesserung der Gesundheitsversorgung und die Beseitigung von Ungleichheiten –, müssen wir sicherstellen, dass wir qualitativ hochwertige Daten über menschliches Verhalten sowie die soziale und natürliche Umwelt erheben.“
Natalie Pageler, MD, klinische Professorin für Pädiatrie und Medizin, sagte, dass aggregierte Krebsdaten oft Daten über schwangere Frauen ausschließen, was unweigerlich zu Verzerrungen in den Modellen führt und bestehende Ungleichheiten in der Gesundheitsversorgung verschärft.
Dr. David Magnus, Professor für Pädiatrie und Medizin, erklärte, dass künstliche Intelligenz wie jede neue Technologie vieles verbessern oder verschlechtern kann. Das Risiko bestehe laut Magnus darin, dass KI-Systeme ungleiche Gesundheitsergebnisse, die durch soziale Determinanten der Gesundheit bedingt sind, erkennen und diese durch ihre Ergebnisse verstärken. „Künstliche Intelligenz ist ein Spiegel, der die Gesellschaft, in der wir leben, reflektiert“, sagte er. „Ich hoffe, dass jede Gelegenheit, ein Problem zu beleuchten – uns selbst einen Spiegel vorzuhalten –, uns dazu anspornt, die Situation zu verbessern.“
Falls Sie nicht am RAISE Health Workshop teilnehmen konnten, finden Sie hier eine Aufzeichnung der Veranstaltung.
Die Stanford University School of Medicine ist ein integriertes akademisches Gesundheitssystem, bestehend aus der Stanford University School of Medicine und den Versorgungseinrichtungen für Erwachsene und Kinder. Gemeinsam schöpfen sie das volle Potenzial der Biomedizin durch kollaborative Forschung, Lehre und klinische Patientenversorgung aus. Weitere Informationen finden Sie unter med.stanford.edu.
Ein neues Modell künstlicher Intelligenz hilft Ärzten und Pflegekräften im Stanford Hospital dabei, die Patientenversorgung zu verbessern.
Veröffentlichungsdatum: 19. Juli 2024