Sorry, you need to enable JavaScript to visit this website.

KI in der Medizin: Wie divers agieren Algorithmen?

Mit Digitalen Gesundheitsanwendungen (DiGAs) werden Algorithmen stärker in die medizinische Entscheidungsfindung einbezogen werden. Die Herausforderung: die Algorithmen so zu programmieren, dass sie Geschlecht, Alter und Herkunft berücksichtigen und Menschen nicht schaden. Warum Genderfragen in der Digitalisierung eine große Rolle spielen und wie die Zukunft der Medizin aussehen sollte: ein Gespräch mit Dr. med. Christiane Groß, Präsidentin des Deutschen Ärztinnenbunds.

 

Foto: Jochen Rolfes

Frau Dr. Groß, eine These der Gendermedizin besagt, dass die Medizin seit Jahrhunderten die Gesundheit von Frauen gegenüber der der Männer systematisch vernachlässigt – welche Folgen hat das?

Dr. Groß: Es stimmt, Wissenschaft hat sich Jahrhunderte lang am Mann orientiert. Erst durch die Medikamentenforschung hat man begriffen, dass die Unterschiede zwischen Mann und Frau eine Rolle spielen. Entscheidend war unter anderem der Contergan-Skandal: Durch ihn wurde klar, dass man mit Wirkstoffen Embryos gefährden kann. Als Konsequenz hat man keine Frauen im fruchtbaren Alter mehr in Pharmastudien zugelassen. Die Forschung lief dann also nur noch mit dem sogenannten Norm-Mann. Anfang der 90er-Jahre hat die Pharmakologie dann als eines der ersten Fächer ganz klar dafür plädiert, dass Pharmaforschung auch an Frauen durchgeführt werden muss, um zu wissen, wie der weibliche Körper auf Medikamente reagiert.

Und, wie reagiert er?

Frauen haben einen anderen Stoffwechsel, Muskeln und Fett verteilen sich anders, Hormone wirken anders als bei Männern. Auf ein Medikament beispielweise, das sich im Fett verbreitet, wird der weibliche Körper nicht so reagieren wie der männliche, da der Wirkstoff im Fett länger erhalten bleibt. Frauen vertragen beispielsweise auch weniger Alkohol, weil ihre Leber anders arbeitet als die von Männern.

Was kann passieren, wenn solche Unterschiede von Mann und Frau in der Medizin nicht berücksichtigt werden?

Das Parade-Beispiel ist der Herzinfarkt. Jahrhundertelang haben wir gelernt: Schmerzen im linken Arm sind das charakteristische Symptom. Dann stellte man fest: Frauen haben andere Symptome, nämlich häufiger einfach nur Unwohlsein und Bauchschmerzen. Deswegen wurde der Herzinfarkt bei Frauen häufig übersehen – etwas, das heute zum Glück bei uns aus der Welt ist. Ein anderes Beispiel ist die Depression. Die Merkmale, die wir kennen, sind in den meisten Fällen die Symptome der Depression bei Frauen. Männer dagegen haben ganz oft Schmerzsymptome oder somatisieren. Da Männer über Jahre mit dieser Erkrankung nichts am Hut hatten, haben sich in der Medizin die Symptome der Frau etabliert. Diskriminierung durch Algorithmen kann also auch Männer treffen.

 

Das Algorithmenproblem

Lernende Systeme der Künstlichen Intelligenz ziehen aus den vorhandenen Daten Muster und leiten daraus Regeln ab. Die selbstlernenden Algorithmen reproduzieren also bisherige Lebenswelten und damit auch Ungleichheiten – wenn sie nicht entsprechend anders programmiert sind.

 

Inwiefern spielt das Thema bei digitalen Gesundheitsanwendungen eine Rolle?

Das Problem ist, dass wir nicht wissen, inwiefern das Bewusstsein für geschlechtsspezifische Unterschiede bei den Technikern und Entwicklern einer solchen App überhaupt vorhanden ist. Wenn wir schon in der analogen Welt nicht alle verinnerlicht haben, dass es diese Unterschiede bei der Symptomatik und der Behandlung von Männern und Frauen gibt, dann werden auch in Apps die Symptome so verarbeitet, wie sie in der analogen Welt fälschlicherweise bekannt sind – ohne das Bewusstsein, dass es diese Unterschiede gibt.

Das heißt, die Apps hinken analog zu ihren Entwicklern hinterher?

Genau. Eine schlechte Diagnose-App kennt - um bei den obigen Beispielen zu bleiben - den Herzinfarkt dann nur mit Schmerzen in der linken Schulter und Luftnot. Eine schlechte App weiß dann auch nicht, wie sich Depressionen auf körperlicher Ebene bei einem Mann äußern können. Hinzu kommt womöglich ein gravierender Unterschied in der Nutzung: Wie wirken die Aufmachung, die technische Umsetzung, das Handling einer App auf Frauen? Wie auf Männer? Wir wissen, dass Frauen anders angesprochen werden müssen als Männer, das kennen wir ja von der Werbepsychologie. Als Nächstes müsste man sich dann anschauen, ob die App selbst besser bei Männern oder Frauen funktioniert, da gibt es noch keinerlei Erfahrungswerte. Entscheidend ist, dass man ein Bewusstsein schafft dafür, dass es Unterschiede geben kann.

Wie weit ist man mit diesem Bewusstsein in den medizinischen Disziplinen selbst?

In der Kardiologie ist das Genderdenken inzwischen Standard. In der Pharmakologie auch. Aber es gibt viele Fächer, wo das noch nicht so ins Bewusstsein der Wissenschaftlerinnen und Wissenschaftler gedrungen ist und auch noch nicht in den aktuellen Lehrbüchern steht. Das wird sich ändern, denn das Genderdenken fließt mit in die neue Ausbildungsordnung, die Approbationsordnung ein, ebenso in die Weiterbildungsordnung, also die Zeit der fachlichen Qualifizierung. Aber es ist noch nicht flächendeckend da. Das hat auch damit zu tun, dass Gendermedizin über Jahrzehnte als „Frauenmedizin“ abgetan worden ist. Gendermedizin ist aber keine Frauenmedizin. Es ist Männermedizin und Frauenmedizin und – wenn Sie das weiterdenken – auch Kinder- und Altenmedizin. Wir müssen auch bedenken, wie Kinder oder alte Menschen mit Apps umgehen werden. Wir müssen das also tatsächlich personalisieren.

Wer im System achtet darauf, dass die DiGAs auf Mann und Frau passen?

Ich bin beispielsweise in einem Gremium der Bundesärztekammer, wo ich immer wieder darauf hinweise, dass Genderaspekte beachtet werden müssen. Ich glaube, dass das Bewusstsein der Genderunterschiede sogar im Moment einfacher zu übermitteln ist, weil ja jeder mitbekommen hat, dass die Corona-Erkrankung offensichtlich die Männer häufiger und schwerer trifft. Auch in der Pandemieforschung ist die Forderung nach Differenzierung groß. Es wird langsam immer mehr bewusst, dass „Gendermedizin“ eben nicht nur ein Frauenthema ist.

Die Mehrzahl der Medizinstudierenden ist seit Jahren weiblich, zwei Drittel der derzeit noch praktizierenden niedergelassenen Ärzte ist eher älter – wie wird sich die Medizin verändern?

Frauen und auch die Jungen haben die Genderaspekte mehr „auf dem Schirm“, mit der nächsten Generation wird ein riesiger Schritt gelingen. Allerdings stehen wir weiter vor einem Ungleichgewicht: In der Medizin haben wir zwar mehr Frauen, die studieren, aber in der IT arbeiten mehr Männer. Wenn diese kein Bewusstsein für das Thema haben, wie sollen sie es dann umsetzen? Es müsste vom Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM) gefordert werden, dass es eine geschlechtergerechte, zumindest geschlechtersensible Umsetzung bei den digitalen Gesundheitsanwendungen gibt. Dann müsste dann auch klar dokumentiert sein, dass Genderaspekte drin sind.

Wenn Sie eine Vision formulieren könnten, wie würde diese lauten?

Meine Vision: Genderaspekte werden beachtet – nicht nur bei digitalen Gesundheitsanwendungen, sondern generell. Das Denken wird viel mehr in Richtung personalisierte Medizin gehen: Mann, Frau, Kind, Alter, Schlanke, weniger Schlanke, … auch an ethnische Unterschiede muss gedacht werden. Beispielsweise vertragen einige Asiaten keinen Alkohol, weil ein Enzym zum Abbau fehlt. Algorithmen werden weiterentwickelt auf Grundlage der personalisierten Medizin, und es wird klar dokumentiert sein, was in die Algorithmen eingeflossen ist. Dann haben wir auch die Chance, solche digitalen Gesundheitsanwendungen vernünftig einzusetzen – als Unterstützung für uns Ärztinnen und Ärzte im Sinne einer guten Versorgung von unseren Patientinnen und Patienten.

Foto: metamorworks/shutterstock

Schliessen Kreuz Created with Sketch.

Regelmäßige Neuigkeiten aus dem Land der Gesundheit