Der Gesundheitsbericht von RFK Jr. zeigt, wie KI gefälschte Studien in die Forschung einfließen lässt

Die Autoren des vom Gesundheits- und Sozialminister Robert F. Kennedy Jr. herausgegebenen Berichts „Make America Healthy Again“ bezeichneten ihn als eine bahnbrechende Bewertung, die eine gemeinsame wissenschaftliche Grundlage für die Gestaltung der Gesundheitspolitik biete.

Aber diese wissenschaftliche Grundlage schien Fehler zu enthalten, die wahrscheinlich von einem Schuldigen verursacht wurden: der generativen künstlichen Intelligenz.

Mindestens sieben Zitate des Berichts waren als NOTUS problematisch  zuerst berichtet . Vier enthielten Titel von Artikeln, die nicht existieren, und drei stellten die Ergebnisse der Artikel falsch dar.

Auf die Frage nach dem Bericht antwortete die Pressesprecherin des Weißen Hauses, Karoline Leavitt  die Fehler zugeschrieben  zu Formatierungsproblemen, die den Inhalt des Berichts nicht beeinträchtigen. Auf die Frage, ob bei der Erstellung des Berichts KI eingesetzt wurde, verwies Leavitt an das Gesundheits- und Sozialministerium.

Der MAHA-Bericht wurde inzwischen online aktualisiert. (Hier ist die  archivierte Version .) PolitiFact wandte sich an das Gesundheits- und Sozialministerium, erhielt jedoch keine Antwort.

billy ray cyrus vermögen

KI-Modelle werden darauf trainiert, die von Menschen verwendete Sprache nachzuahmen, indem sie ein Wort nach dem anderen in einer Sequenz vorhersagen. Obwohl es KI-Chatbots wie ChatGPT oft gelingt, Texte zu erstellen, die sich so lesen, als ob sie von einem Menschen geschrieben worden wären, stellen sie oft nicht sicher, dass das, was sie sagen, sachlich ist.

Bei den falschen Zitaten handelte es sich um korrekt formatierte seriöse Fachzeitschriften, die realistisch klingende digitale Objektkennungen oder DOIs enthielten.

Aber die Tatsache, dass mehrere zitierte Artikel nicht existierten, sei ein Kennzeichen von KI-generierten Zitaten, die oft die Struktur akademischer Referenzen nachbilden, ohne auf tatsächliche Quellen zu verweisen, sagte Oren Etzioni, emeritierter Professor der University of Washington und KI-Forscher.

PolitiFact sprach mit Forschern aus den Bereichen künstliche Intelligenz und Neurowissenschaften über die KI-bezogenen Warnsignale des Berichts.

asia macey

Fehler zeigen Anzeichen einer KI-Halluzination

Forscher sagten, das Vorhandensein gefälschter Artikel sei wahrscheinlich das Ergebnis von KI-Halluzinationen oder Ergebnissen, die plausibel klingen, aber nicht real sind.

KI schreitet schnell voran, ist aber immer noch anfällig für Halluzinationen. Wenn generative KI-Modelle aufgefordert werden, akademische Referenzen zu generieren, erfinden sie oft etwas, wenn sie keine exakten Übereinstimmungen finden, insbesondere wenn sie aufgefordert werden, einen bestimmten Punkt zu unterstützen, sagte Etzioni.

Steven Piantadosi, Professor für Psychologie und Neurowissenschaften an der University of California in Berkeley, der das Rechen- und Sprachlabor leitet, sagte, KI-Modelle hätten keine Möglichkeit zu wissen, was wahr ist oder was als Beweis gilt.

Alles, was sie tun, ist, statistische Muster im Text abzugleichen, sagte er. Es ist interessant und wichtig, dass sie dies sehr gut können, aber statistische Abhängigkeiten zwischen Charakteren sind nicht das, worauf man eine öffentliche Politik aufbauen sollte.

Die Washington Post  gemeldet  dass einige Zitate „oaicite“ in ihren URLs enthielten  ChatGPT-Benutzer  haben als Text gemeldet, der in ihrer Ausgabe erscheint. (OpenAI besitzt ChatGPT.)

Erkenntnisse zum psychisch bedingten Drogenkonsum von Jugendlichen und anderen Erkenntnissen im Zusammenhang mit gefälschten Zitaten

Selbst in den legitimen Zitaten des Berichts wurden einige Ergebnisse falsch dargestellt oder übertrieben – ein weiterer Fehler, der häufig bei generativen KI-Tools auftritt, die getrost falsche Zusammenfassungen der Forschung erstellen können, sagte Etzioni.

alexis maas

In der aktualisierten Version des MAHA-Berichts wurden die gefälschten Zitate durch Quellen ersetzt, die die Ergebnisse untermauerten, und an einigen Stellen wurde die Darstellung der zuvor mit den gefälschten Zitaten verknüpften Ergebnisse überarbeitet. (Siehe unsere  Kalkulationstabelle .)

Einer der von NOTUS gemeldeten gefälschten Artikel trug den Titel „Veränderungen der psychischen Gesundheit und des Substanzkonsums bei US-Jugendlichen während der COVID-19-Pandemie“. In der Zeile, in der es zitiert wurde, hieß es: Ungefähr 20–25 % der Jugendlichen berichteten von Angstsymptomen und 15–20 % von depressiven Symptomen, wobei Mädchen deutlich häufiger davon betroffen waren.

danilee kelly norris

Eine genauere Betrachtung des Zitats zeigt, warum es nicht authentisch ist: Die Suche nach dem Titel führt nicht zu einem echten Artikel, wenn man darauf klickt  ZWEI Links  im Zitat führt zu einer Fehlerseite mit der Meldung „DOI nicht gefunden“ und ein Blick auf den JAMA Pediatrics-Band und die Ausgabenummer, auf die verwiesen wird, führt zu einem  Artikel  mit anderem Titel und anderen Autoren.

Der aktualisierte MAHA-Bericht ersetzte das Zitat durch a  Bericht 2024  von KFF, wonach in den Jahren 2021 und 2022 21 % der Jugendlichen Angstsymptome und 17 % Depressionssymptome meldeten.

Der ursprüngliche Bericht zitierte zwei nicht existierende Artikel in einem Abschnitt über Direktwerbung für den Konsum von ADHS-Medikamenten bei Kindern und den Konsum von Antidepressiva durch Jugendliche. In dem Bericht heißt es, dass Werbung für Antidepressiva bei Teenagern vage Symptomlisten aufweise, die sich mit typischen Verhaltensweisen von Jugendlichen überschneiden, und mit unangemessenen Anfragen der Eltern nach Antidepressiva in Verbindung stehe.

In der neuen Version des Berichts heißt es nun, dass DTC-Werbung vermutlich einen stärkeren Einsatz von Psychopharmaka bei Jugendlichen fördert, einschließlich Kursen zu Antipsychotika und Antidepressiva gegen Angstzustände, unter Berufung auf a  Studie 2006  Dabei wurden Daten aus den Jahren 1994 bis 2001 verwendet. Die Autoren glaubten, dass die Direktwerbung an den Verbraucher dazu beitrug, den verstärkten Konsum von Psychopharmaka zu fördern.

Eine weitere Feststellung im MAHA-Bericht über die Verschreibung von Asthmamedikamenten besagt, dass schätzungsweise 25–40 % der milden Fälle überverschrieben werden, unter Berufung auf einen nicht existierenden Artikel. Der pädiatrische Lungenarzt Dr. Harold J. Farber, der als angeblicher Erstautor des Artikels aufgeführt war, sagte gegenüber NOTUS, dass es sich um eine übermäßige Verallgemeinerung seiner Forschung handele.

ryan phillippe freundin

Im aktualisierten Bericht wurden diese Zahlen entfernt. Nun heißt es: Es gibt Hinweise auf eine übermäßige Verschreibung oraler Kortikosteroide bei leichten Asthmafällen.

Der Vorfall mit dem MAHA-Bericht verdeutlicht die Risiken der Aufnahme von KI-generierten Inhalten in offizielle Regierungsberichte ohne menschliche Überprüfung.

Wenn KI-Tools verwendet würden, um Zitate für einen Bundesbericht zu generieren, wirft das ernsthafte Fragen zur Rechenschaftspflicht auf. Ohne klare Offenlegungs- oder Verifizierungsprozesse können die Leser nicht erkennen, ob die Informationen auf echten Beweisen beruhen, sagte Etzioni. In Fragen der öffentlichen Gesundheit, insbesondere der Kinder und der psychischen Gesundheit, sind diese Versäumnisse besonders besorgniserregend.

Dieser Faktencheck war ursprünglich veröffentlicht von PolitiFact das Teil des Poynter Institute ist. Sehen Sie sich die Quellen für diesen Faktencheck an Hier .