Papst Franziskus rief zur Wahrheit auf. Das Internet antwortete mit Deepfakes.

Papst Franziskus, der am Montag im Alter von 88 Jahren starb, war ein ungewöhnlicher Chronist der weltweiten Abrechnung mit falschen Informationen im Internet.

wanda bowles

Franziskus skizzierte 2018 die gesellschaftlichen Schäden von Fehlinformationen und führte den Ursprung falscher Nachrichten auf die Schlangentaktiken im Garten Eden zurück, die zur Erbsünde führten.

Es gibt keine harmlose Desinformation; Im Gegenteil, das Vertrauen auf die Unwahrheit kann schlimme Folgen haben, schrieb er am 24. Januar 2018  zum Weltkommunikationstag . Selbst eine scheinbar geringfügige Verzerrung der Wahrheit kann gefährliche Auswirkungen haben.

Franziskus lobte das journalistische Streben nach Wahrheit und forderte, den Menschen beizubringen, unsere tiefsten Wünsche und Neigungen zu erkennen, zu bewerten und zu verstehen, damit wir nicht das Gute aus den Augen verlieren und jeder Versuchung nachgeben.

Unausgesprochen blieb seine Hauptrolle bei fabrizierten und manipulierten Inhalten im letzten Jahrzehnt, von der Präsidentschaftswahl 2016, die den Begriff „Fake News“ populär machte, bis hin zum Bild des päpstlichen Puffermantels, das eine Million Denkanstöße über generative künstliche Intelligenz hervorbrachte.

Am 21. Oktober 2016, weniger als drei Wochen vor der US-Präsidentschaftswahl, erschien eine Website namens WTOE 5 News  veröffentlichte die Schlagzeile Papst Franziskus schockiert die Welt und unterstützt Donald Trump für die Erklärung des Präsidenten.

Die Kurzgeschichte wies Spuren auf, die auf seriösen Journalismus hindeuteten – ein Name und eine Website, die einem örtlichen Medienunternehmen ähnelten, eine Erklärung des Vatikans, die Verfasserzeile eines Journalisten –, aber  nichts davon war real . Die Website veröffentlichte satirische Inhalte, die sie auf ihrer About-Seite offenlegte. Der falsche Kontext ging lange verloren, da die Geschichte und die Schlagzeile im Internet kursierten.

In den letzten drei Monaten der Wahl im November 2016 verzeichnete die gefälschte Werbestory die größte Aufmerksamkeit aller echten oder gefälschten Wahlgeschichten auf Facebook  BuzzFeed News berichtete .

Das Buch des Papstes über Fake News vor dem Petersdom in Rom am Mittwoch, 24. Januar 2018. (AP Photo/Andrew Medichini)

Ein Jahr zuvor eine Website namens National Report  eine falsche Geschichte verbreiten  dass Francis die demokratische Bewerbung von Senator Bernie Sanders um die Präsidentschaft unterstützte. Der Teufelskreis der Fake News wiederholte sich mit dubiosen Websites und viralen Social-Media-Beiträgen, die Francis’ Meinung verzerrten.  Ansichten über Waffen Er verkündete, er habe es gesagt Iss zu Ostern, was du willst und ihn mit Todesschwindel umbringen  Jahre zuvor  er ist gestorben.

Im März 2023  der anstiftende Moment der päpstlichen Fehlinformation  war visuell: Fotos von Francis, wie er in einem weißen Daunenmantel im Balenciaga-Stil mit einer passenden weißen Totenkopfmütze herauskommt. Nur aufmerksame Betrachter würden das verräterische Zeichen der Manipulation durch künstliche Intelligenz in den verstümmelten Händen des Bildes bemerken. Es wurde mit einem generativen KI-Tool Midjourney erstellt und  auf Reddit gepostet bevor es viele Leute täuschte.

Viele frühe Anwender visueller generativer KI-Tools wählten Francis als ihre Muse und versetzten den Achtzigjährigen in unwahrscheinliche, aber real wirkende Situationen (Motorradfahren bei Burning Man) The New York Times  gemeldet . Der Reiz von Franziskus lag in seiner breiten Anerkennung nach einem Jahrzehnt als Papst und seiner Zugänglichkeit, gepaart mit dem Aufkommen einfach zu bedienender und leicht verfügbarer KI-Programme.

Journalisten gehen davon aus, dass sie im Jahr 2024 über eine KI-Wahl berichten werden, die von raffinierten Deepfake-Videos dominiert wird, die die Wähler bei einer knappen Wahl beeinflussen könnten. Es hat nicht so geklappt  wir hatten Angst weil falsche Wahlnachrichten meist auf den gleichen alten Tricks beruhten. Aber das schmälert nicht die Wirkung des gefälschten Papstfotos, denn es öffnet uns die Augen für das, was sein könnte.

Das Aufkommen gefälschter Nachrichten im Jahr 2016 markierte eine neue Ära in der Integrität von Internetinformationen und veranlasste Facebook (jetzt Meta), die Hilfe unabhängiger Faktenprüfer in Anspruch zu nehmen, um die Verbreitung falscher Inhalte zu identifizieren und einzudämmen. Das Programm  an dem PolitiFact von Anfang bis Ende beteiligt war  reifte, als falsche Website-Links zu falschen Textbeiträgen, Fotos und Videos führten, die sich dann in KI-manipulierte Inhalte verwandelten.

Meta beendete das Faktenprüfungsprogramm von Drittanbietern im Jahr 2025 und ersetzte es durch ein Community-Notizen-System, das auf freiwilligen Benutzerbeiträgen basiert, die dem von X. TikTok entwickelten Programm nachempfunden sind  eigene Version  obwohl es immer noch auch professionelle Faktenprüfer einsetzt.

In seiner Botschaft aus dem Jahr 2018 beschrieb Franziskus die Verantwortung der Journalisten als Informanten der Welt, eine genaue, vertrauenswürdige Berichterstattung zu fördern. Er rief alle dazu auf, einen Friedensjournalismus zu fördern.

Die Zukunft der Informationsintegrität hängt mehr denn je davon ab, dass normale Menschen im öffentlichen Raum nach der Wahrheit suchen und korrigierende Informationen bereitstellen.

Nehmen Sie es aus der Botschaft von Franziskus:

Das beste Gegenmittel gegen Unwahrheiten sind nicht Strategien, sondern Menschen: Menschen, die nicht gierig, sondern bereit sind, zuzuhören, Menschen, die sich die Mühe machen, einen aufrichtigen Dialog zu führen, damit die Wahrheit ans Licht kommt; Menschen, die sich vom Guten angezogen fühlen und Verantwortung dafür übernehmen, wie sie Sprache verwenden.

Dieser Faktencheck war ursprünglich veröffentlicht von PolitiFact das Teil des Poynter Institute ist.