Menschen nutzten KI, um Dutzende gefälschter Promi-Hommagen an Charlie Kirk zu verfassen. Millionen glaubten ihnen

Drei Tage nach der öffentlichen Ermordung von Charlie Kirk erschien auf YouTube ein Video, in dem das Debüt der neuesten Single der Singer-Songwriterin Adele angekündigt wurde, eine Hommage an das Erbe des konservativen Aktivisten.

Ruhe in Frieden, Charlie Kirk! eine Stimme, die ein wenig wie die von Adele klang, sang über a  Video  zeigt Kirk mit seiner kleinen Tochter. Die Engel singen deinen Namen. Ihre Geschichte ist in den Sternen geschrieben, ein Feuer, das nicht erlöschen wird.

Laut YouTube-Beiträgen gab es zahlreiche Ehrungen von Prominenten. Sie kamen von Ed Sheeran Eminem Taylor Swift Celine Dion Lady Gaga Rihanna Post Malone Dax Lil Wayne Jelly Roll Selena Gomez Justin Bieber und Imagine Dragons.

Aber keiner von ihnen war echt. Sie wurden alle mithilfe künstlicher Intelligenz generiert. Und sie zeigten oft gefälschte Miniaturbilder, die die Künstler in Tränen oder mit trauriger Miene zeigten.

PolitiFact analysierte 24 YouTube-Videos, die angeblich Kirk gewidmete Tribute-Songs zeigten. Zusammen erzielten diese Videos mehr als 4,6 Millionen Aufrufe und einige wurden auf anderen Plattformen geteilt.

Zwei Hommagelieder an Charlie Kirk wurden Ed Sheeran zugeschrieben. Aber sie wurden mit KI hergestellt. (Screenshot/YouTube)

Einer wurde am Tag von Kirks Ermordung hochgeladen und zeigt die Geschwindigkeit, mit der YouTuber Songs mit Bezug zu einem Großereignis erstellen können.

Fast alle Videos enthielten Haftungsausschlüsse, die besagten, dass sie veränderte oder synthetische Inhalte enthielten, dennoch hinterließen viele Zuschauer Kommentare, die zeigten, dass sie glaubten, diese Songs seien echt.

Vielen Dank, Justin schrieb einem Kommentator, der dachte, sie würde auf Bieber antworten.

Ich habe nicht erwartet, dass Bieber dies noch einmal geschrieben hat.

Kommentare zu einem YouTube-Video mit dem Titel Justin Bieber – You’ll Be Missed Charlie Kirk (A Tribute To Charlie Kirk). Das Lied wurde mit KI erstellt. (Screenshot/YouTube)

„Die musikalischen Hommagen klingen, als hätte eine komplette Band eine Woche lang in einem Studio gesessen“, sagte Bryan Pardo, Informatikprofessor an der Northwestern University und Leiter des Interactive Audio Lab. Das ist einer der Gründe, warum die Leute ihnen glauben.

Den meisten Menschen sei nicht bewusst, wie weit KI-generierte Inhalte fortgeschritten seien, sagte er.

Experten sagten, dass KI-Tools die Stimmen von Künstlern einigermaßen nachahmen können, insbesondere wenn ein Zuhörer diesen Künstlern noch nicht lange zugehört hat. Es gibt jedoch Möglichkeiten, klangliche Anomalien zu erkennen, die für den Einsatz von KI typisch sind.

Tools können schnell Songs generieren, die auf einfachen Eingabeaufforderungen basieren, selbst solchen, die dem Stil eines Künstlers ähneln

KI-Musikgeneratoren wie Suno und Udio werden anhand einer Vielzahl vorhandener Songs trainiert. Mit einer kurzen Benutzeraufforderung erstellen sie schnell und kostengünstig neue Musik.

PolitiFact hat es getestet.

Machen Sie ein Lied über die Trauer über den plötzlichen Tod einer inspirierenden Persönlichkeit der Politik im Stil von Taylor Swift, den wir in den Eingabeaufforderungen für die kostenlosen Konten von Suno und Udio geschrieben haben. Die Tools lehnten die Aufforderungen mit der Begründung ab, sie hätten keine Erlaubnis, das Abbild eines Künstlers zu erstellen.

Wir haben es erneut mit einer allgemeineren Sprache versucht: Machen Sie ein Lied über die Trauer über den plötzlichen Tod einer inspirierenden Persönlichkeit in der Politik im Stil einer 35-jährigen Popsängerin mit einer jungen, überwiegend weiblichen Bevölkerungsgruppe.

Beide Tools produzierten innerhalb weniger Augenblicke Songs – zwei verschiedene Songs pro Eingabeaufforderung.

(Screenshot/Audio)

Das macht Musiker nicht glücklich. Große Musikunternehmen, darunter Sony Music Entertainment Universal Music Group und Warner Records über die Recording Industry Association of America  verklagt  Beide KI-Plattformen beschuldigten sie im Juni 2024, urheberrechtlich geschützte Musik zum Trainieren ihrer KI-Tools zu verwenden.

Suno sagte in einer Gerichtsakte, dass das Modell mithilfe von zig Millionen Aufzeichnungen trainiert wurde, argumentierte jedoch, dass der Prozess eine faire Verwendung darstelle.

Künstler wie Imagine Dragons, Katy Perry, Nicki Minaj und Stevie Wonder  argumentierte in einem Brief aus dem Jahr 2024, dass  Die Schulung von KI-Bots für die Arbeit von Künstlern wird den Wert unserer Arbeit mindern und verhindern, dass wir dafür angemessen entlohnt werden.

Wir müssen uns vor dem räuberischen Einsatz von KI schützen, um die Stimmen und Konterfeis professioneller Künstler zu stehlen, die Rechte der Urheber zu verletzen und das Musik-Ökosystem zu zerstören, heißt es in dem Brief.

Diese Tools verwenden eine ähnliche Technologie wie ChatGPT, sagte Tom Collins, außerordentlicher Professor für Musiktechnik an der University of Miami. Solche Modelle werden auf riesigen Datensätzen trainiert mit dem Ziel, eine menschenähnliche Sprache zu erzeugen.

Gesangstexte und Instrumentierung können generative KI-Hinweise offenbaren

Manche  KI   Künstler  haben eine Anhängerschaft gewonnen und mindestens ein KI-Künstler hat dies getan  einen Plattenvertrag gesichert .

Durch Videokommentare wie jene zu den Tribute-Songs zeigen Fans manchmal, dass sie nicht wissen, dass sie von KI erstellte Musik hören.

Diese Modelle befinden sich definitiv in einem Stadium, in dem man sich meiner Meinung nach relativ leicht täuschen lässt, wenn man die lyrischen Fähigkeiten eines Künstlers oder die Qualität seiner Singstimme nicht kennt, basierend darauf, dass man mehrere Stunden früher oder kürzlich in seinem Leben zugehört hat.

Auf welche Hinweise können die Leute also achten?

Der Informatik- und Ingenieurprofessor an der Siwei Lyu University in Buffalo sagte, dass das Abspielen der Musik in Schleife über ein paar Runden hinweg einige Anomalien offenbaren könne. Der Gesang könne zum Beispiel zu sanft oder roboterhaft klingen, ungewöhnliche Atemmuster, verwischte Konsonanten oder unrealistisch regelmäßiges Vibrato enthalten, sagte er. Lyu analysierte die Songs ohne KI-Ausschluss und fand synthetische Elemente im Audio, einschließlich plötzlicher Veränderungen in der Stimmqualität und -klarheit.

Zum Beispiel eine Hommage an Kirk  Lied  fälschlicherweise Dax und Lil Wayne zugeschrieben, beginnt mit einer niedrigen Stimmqualität, bevor sie zu einem lauteren und klareren Ton übergeht, sagte Lyu. Er stellte auch Veränderungen der Sprachverständlichkeit bei den Zeitstempeln 0:46 und 0:56 fest.

Lyu und Collins sagten jeweils, dass die Mischung von Gesang und Instrumentierung möglicherweise nicht so klar sei wie in der Studioversion eines echten Tracks.

Collins verglich die Erstellung von KI-Musik mit der Bildgenerierung: Wenn Sie ein Bild einer Person erstellt haben, hat diese Person möglicherweise sechs Finger oder zwei Finger, die irgendwie miteinander verschmolzen sind. Diese Art des Schmelzens oder diese Verschwommenheit, das Audio-Äquivalent davon, sind wie einzelne Noten, die nicht wirklich wie eine Gitarrennote oder eine Klaviernote erscheinen, sondern etwas dazwischen.

KI-generierte Texte sind oft allgemein gehalten und können abrupte Qualitätsänderungen aufweisen, sagte Lyu. Die Reimschemata sind möglicherweise zu regelmäßig, die Sprache ist möglicherweise klischeehaft und der Musik fehlt möglicherweise auch die emotionale Nuance, die normalerweise bei echten Aufführungen zu finden ist.

Collins sagte, dass KI-generierte Texte typischerweise formelhaft und simpel seien, da sie darauf abzielen, die Anweisungen der Aufforderung zu erfüllen. Eine Aufforderung zum Thema Trauer könnte zu Texten führen, die die Wörter „Kerzen“ und „Himmel“ enthalten.

Die GPTZero-Analyse ergab eine 98-prozentige Wahrscheinlichkeit, dass die Texte eines angeblich von Adele und Ed Sheeran verfassten Tribute-Duetts KI-generiert waren. (Screenshot/GPTZero)

Collins sagte, er erwarte, dass diese Tools ausgefeilter werden und Musik produzieren, die weniger leicht als KI identifizierbar ist. Wenn wir noch ein paar Jahre weitermachen, könnte ich mir vorstellen, dass die Annäherung an die Mimikry weitaus besser sein würde und es sogar für mich schwieriger wäre, es Collins zu sagen.

Die YouTube-Richtlinien gelten ab  2023  verlangt von den Erstellern, offenzulegen, wenn sie veränderte oder synthetische Inhalte erstellt haben, die realistisch sind, einschließlich der Verwendung von KI-Tools. Wenn Ersteller diese Informationen nicht offenlegen, kann es sein, dass ihre Inhalte aus dem YouTube-Partnerprogramm entfernt werden oder mit anderen Strafen rechnen.

In vielen der Tribute-Songs kommt diese Offenlegung nicht deutlich zum Ausdruck; Es ist unter der Beschreibung des Videos vergraben und wird auf dem Desktop nicht angezeigt, es sei denn, der Betrachter klickt weiter.

Es gibt eine Verantwortung auf Streaming-Plattformen, die sie in Bezug auf die Verifizierung nicht wirklich erfüllen, sagte Collins.

Dieser Faktencheck war ursprünglich veröffentlicht von PolitiFact das Teil des Poynter Institute ist. Sehen Sie sich die Quellen für diesen Faktencheck an Hier .

erika jayne scheidung