AI Slop: Zwischen Spielerei und Desinformation

Was mich dabei ehrlich gesagt am meisten überrascht hat:
Wie viele Menschen solche absurden KI-generierten Bilder für echt halten. Und wie sehr Plattformen wie TikTok, Pinterest oder Facebook diese Inhalte aktiv pushen, weil sie sich monetarisieren lassen. Inhalte, die oft keinerlei Bezug zur Realität haben, aber durch Likes und Views weiter in die Feeds gespült werden.

Natürlich ist das wirtschaftlich attraktiv: Mehr Content bedeutet mehr Interaktion, mehr Engagement, mehr Werbeeinnahmen. Für einzelne virale Bilder werden bereits nennenswerte Einnahmen erzielt – sei es über Plattformvergütungen, Affiliate Marketing oder AI-Content-Kurse.

Der Effekt geht aber noch weiter: Durch die ständige Konfrontation mit offensichtlich manipulierten Bildern werden die Nutzer insgesamt misstrauischer gegenüber allen Bildinhalten. Im schlimmsten Fall führt das dazu, dass sogar authentische Aufnahmen angezweifelt werden – ein Effekt, der als Liar’s Dividend bezeichnet wird: Je mehr Fakes zirkulieren, desto schwieriger wird es, echte Beweise zu akzeptieren, weil immer auch die Möglichkeit einer Fälschung mitschwingt.

Die andere Seite: Journalismus im Faktencheck-Dauermodus

Wie gravierend diese Dynamik werden kann, zeigt ein ORF Artikel über den Israel-Iran-Konflikt. Redaktionen weltweit sehen sich einer Flut von täuschend echten KI-generierten Bildern und Videos gegenüber. Bildforensiker wie Derek Bowler (EBU) berichten, dass selbst für erfahrene Experten die Verifikation mittlerweile kaum noch eindeutig möglich ist. Teilweise basieren die KI-generierten Clips auf realem Bildmaterial, das als Vorlage verwendet wird, und sind visuell kaum noch von echten Aufnahmen zu unterscheiden.

Früher konnten Verifikationsteams in den ersten Minuten nach einem Ereignis ein sogenanntes „goldenes Fenster“ nutzen: Die allerersten veröffentlichten Inhalte stammten meist noch von Augenzeugen, waren wenig bearbeitet und ließen sich relativ zuverlässig prüfen. Heute kippt dieses Fenster extrem schnell: Bereits wenige Minuten nach einem Vorfall werden die sozialen Medien mit tausenden Beiträgen geflutet, darunter echte Aufnahmen, falsch kontextualisierte Inhalte und täuschend echte KI-Simulationen.

Gerade bei solchen Berichten wird mir immer wieder bewusst, wie wichtig sauberer Faktencheck geworden ist. Und dass Journalismus in dieser neuen Contentflut wieder echte Handarbeit bedeutet.

AI Kennzeichnungspflicht: Kontexte und Grenzen

KI in der Werbung: ein Blick auf die ersten disruptiven Anwendungen

Ein aktuelles Beispiel zeigt, wie schnell generative KI auch die Werbebranche erfasst: In den USA wurde kürzlich ein vollständig KI-generierter TV-Spot ausgestrahlt. Das Video wurde innerhalb von nur zwei Tagen mit Googles neuem „V3“ Text-to-Video-Modell erstellt. Solche Tools erlauben es Marken, in kürzester Zeit Werbeinhalte zu produzieren, die bisher teure, aufwändige Produktionsprozesse ersetzt hätten.

Schon jetzt geraten klassische Agenturnetzwerke unter Druck: Meta etwa plant, die komplette Werbemittelproduktion bis 2026 vollautomatisiert durch KI-Systeme abzuwickeln. Die Geschwindigkeit, mit der KI die Wertschöpfungskette durchdringt, stellt dabei nicht nur wirtschaftliche, sondern auch regulatorische Herausforderungen.

Der AI Act und die Kennzeichnungspflichten

Gerade weil die Risiken bei politischer Desinformation so offensichtlich sind, wird häufig eine breite Kennzeichnungspflicht für alle KI-generierten Inhalte diskutiert. Prinzipiell sinnvoll — aber der tatsächliche Mehrwert hängt stark vom jeweiligen Kontext ab.

Ein völlig absurdes Katzenbild braucht aus meiner Sicht keine Kennzeichnung. Und auch bei generischen Werbemotiven, die ohnehin nie den tatsächlichen Zustand zeigen, sehe ich — zumindest in meinen Anwendungsfällen — wenig zusätzlichen Nutzen in einer verpflichtenden „AI-generated“-Markierung. Werbung lebt von Inszenierung, Ästhetik und idealisierten Bildern — ob diese durch ein Fotoshooting, CGI oder generative KI entstehen, ändert an der Grundmechanik wenig.

Aber: Diese Toleranz endet schlagartig dort, wo KI-generierte Inhalte in kritische Bereiche hineinreichen — etwa bei Kriegsberichterstattung, politischen Ereignissen oder manipulativen Desinformationskampagnen. Dort kann der künstliche Ursprung eines Bildes entscheidend für die Bewertung der gesamten Nachricht sein.

Macht es also Sinn, eine allgemeine Kennzeichnungspflicht für alle genAI-Inhalte einzuführen? Der AI Act (Verordnung (EU) 2024/1689) verpflichtet:

• Anbieter von KI-Systemen (z. B. Midjourney, DALL·E, Suno), technische, maschinenlesbare Markierungen (Wasserzeichen, Metadaten) einzubauen.
• Nutzer, die KI-generierte Inhalte veröffentlichen, zur sichtbaren Kennzeichnung, wenn es sich um Deepfakes handelt — also um täuschend echte Simulationen realer Personen, Orte oder Ereignisse.
• Bei rein generischen, stilisierten oder abstrakten AI-Bildern ohne realen Bezug besteht aktuell keine Pflicht zur sichtbaren Kennzeichnung.
• Für künstlerische, satirische oder fiktionale Werke gelten vereinfachte Offenlegungspflichten, die den “Genuss” des Werks nicht beeinträchtigen sollen.

Das macht die Lage kompliziert, weil die Grenze zwischen Realität und Fiktion individuell unterschiedlich wahrgenommen wird. Was für den einen offensichtlich absurd erscheint, könnte für andere durchaus als realistisch empfunden werden.