So erkennen Sie (vorerst) KI-generierte Videos

Mit der Einführung des SORA-Text-zu-Video-Modells von OpenAI blicken wir auf eine unvermeidliche Zukunft voller KI-generierter Videos. Da die Technologie jedoch noch nicht perfekt ist, finden Sie hier einige Tipps zum Erkennen von KI-generierten Videos (vorerst).

Die Erkennung von KI-generierten Inhalten kann eine Herausforderung sein

Auf den ersten Blick könnte man es verzeihen, wenn man KI-generierte Videos für echt hält. Erst wenn Sie etwas genauer hinsehen, bemerken Sie möglicherweise, dass etwas nicht stimmt.

Alle Beispiele, über die wir in diesem Artikel sprechen, beziehen sich auf das Text-zu-Text-Konvertierungsmodell SORA-Video von OpenAI, Das wurde im Februar 2024 angekündigt. Es ist das mit Abstand fortschrittlichste Modell seiner Art und wandelt Textansagen in animierte Bilder um. Seit dem Aufkommen von hat sich viel getan Beliebter Reddit-Beitrag Er isst Spaghetti Will Smith Anfang 2023. Zum Zeitpunkt des Schreibens im März 2024 befindet sich SORA noch in der geschlossenen Testphase.

Das Erkennen von KI-generierten Fotos und Videos ist eher eine Kunst als eine exakte Wissenschaft. Es gibt Möglichkeiten festzustellen, ob ein Bild von KI erstellt wurde, diese funktionieren jedoch nicht konsistent. Tools zur KI-Inhaltserkennung sind oft unzuverlässig, selbst wenn es um Text geht.

Das Ziel besteht hier darin, einige Möglichkeiten hervorzuheben, wie Sie zumindest für den Moment KI-generierte Inhalte abrufen können. Denken Sie daran, dass sich Modelle ständig weiterentwickeln, sodass es schwieriger wird, diese Merkmale zu erkennen. Manchmal kann die Wahl des Themas und Kontexts Ihres Videos einen großen Unterschied machen.

Achten Sie auf subtile Veränderungen und „Geister“

Die Suche nach subtilen Änderungen ist eine Möglichkeit, einen überzeugenden KI-Trick zu erkennen, aber es ist nicht ganz einfach. Ein Beispiel für SORA von OpenAI zeigt eine Frau, die hereinkommt Eine neonbeleuchtete Straße in Tokio. Die Szene ist für einen Text-zu-Video-Konverter beeindruckend, so beeindruckend, dass Sie den Garderobenwechsel gegen Ende des Filmmaterials vielleicht verpasst haben.

Die Kleidung der Frau in der Eröffnungsszene zeigt ein rotes Kleid mit langer Strickjacke und Lederjacke. Die Jacke ist in der Art und Weise, wie sie mit dem Blazer harmoniert, etwas seltsam, aber ich bin nicht gerade ein Modeexperte, also lasse ich es lieber:

Schauen Sie sich nun das gleiche Kleidungsstück aus der Nähe an und Sie werden feststellen, dass das Kleid jetzt dunkle Flecken hat und die Lederjacke viel größere außermittige Revers hat:

Das ist so subtil, dass die meisten Leute sich das Filmmaterial mehrmals ansehen müssten, um es herauszufinden. Die Szene ist dicht und voller Grübeleien und Hintergrundschauspieler, die Sie davon ablenken, was falsch läuft.

Eine andere Sache, auf die man achten sollte, sind Geister oder Dinge, die in die Existenz kommen und wieder verschwinden. OpenAI-Video einer Stadt in Kalifornien Der Goldrausch ist ein gutes Beispiel dafür. Schauen Sie sich diese eher mysteriöse Figur an, die Ihr Verstand wahrscheinlich als Mann mit Pferd interpretiert:

Zwei Sekunden später verschwand die Gestalt vollständig. Wenn Sie sich das Video ansehen, werden Sie sehen, wie diese Figur mit dem Dreck verschmilzt, als wäre sie ein Geist:

Künstliche Intelligenz hat Schwierigkeiten, mit Fingern, Brillen und winzigen Gegenständen klarzukommen

Eines der größten Probleme generativer KI-Modelle sind Kanten und feine Linien. Schauen Sie sich insbesondere Hände, Gegenstände, die sie halten, Brillen und die Art und Weise, wie Gegenstände mit menschlichen Merkmalen (wie Hüten, Helmen oder sogar Haaren) interagieren, genau an.

Videos können das Erkennen dieser Art von Fehlern im Vergleich zur KI-generierten Fotografie erleichtern, da sich diese Merkmale von Szene zu Szene ändern können.

Besonders schwierig ist es für die KI, die Finger zu ziehen und die Hand zu positionieren. Generative Modelle neigen dazu, Hände mit mehr oder weniger Fingern zu erzeugen, als man erwarten würde. Manchmal sieht es nicht richtig aus, die Finger sind zu dünn oder die Fingerknöchel sind zu groß. Bei getragenen Objekten treten dieselben Schwankungen auf, manchmal sieht es so aus, als hätte der Mensch im Bild alles, was er trägt, aufgesogen.

Suchen Sie nach einer Brille, die nicht asymmetrisch aussieht oder sich in das Gesicht einfügt. Im Video können sie die Ansicht betreten und verlassen und zwischen den Szenen wechseln. Das Gleiche gilt für Arme und Beine, schauen Sie einfach mal rein SORA-Video von Menschen in Lagos, Nigeria:

Könnten Sie bitte Ihren dritten Arm von meinem Bein nehmen?

Schauen Sie sich die Objekte im Hintergrund des Bildes genau an

Hintergrunddetails sind bei KI-generierten Videos oft ein großer Hinweis, noch mehr als bei Fotos. Eine gute Fälschung hängt davon ab, dass das Motiv überzeugend genug ist, um Sie vom Hintergrund abzulenken, der sich nicht ganz so verhält, wie er sollte.

Schauen Sie sich noch einmal das Video der Nachtszene in Tokio an. Diese Szene ist so dicht, dass man leicht alles für bare Münze nehmen kann, aber schauen Sie sich die Menschen im Hintergrund genau an, insbesondere die links vom Motiv:

Manche dieser Bewegungen fühlen sich nicht richtig an. Irgendwann scheint sich die Person zu wiederholen. Später scheint sich eine scheinbare Gruppe von Menschen in ein einziges Wesen zu verwandeln, als ob sie alle denselben Rock oder Mantel tragen würden. In einigen Bereichen sind auch die Laufanimationen seltsam.

Halten Sie Ausschau nach verdächtigen Aktivitäten im Hintergrund, um KI-generierte Videos zu erkennen. Manchmal werden Sie bemerken, dass natürliche Objekte wie Bäume, Felder oder Wälder auf seltsame Weise reagieren. Perspektiven können falsch aussehen und manchmal stimmen animierte Objekte nicht genau mit dem in der Animation gezeigten Pfad überein.

Ein weiteres Beispiel ist eine Drohnenaufnahme einer Küste Big Sur von OpenAI. Haben Sie schon einmal eine Welle gesehen, die in der Natur so aussieht?

Beleuchtung und „KI-Aura“

Dies ist etwas, was wir häufig in KI-generierten Bildern gesehen haben, und es handelt sich wohl eher um ein „Gefühl“ als um ein objektiv identifizierbares Merkmal. Wenn die Beleuchtung in Situationen, in denen Sie mehr Kontrast erwarten würden, besonders flach und unnatürlich erscheint, kann dies darauf hindeuten, dass sie möglicherweise nicht echt ist.

Beispielsweise ist das Fehlen von Kameradefekten wie Fleckenbildung, Geisterbildern (Lichtverlust, weil zu viel Licht in das Objektiv eindringt) oder Schattenrotation (wobei Schattendetails aufgrund fehlenden Lichts verloren gehen) nicht erforderlich. Gegenwärtig.

Es kann alles wie ein aufwändig produziertes Musikvideo oder wie Videospiele in der Zeit ohne realistische Beleuchtung und Raytracing aussehen. Motive erscheinen möglicherweise perfekt beleuchtet, wenn Sie es am wenigsten erwarten.

Der unheimliche Taleffekt

Der Uncanny-Valley-Effekt ist ein Begriff, der die Vermischung menschlicher und unmenschlicher Merkmale auf eine Weise beschreibt, die beim Betrachter ein Unbehagen hervorruft. Androiden oder humanoide Roboter werden oft genannt, weil sie äußerlich den Anschein erwecken, Menschen zu sein, aber gleichzeitig zwangsläufig unmenschlich sind.

Meistens ist der Uncanny-Valley-Effekt einfach auf das Gefühl zurückzuführen. Man spürt, dass etwas nicht stimmt, kann aber nicht genau sagen, was. Dieser Effekt ist oft in Fotos und Videos zu sehen, die durch künstliche Intelligenz erzeugt wurden, und einer der Bereiche, in denen ich ihn getestet habe, war SORA-Astronautenvideo.

Ich ignoriere für einen Moment, dass der betreffende Astronaut einen gestrickten Weltraumhelm trägt, aber dieses Gesicht hat etwas, das mir einen Schauer über den Rücken jagt:

Und da Eine ähnlich mysteriöse Großmutter scheitert Beim Ausblasen ihrer Geburtstagskerzen, was in Bewegung noch viel schlimmer aussieht:

Achten Sie auf Unsinn

Dies scheint die am leichtesten zu erkennende Warnflagge zu sein, aber manchmal ignoriert Ihr Verstand Dinge einfach. Das oben erwähnte Astronautenvideo ist ein gutes Beispiel dafür. Es gibt eine kurze Szene mit einer Tür, einem Griff, einem Hebel oder einem Gegenstand, die keinen Sinn ergibt:

Was ist dieses Ding? Warum scheint die Animation rückwärts zu laufen? Den Strickhelm kann ich entschuldigen, aber dieses Ding verwirrte mich von dem Moment an, als ich es sah.

Das Gleiche gilt für Bewegungen. Das Video von SORAs Katze im Bett ist beeindruckend, aber die Action stimmt nicht ganz. Die Besitzer werden es merken die Katzen Dieses Verhalten ist seltsam und unnatürlich. Es scheint ein Missverhältnis zwischen dem Verhalten des Subjekts und dem Kontext der Situation zu bestehen. Mit der Zeit wird sich dies verbessern.

Unscharfer Text ist ein weiteres gutes Beispiel für die Fehler, die generative KI-Prozesse häufig machen. Die japanischen Schriftzeichen in SORAs Tokio-Nachtszenenvideo sind ein gemischtes Bild, ebenso wie einige der Verkehrsschilder und Geschäfte. Die Wahl einer Szene, in der die meisten Menschen den Unterschied zwischen Japanisch und schlechtem Lob nicht erkennen konnten, war eine kluge Entscheidung von OpenAI.

Trainieren Sie sich, um diesen Inhalt besser zu entdecken

Der beste Weg, sich darin zu üben, KI-generierte Inhalte zu erkennen, besteht darin, sie selbst zu studieren. Die meisten kreativen Models haben aktive Communities im Web und auf Social-Media-Plattformen wie Reddit. Finden Sie welche und schauen Sie sich an, was sich die Leute ausgedacht haben.

Darüber hinaus können Sie mit einem Tool wie Stable Diffusion Ihre eigenen Bilder erstellen. Zum Zeitpunkt des Verfassens dieses Artikels ist SORA von OpenAI noch nicht für die öffentliche Nutzung verfügbar, Sie müssen also warten, bevor Sie selbst eintauchen.

Das von der KI generierte Video ist gleichermaßen beeindruckend, faszinierend und erschreckend. Mit der Zeit werden diese Tipps wahrscheinlich an Bedeutung verlieren, wenn die Modelle ihre Schwächen überwinden. Also schnall dich an, denn du hast noch nichts gesehen.