News KI-Gesichter erkennen: Wie man Fakes identifiziert und mit Übung den Blick schärft

[PCGH-Redaktion]

KI-generierte Gesichter wirken inzwischen täuschend echt und selbst bei genauem Hinsehen ist der Unterschied oft schwer zu erkennen. Mit gezielten Trainingseinheiten lassen sich typische Auffälligkeiten schneller erkennen, wie Forscher herausgefunden haben.

Was sagt die PCGH-X-Community zu KI-Gesichter erkennen: Wie man Fakes identifiziert und mit Übung den Blick schärft

Bitte beachten: Thema dieses Kommentar-Threads ist der Inhalt der Meldung. Kritik und allgemeine Fragen zu Online-Artikeln von PC Games Hardware werden hier gemäß der Forenregeln ohne Nachfrage entfernt, sie sind im Feedback-Thread besser aufgehoben.

 

[Oppenheimer]

Aber das kann man doch bestimmt auch die KI erledigen lassen ?!?

 

[VulturesRevenge]

Aber das kann man doch bestimmt auch die KI erledigen lassen ?!?

...
"Automatische Erkennungssysteme sind bislang nur eingeschränkt zuverlässig"

Mich wundert eher das:
"korrekten Erkennungen immerhin von 31 auf 51 Prozent..."
Da hätte reines Raten mehr Prozente bei der Erkennung gebracht.

 

[T-MAXX]

Wäre für Ermittler bestimmt eine Hilfe.

 

[rum]

Aber das kann man doch bestimmt auch die KI erledigen lassen ?!?

Zumindest hätten wir da schon eine Anwendungsmöglichkeit für KI.
KI generierten Müll auch als dieses zu erkennen.
Ich hoffe wirklich, dass die Menschheit die "KI-Kurve" noch kriegt ..

 

[Registrierzwang]

Für Probleme, die es vor KI-Bildgeneratoren nicht gab, endlich eine Anwendung für KI gefunden...

 

[Govego]

Und wie lange kann ich diese Fakes noch identifizieren? Kinderkrankeiten in der Software! Selbst die wird immer besser und dann braucht man irgendwann selbst ein Programm, um die Fakes identifizieren zu können. Die Technik steht ja nicht still.

 

[meckswell]

Wenn ich euch testen möchte und euch bitte zur Erkennung nicht die KI eures Misstrauens zu verwenden, werdet ihr trotzdem KI verwenden, aus Angst zu versagen. Ich kenne Menschen!
Namensähnlichkeiten sind zufällig, sie heißt schon immer so.

Spoiler: Test, echt oder fake?

Woran macht ihr was fest?

 

[Govego]

Woran macht ihr es fest?

Mir kommt die Haut bei den Wangen (an den Seiten der Nasenflügel) so komisch vor, als hätte sie an der Stelle horizontale streifen. Könnte aber auch nachbearbeitet worden sein. Als, von meiner Ansicht aus fake. Bin darin aber sowieso nicht gut.

 

[meckswell]

Ich finde die Haut, die Poren, die Faserung oder wie man das nennt, sieht sehr echt aus, vllt insgesamt etwas zu perfekt. Das würde ich so sagen.

 

[chill_eule]

Jetzt weiß ich, warum der "Bürgerservice" mein neues Foto für den Personalausweis nicht akzeptieren will...

Der Übergang von Brillenbügel zu Ohr stimmt nicht! Fack!

*StableDiffusionanwerfengeh*

 

[MajoPCGH]

Und wie lange kann ich diese Fakes noch identifizieren?

Das kam mir auch gerade in den Sinn. Nur weil ich es jetzt noch an Details erkennen kann, bei denen die KI heute noch kleine Fehler macht, heißt das nicht dass das in 1 Jahr immer noch klappt.

 

[SilentHunter]

Automatische Erkennungssysteme sind bislang nur eingeschränkt zuverlässig,

Und was bedeutet das jetzt genau?
Entweder das KI einfach zu blöd ist um zuverlässig ein von einer KI generiertes Gesicht zu erkennen. Oder das Bildgenerierende KI einfach besser und weiter fortschrittlich ist wie der KI Part der sowas ja eigentlich erkennen und auch unterscheiden können sollte.
Was uns ja auch immer als eine der grossen Stärken solcher Systeme versucht wird weiß zu machen.
Ich sag da jetzt nur mal Gesichtserkennungssoftware als Beispiel. Die ist für Behörden jeglicher kulör ja schon fast sowas wie der Heiliger Gral.

Was für mich die ganze KI Sache jetzt dann irgendwie ad absurdum führt.

 

[Logos_Atum]

Wenn ich was zu sagen hätte, gäbe es auf Silizium Ebene einen verpflichtend eingebrachten Identifier. Vielleicht sowas wie Steganographie oder Metadaten/ Bitfolge.

Kein raten, keine Verunsicherung. Aber die Simpletons abzocken ist halt wichtiger.

 

[LastManStanding]

Bei Bildern ist das wirklich schon jetzt sehr schwer

Thema KI ist schwierig.
Entweder ist man voll dafür und zieht das volle Programm durch um das es in den Altag zieht so das es in sehr naher Zukunft nicht mehr zu unterscheiden ist oder man ist dagegen.

Habs versucht, geht nicht beides. Das einzige was sich der KI noch entgegenstellen kann ist ein Schwerwiegendes Problem was die KIs verursachen und der Masse misfällt!
Denn Menschen sind FAUL und Gelangweilt deshalb gibt es KIs um den Menschen noch mehr jener arbeit abzunehmen die es nur gibt um noch schneller noch weniger zu tun oder in noch kürzerer Zeit, noch mehr mehr mehr
zu erschaffen um noch mehr mehr mehr zu haben und noch weniger Langeweile zu haben.....!

Hab letztens bei ner Firma angerufen wegen nem Auftrag.
Es hat 1 Mal geklingelt und schon war jemand dran hat sich vorgestellt;
- Sie; Hi Lena S.., Firma "XYZ" Morgen! wie gehts, wie kann ich helfen.

-Ich; Moin Hi danke gut, und meinen Namen!
Ich sag oh wow das ging ja schnell sie sind ja von der Fixen Sorte. Haben sie mit der Hand über dem Telefon Gewartet. Da bin ich Baff.

Sie; -Wie kann ich helfen?

-Jo ich hab da ne kleines problemchen ich find keine Firma in der Nähe die meinen Terrazzo der unter den Fliesen als MInderfläche von 7m² wieder aufarbeitet, ich hoffe, Sie können mir da weiterhelfen, Das mal einer kommt und sich das anschaut. Und was das überhaupt so im schnitt kostet! Sehen sie sich dazu im Stande?

Sie; ...

Ich; Hallo noch?

Sie: tut mir leid das war zu viel auf einmal, ich bin eine KI. Welchen Boden haben?

Dann hab ich aufgelegt... weil ich kein Bock hab mit nem Computer zu Quatschen.
Ich rede oft fast ausschließlich ironisch auch in ernsten Gesprächen um mit mir zu reden ist Zwingend eine Emotionale Wertung meiner Aussage nötig! Denn während ich rede Prüfe ich meinen gegenüber in dem er um die Ecke denken Muss! Zwingend mal hier und da muss auch nen Themen bezogener Witz fallen, den man nur mit Kombinationgabe verstehen kann!

Da zahl ich lieber 10€ den Quadratmeter mehr damit sich das bemitleidenswerte Unternemen ne echte Fachkraft leisten kann.

 

[Gelöschtes Mitglied 23535a]

Als Gesichtsblinder habe ich damit sowieso keinen Vertrag.^^ Ich bin froh, wenn ich jemanden ueberhaupt einfach so wiedererkenne auf den ersten Blick sozusagen. Aber dann schnaggelt es schon auch mit der Erinnerung ans Leben ist es dafuer umso Besser bei mir.

Ich muesste dafuer also auch Werkzeuge benutzen, um da mitspielen zu koennen. Ergo mache ich mir auch wenig Sorgen, das die Menschheit nicht irgendwie doch wie immer auch Lernt, damit umzugehen.

Außerdem sind menschliche Haende Komplexer als deren Gesichter. Deswegen wuerden wir das wohl daran besser bemessen koennen, wie weit die Faehigkeiten von den Modellen schon sind.

 

[PCGH_Torsten]

Zumindest hätten wir da schon eine Anwendungsmöglichkeit für KI.
KI generierten Müll auch als dieses zu erkennen.
Ich hoffe wirklich, dass die Menschheit die "KI-Kurve" noch kriegt ..

Alles, was automatisch erfolgen kann, kann auch automatisch genutzt werden, um eine KI besser zu trainieren und so die Methode binnen kürzester Zeit wirkungslos werden zu lassen. Auf dieses grundlegende Dilemma können auch die Entwickler entsprechender Anti-KI-KIs bislang nur mit den Schultern zucken.

Ich finde die Haut, die Poren, die Faserung oder wie man das nennt, sieht sehr echt aus, vllt insgesamt etwas zu perfekt. Das würde ich so sagen.

Mit entsprechender Beleuchtung (und null Make-Up) kann man sehr viel mehr Hautstruktur ausholen, als die Mehrheit von gängigen Fotos gewöhnt sein dürfte. Verdächtig hier ist eher der Kontrast zum wesentlich diffuseren Halsbereich. Da ähnliches aber auch für die Haare zu gelten scheint (extrem scharf auf der Stirn, diffuser weiter außen/hinten) ist ein absichtlich mit extremer Tiefenunschärfe aufgenommenes Foto denkbar. Das wäre dann ein klassisches Beispiel für den Unterschied zwischen "natürlich" und "fotorealistisch": Ein künstlerisch veranlagter Fotograf kann auch ein reales Motiv "künstlich" wirken lassen. (Ich erinnere an die Fotos aus der Moskauer U-Bahn, die erfolgreich als Metro-Screenshot-Leaks verbreitet wurden.) Und genau so einer würde sein Werk auch in einen "ist das KI?"-Thread posten.^^

 

[rum]

Alles, was automatisch erfolgen kann, kann auch automatisch genutzt werden, um eine KI besser zu trainieren und so die Methode binnen kürzester Zeit wirkungslos werden zu lassen. Auf dieses grundlegende Dilemma können auch die Entwickler entsprechender Anti-KI-KIs bislang nur mit den Schultern zucken.

Klingt nach einem richtigen ressourcen- und energieverschwendenden Prozess, angestoßen durch KI. Wenn ich es richtig verstanden habe, braucht man aber KI zB. zur Verteidigung/Kriegsführung immer mehr und der, der die am weitesten fortgeschrittene KI besitzt, gewinnt. Wenn dem so ist, wird so viel Wasser, Strom, seltene Erden, Elektrik und Elektronik "verbrannt", wie halt nötig ist, um nicht hinten anzustehen.
Ich sehe schwarz für unsere Umwelt. So soll das hinführen? Hoffentlich habe ich unrecht!

 

[meckswell]

.