Deepfakes: Expression Manipulation Detection schafft bis zu 99 % Erkennungsrate

[PCGH-Redaktion]

Jetzt ist Ihre Meinung gefragt zu Deepfakes: Expression Manipulation Detection schafft bis zu 99 % Erkennungsrate

Die Expression Manipulation Detection eines Forscherteams der UC Riverside soll bei Deepfakes mit Gesichtsmanipulationen eine Erkennungsrate von bis zu 99 Prozent erreichen. In zwei Testszenarien erwies sich die Methode als vielversprechend.

Bitte beachten Sie: Der Kommentarbereich wird gemäß der Forenregeln moderiert. Allgemeine Fragen und Kritik zu Online-Artikeln von PC Games Hardware sind im Feedback-Thread zu veröffentlichen und nicht im Kommentarthread zu einer News. Dort werden sie ohne Nachfragen entfernt.

Zurück zum Artikel: Deepfakes: Expression Manipulation Detection schafft bis zu 99 % Erkennungsrate

 

[PCGH_Torsten]

Denen ist schon klar, dass ein automatisches Deep-Fake-Erkennungssystem nichts weiter als ein automatischer Deep-Faker-Trainings-Algorithmus ist, der seine eigene Funktionalität einbüßt, kurz nachdem er öffentlich verfügbar wird?

 

[Acgira]

Ich warte auf dem Blade Runner für Deep Fakes, der macht dann den Voight-Kampff-Test mit den Deep Fakes, bevor diese in den unumkehrbaren Ruhestand versetzt werden.

 

[chill_eule]

Ich frag mich grad, was die Erkennung von deepfakes überhaupt bringen soll.

Einmal bei YT angekommen ist die Katze doch aus dem Sack und es wird genug Leute geben, die das für echt halten, egal was so ein Algorithmus sagt

 

[TheGermanEngineer]

Ich frag mich grad, was die Erkennung von deepfakes überhaupt bringen soll.

Die Erkennung von Falschinformationen ist schon eine sinnvolle Anwendung, finde ich. Aber ich gebe dir recht, dass sich Deep Fakes einfacher verbreiten lassen, als sie gleichzeitig als solches zu erkennen.

Am Ende ist es auch nur eine Beschäftigungsmaßnahme, weil mit einer Technologie ein Problem gelöst wird, was diese Technologie gerade erschaffen hat.

 

[RyzA]

Ich halte Deepfakes für gefährlich. Irgendwann sind da Menschen zu sehen die eine Straftat begehen, obwohl die Menschen gar nichts damit zu tun haben. Und genau dafür sind solche Erkennungsmethoden wichtig.

 

[Neawoulf]

Den Leuten, die einfach nur glauben wollen, was sie sehen, wird die Technik wohl nicht viel bringen. Und es besteht eben auch die Gefahr, dass solche Erkennungstechnik dazu genutzt wird, die Deepfake-Qualität zu verbessern. Aber was soll man sonst dagegen tun?

Spätestens dann, wenn es vor Gericht geht, ist es eben von Vorteil, wenn man Deepfakes erkennen kann. Ich möchte nicht, dass "mich" jemand bei ner Strafttat filmt und gleich noch "Beweis"material in Form eines Videos mitliefert.

Das kann echt böse enden und ohne Erkennungssoftware oder eindeutige Beweise, dass ich zur Tatzeit woanders war, kann nur das originale, nicht manipulierte Filmmaterial beweisen, wer wirklich auf dem Video zu sehen ist.

Deepfakes sind ne coole Technologie, aber leider auch gut geeignet, richtig Sch**ße damit zu bauen. Aber zurückerfinden kann man es leider nicht mehr.

 

[Mazrim_Taim]

Ich halte Deepfakes für gefährlich. Irgendwann sind da Menschen zu sehen die eine Straftat begehen, obwohl die Menschen gar nichts damit zu tun haben. Und genau dafür sind solche Erkennungsmethoden wichtig.

Irgendwann?
In Dland kann man bindende Verträge per Video machen.
Gab ein Bericht in der ct darüber.
Nicht toll.
Mir sind ja schon Verträge per Telefon ein Dorn im Auge...

 

[Threshold]

Irgendwann?
In Dland kann man bindende Verträge per Video machen.
Gab ein Bericht in der ct darüber.
Nicht toll.
Mir sind ja schon Verträge per Telefon ein Dorn im Auge...

Wie willst du das mit z.B. einer Onlinebank sonst machen?

 

[PCGH_Torsten]

Früher™ gingen Verträge und Unterschrift zwingend per Post hin und her. Das dauerte zwar etwas länger, beinhaltete aber automatisch eine Standort-Verifikation, beidseitig archivierbare Dokumente und eben gerade die zeitliche Verzögerung machte es für Angreifer extrem arbeitsaufwendig, den gesamten Prozess zu faken. Outgesourcte Video-Verifikation, die so billig und so schnell wie möglich abgewickelt werden soll, macht Identitätsdiebstahl deutlich leichter. (Und Datendiebstahl gleich mit.)