Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Bild

Bei diesem Deepfake-Video wurde Melania Trumps Gesicht durch Putin ersetzt. Solche Satire-Beiträge will Facebook weiterhin zulassen. screenshot: youtube

Facebook verbietet Deepfake-Videos – das musst du wissen



Facebook verbietet vor den US-Wahlen sogenannte Deepfake-Videos. Entsprechende Filme, die von Usern hochgeladen werden und eine falsche Authentizität vortäuschen, würden künftig von der Plattform gelöscht, teilte Facebook am Montag über seinen Newsroom mit.

Gibts Ausnahmen?

Ja. Ausgenommen vom Deepfake-Verbot seien Parodien oder Satire. Wobei ein solcher Ermessensspielraum erwartungsgemäss zu grossen Diskussionen führen dürfte.

In die Kategorie Satire etwa könnte laut Spiegel-Bericht – je nach Definition –, der Deepfake-Clip fallen, in dem sich Mark Zuckerberg vermeintlich zum Weltherrscher erklärte. Das Video war im Sommer 2019 von den Künstlern Bill Posters und Daniel Howe auf Instagram hochgeladen worden.

Bei Deepfake-Videos werden beispielsweise über künstliche Intelligenz, bzw. Bildbearbeitungs-Algorithmen, authentisch wirkende Sequenzen geschaffen. So können Politikern Worte in den Mund gelegt werden, die sie nie gesagt haben.

Wie genau Facebook Deepfakes als solche identifizieren will, wird in dem Blogeintrag nicht im Detail erklärt. Der US-Konzern verweist lediglich auf eine Brancheninitiative namens Deepfake Detection Challenge und eine Zusammenarbeit Facebooks mit der Nachrichtenagentur Reuters.

Welche Videos sind problematisch?

Prominentes Opfer einer Video-Manipulation war im vergangenen Jahr die US-Politikerin Nancy Pelosi und demokratische Gegenspielerin von Präsident Donald Trump.

Bei dem Clip wurde aber nur die Abspielgeschwindigkeit der Aufnahme reduziert und im Anschluss die Tonhöhe angepasst – dadurch wirkte die 79-jährige Politikerin wie betrunken.

Original und geschickte Manipulation:

abspielen

Video: YouTube/Washington Post

Facebook weigerte sich, das entsprechende Video trotz User-Rückmeldungen zu löschen. Spiegel Online hält fest, dass im Fall Pelosi zwar Video-Material technisch manipuliert worden sei, der Politikerin seien aber keine anderen Worte in den Mund gelegt worden. Und auch maschinelles Lernen habe bei der Manipulation keine Rolle gespielt.

Doch nach den neuen Regeln müsste Facebook solche Video-Manipulationen nach Reklamationen umgehend löschen, oder?

Zwar sei es grundsätzlich zulässig, Videos zu bearbeiten, etwa, um Bild und Ton zu verbessern oder gewisse Abschnitte herauszuschneiden, erklärte Facebook-Managerin Monika Bickert. Anders sei dies bei «in die Irre führenden, manipulierten Videos».

Gilt dies auch für Facebook-Werbung?

Ja.

Insbesondere – und im Gegensatz zu dem, was Facebook anfangs sagte – gelte die neue Richtlinie sowohl für Werbung als auch für herkömmliche User-Posting, schreibt The Intercept.

Das unabhängige Investigativ-Magazin zitiert Nina Jankowicz, eine US-amerikanische Expertin für russische Desinformations-Kampagnen. Sie twitterte, sie sei «immer noch mehr besorgt über billige Fälschungen als über Deepfakes».

Reicht das?

Nein, findet Nina Jankowicz.

Grob bearbeitete, absichtlich irreführende Videos und Bilder – sogenannte Cheap Fakes – seien weiterhin effektiver, und sie seien immer noch auf den meisten Plattformen erlaubt.

Es gebe alle möglichen Wege, die Leute zu täuschen. Man könne auch ein altes Video nehmen und ein neues Datum darauf setzen oder es einfach erneut veröffentlichen und so tun, als wäre es brandneu, um jemandem zu schaden.

The Intercept hatte in einem früheren Beitrag geschrieben, Deepfake-Videos seien nicht das Hauptprobem, wenn es um Wahlmanipulation durch Fake News gehe:

«Das Hochladen eines algorithmisch manipulierten Videos wird wahrscheinlich die Aufmerksamkeit von automatischen Filtern erregen, während konventioneller Filmschnitt und offensichtliche Lügen nicht auffallen werden.»

Was tut Facebook gegen Fake-Videos?

Bleibt die Frage, wie Facebook Deepfake-Videos und andere Fälschungen möglichst schnell erkennen will? Dies gilt natürlich auch für die Facebook-Tochter Instagram.

Mark Zuckerbergs Konzern verweist im aktuellen Blogbeitrag nur auf das eigene «Fact Checking»-System, über das verschiedene externe Partner Fotos und Videos als «fake» oder «teilweise falsch» einstufen könnten. Diese Beiträge würden dann deutlich weniger prominent angezeigt im Newsfeed. Und wer markierte Fälschungen teilen wolle, bekomme einen Hinweis, dass es sich um problematische Inhalte handle.

Vor der US-Präsidentschaftswahl im November wächst die Sorge vor Falschinformationen im Netz, die Wähler manipulieren könnten. Der Druck auf amerikanische Social-Media-Plattformen wie Facebook und Twitter ist gross, gegen die Verbreitung von Fake News und Propaganda vorzugehen.

Facebook-Managerin Monika Bickert erklärte, Deepfake-Videos seien im Internet zwar noch selten. «Weil ihre Nutzung zunimmt, stellen sie aber eine bedeutende Herausforderung für unsere Branche und Gesellschaft dar.»

Was ist Deepfake?

Als DeepFake werden täuschend echt wirkende Videos bezeichnet, bei denen das Gesicht einer Person durch das einer anderen Person ersetzt wird («Face Swap»). Die technische Vorgehensweise ist die gleiche. Das heisst, es wird künstliche Intelligenz missbräuchlich verwendet, um Fake-Videos ohne Einwilligung der Betroffenen zu erstellen.

(dsc/sda/afp)

DANKE FÜR DIE ♥
Würdest du gerne watson und Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet um die Zahlung abzuschliessen)
5 CHF
15 CHF
25 CHF
Anderer
Oder unterstütze uns per Banküberweisung.

«Hate Speech» bei Facebook – was toleriert wird, und was nicht

Diese Deepfakes musst du gesehen haben

Das könnte dich auch noch interessieren:

Abonniere unseren Newsletter

Bist du bereit, auszuflippen? Das sind ALLE Daten, die Facebook und Google von dir haben

Das Sammeln unserer persönlichen Daten geht weit über das hinaus, was sich viele von uns vorstellen können. Doch was wissen Google und Facebook wirklich über uns? Diese konkreten Beispiele führen es vor Augen.

Webentwickler Dylan Curran zeigt uns in 30 Tweets, wie viele Informationen Facebook und Google über ihre Nutzer sammeln. Seine Beispiele, die vermutlich das Bedürfnis in dir wecken werden, die Privatsphäre-Einstellungen bei Facebook und Google zu kontrollieren, wurden auf Twitter bereits weit über 100'000 Mal geteilt.

Es lohnt sich, seine Tweets gründlich zu lesen, um sich ein vollständiges Bild von der Art und Weise zu machen, wie unsere Daten gespeichert werden.

Wer ein Google-Konto (Gmail, …

Artikel lesen
Link zum Artikel