Deepfakes - was ist das? (2024)

Inhaltsverzeichnis

Im Internet taucht immer mal wieder der Begriff "Deepfake" auf. Doch was ist das eigentlich? Und warum ist es wichtig, sich über dieses Thema zu informieren? Antworten auf diese und weitere Fragen zu Fakes finden Sie hier.

  • Was sind Deepfakes?
  • Wie erkenne ich Deepfakes?
  • Wo begegne ich Deepfakes?

Was sind Deepfakes?

Um es kurz zu fassen: Ein Deepfake ist ein Video, bei dem das Gesicht von jemandem auf den Körper von jemand anderem gesetzt wurde. Das ist meistens so gut gemacht, dass man den Unterschied kaum bis gar nicht erkennt - und das kann selbstverständlich extrem problematisch sein. In der Langfassung bedeutet das: Bei einem Deepfake wird ein Bild oder ein Video mithilfe von einer künstlichen Intelligenz bearbeitet. Die KI wird dabei mit anderen Bildern oder Videoausschnitten gefüttert, um das Original in diese Richtung zu bearbeiten und anzupassen. Den Prozess des "Fütterns" nennt man Deep Learning. Im Gegensatz zu herkömmlichen Photoshop-Bearbeitungen sind Deepfakes meistens viel genauer.

Während Photoshop normalerweise genutzt wird, um Bilder ein wenig grafisch zu verbessern, zielen Deepfakes speziell darauf ab, das Gesicht einer Person zu verändern. Mithilfe von einfacher Software oder einem geschulten Blick lässt sich meistens schon erkennen, dass ein Bild durch Photoshop oder ein ähnliches Programm manipuliert wurde. Bei Deepfakes sieht das anders aus: Einerseits lässt sich ohne die richtige Profi-Software nicht feststellen, dass etwas verändert wurde. Die Qualität der Veränderung ist aufgrund der KI-Einbindung deutlich besser als bei Photoshop.

Andererseits können nicht nur Bilder mit einem Deepfake bearbeitet werden, sondern auch Videos. Vor allem in der Videobearbeitung ist dies ein großer Schritt, weil auch hier sonst die Veränderung oder Animation per Menschenhand gemacht wurde. Durch den Einsatz einer KI ist die Qualität der Bearbeitung deutlich gestiegen und eine Veränderung kaum zu erkennen. Da sich die Technik weiterentwickelt, sind Deepfakes inzwischen nicht nur für CGI-Techniker verfügbar. Fürs Smartphone gibt es diverse FakeApps, mit denen Sie Ihre Bilder zum Spaß bearbeiten können.

Wie erkenne ich Deepfakes?

Leider lassen sich manche Deepfakes gar nicht mit dem bloßen Auge erkennen. Häufig wird Software benötigt, die auf Pixel-Unterschiede achtet. Dennoch gibt es einige Tipps, wie Sie ein gefälschtes Video oder Bild vielleicht doch erkennen können:

  1. Ergibt das Bild oder Video Sinn? Dieser Punkt muss nicht auf jede Fälschung zutreffen. Aber wenn von einem prüden Instagram-Model auf einmal "oben ohne"-Bilder auftauchen, kann dies hinterfragt werden. Natürlich gibt es auch Situationen, in denen Personen durch ungewöhnliche Videos oder Bilder gerade auf sich aufmerksam machen wollen. Allerdings ist dies meist eher eine Seltenheit.
  2. Gibt es einen Qualitätsunterschied? Schauen Sie sich die Qualität des Gesichts/Kopfes und des restlichen Bildes an. Wenn Sie eines von beiden deutlich besser oder deutlich schlechter aussieht, ist dieses Video oder Bild wohl aus zwei Schnipseln zusammengesetzt. Auch eine leichte Unschärfe oder merkwürdige Skalierung können auf einen Fake hindeuten.
  3. Wie sieht es bei starken Winkeln aus? Deepfakes wirken zwar häufig täuschend echt, aber nur so lange das ganze Gesicht zu sehen ist. Wenn das Gesicht kurzzeitig bedeckt oder zur Seite gedreht ist, lässt sich häufig erahnen, ob es sich um einen Fake handelt.
  4. Ist alles konsistent? Alle Gesichter haben spezifische Merkmale. Das können Besonderheiten an den Augenbrauen oder der Nase sein oder auch Hautveränderungen wie Narben und Sommersprossen. Achten Sie darauf, dass auch Knochenstrukturen wie Kiefer und Wangenknochen wie beim Original sind. Außerdem kann bei einem Fake auch das Licht beziehungsweise die Schattierung oder der Hautton variieren. Wenn verschiedene Körperteile auf einmal nicht mehr so richtig zusammenpassen, wurde vermutlich bearbeitet.

Wo begegne ich Deepfakes?

Deepfakes begegnen uns auch immer wieder im Alltag. Die bekannten FaceSwap-Apps und -Filter nutzen ebenfalls diese Technik. Dabei werden beide Gesichter aufgenommen und quasi als Deepfake auf den Kopf des anderen projiziert. Ein anderes Beispiel ist Prinzessin Leia in "Rogue One". Carrie Fisher, die entsprechende Schauspielerin, war zu diesem Zeitpunkt schon deutlich zu alt für die Rolle. Deshalb wurde eine andere Schauspielerin eingesetzt. Anschließend wurde ein Computer mit den Original-Aufnahmen aus den Teilen 4-6 gefüttert, um via Deep Learning ein originalgetreues Gesicht für Prinzessin Leia zu konstruieren. Dieses wurde dann per Deep Fake in die bereits gedrehten Aufnahmen von Rogue One eingebettet, sodass daraus die fertigen Szenen für den Kinofilm entstanden sind.

Einige Beispiele für Deepfakes finden Sie hier.

Leider sind Beispiele für Deepfakes nicht immer positiv oder nützlich. Seit die Technik 2017 deutlich verfeinert wurde, tauchen auch immer wieder täuschend echt aussehende Nacktbilder auf. Meistens sind es Deepfakes von Frauen, häufig Prominente. Das Schlimme daran ist, dass auf den ersten Blick meistens nicht erkannt wird, dass es sich nicht um ein echtes Bild handelt. Das kann schwerwiegende Konsequenzen für die Personen haben. Denn auch wenn das ursprüngliche Bild gelöscht ist, gilt: Das Internet vergisst nie. Immer wieder tauchen solche Fälle in den Medien auf. Wie so etwas, auch in Bezug auf Strafen und Strafmaße in Zukunft gehandhabt werden soll, ist noch nicht ganz klar.

Mehr Infos
  • Fake-Apps erkennen
  • Sicherheit von Online-Banking - worauf muss ich achten?
  • Phishing-Mails erkennen und richtig handeln

(como)

Deepfakes - was ist das? (2024)

FAQs

What do you mean by deepfake? ›

A deepfake is an image, or a video or audio recording, that has been edited using an algorithm to replace the person in the original with someone else (especially a public figure) in a way that makes it look authentic.

What is the legal definition of deepfake? ›

Deepfakes are simulated images, audio recordings, or videos that have been convincingly altered or manipulated to misrepresent someone as saying or doing something that the person did not actually say or do.

Are deepfakes illegal? ›

Deepfakes of child sexual abuse or “revenge porn” — creating an image of a real person with the intent to harm their reputation — could be illegal obscenity. Perjury. Deepfakes could be used to manufacture false testimony in a video deposition, court testimony or other statements made under oath. Right of publicity.

How do deepfakes work? ›

Essentially, a deepfake is a photo, audio, or video that has been manipulated by Machine Learning (ML) and Artificial Intelligence (AI) to make it appear to be something that it is not. Deepfakes are not videos that have been reworked by video editing software.

Is deepfakes safe? ›

A “deepfake” is fabricated hyper-realistic digital media, including video, image, and audio content. Not only has this technology created confusion, skepticism, and the spread of misinformation, deepfakes also pose a threat to privacy and security.

How to detect deep fakes? ›

Detecting Deepfakes
  1. Lip-Syncing and Facial Movement Analysis: Deepfakes often struggle with accurately syncing the lip movements of the subject with the audio. ...
  2. Inconsistencies in Blinking and Eye Movement: Deepfake videos may exhibit unnatural blinking patterns or lack of blinking altogether.
Mar 21, 2024

Can deepfakes be used in court? ›

In legal settings, proving that a video or audio recording is a deepfake can be challenging, especially as the technology becomes more sophisticated. As it becomes harder to authenticate the genuineness of such evidence, deepfakes can undermine the reliability of audiovisual material as evidence in legal proceedings.

Can anyone make deepfakes? ›

This article will focus more on the technical side of how deepfakes work. Today, almost anyone can manipulate videos, audio, and images to make them look like something else. You don't need programming skills to create a deepfake.

Can you sue someone for a deepfake? ›

The punishment for posting a deepfake varies by jurisdiction and the nature of the deepfake. It can range from monetary fines to imprisonment, especially in cases of revenge porn or when it threatens national security. Hollywood actresses and other victims of deepfake can also take civil legal action for damages.

Are deepfakes identity theft? ›

However, the technology isn't just for entertainment or fake news. As deepfake technology advances, cyber criminals are stealing identities to access or create online accounts and commit fraud.

Are deepfakes allowed on TikTok? ›

TikTok says it will not allow any synthetic media “that contains the likeness of any real private figure” or that shows a public figure endorsing a product or violating the app's other policies (i.e., its prohibitions on hate speech).

Is it illegal to make AI images of people? ›

Use of a celebrity's image without permission can be several different types of torts, depending on what it's used for. Usually, it violates the prohibition of using a likeness of someone without permission. It doesn't implicate copyright laws. AI generated images have no copyright protections.

What is the most common deepfake? ›

A common example of a deepfake video is 'face swap' in which the face of the victim is placed on a different body. This could create a scene which is embarrassing or even illegal. Another deepfake is known as 'face puppetry' in which the victim's lip movements are manipulated to literally put words into their mouths.

Can you make deepfakes on your phone? ›

PhotoDirector is the ultimate harmless deepfake app that lets you easily swap faces! Whether you want to create hilarious memes or do a virtual cosplay, this app is perfect for all your entertainment needs.

Who made deepfake? ›

The Origin of Deepfakes

Goodfellow introduced the machine learning concept known as Generative Adversarial Network (GAN). Eventually, GAN would enable the next generation of highly sophisticated image, video, and audio deepfakes.

How to avoid deepfakes? ›

Use Watermarks on Photos

Watermarks help prevent deepfakes by adding a visible marker to the original content. This helps to identify the source and authenticity of the material, making it harder for malicious actors to pass off manipulated content as real, thereby protecting individuals' reputations and privacy.

What is the meaning of deepfake in English? ›

a video, that has been digitally manipulated to replace one person's likeness convincingly with that of another, often used maliciously to show someone doing something that he or she did not do.

Is deepfake free? ›

Is there a free deepfake? Yes, several free deepfake software and apps are available for use. DeepFaceLab and FaceSwap are free software tools, and apps like Reface and ZAO also offer free versions. Keep in mind that free versions may have limitations or may include watermarks on the output videos.

References

Top Articles
Latest Posts
Recommended Articles
Article information

Author: Kieth Sipes

Last Updated:

Views: 5693

Rating: 4.7 / 5 (67 voted)

Reviews: 90% of readers found this page helpful

Author information

Name: Kieth Sipes

Birthday: 2001-04-14

Address: Suite 492 62479 Champlin Loop, South Catrice, MS 57271

Phone: +9663362133320

Job: District Sales Analyst

Hobby: Digital arts, Dance, Ghost hunting, Worldbuilding, Kayaking, Table tennis, 3D printing

Introduction: My name is Kieth Sipes, I am a zany, rich, courageous, powerful, faithful, jolly, excited person who loves writing and wants to share my knowledge and understanding with you.