Deepfakes – Sicher(er) durch den Dschungel kritischer KI-Fälschungen

Stell dir vor, du siehst ein Video einer berühmten Person, die etwas total Skandalöses sagt. Würdest du es sofort glauben? Was wäre, wenn es sich um einen sogenannten Deepfake handelt? Deepfakes sind manipulierte oder sogar komplett gefälschte Video- oder Audioclips, die mithilfe von künstlicher Intelligenz (KI) erstellt werden. Sie ahmen das Aussehen und die Stimme echter Menschen täuschend echt nach – zumindest, wenn die Technologie gut entwickelt wurde. Nicht alle Deepfakes sind so realistisch, dass sie schwer zu erkennen sind; der Grad der Täuschung hängt stark von der Qualität der verwendeten Methoden und Daten ab.

Was sind Deepfakes und wie entstehen sie?

Deepfakes entstehen, indem KI-Technologien große Mengen von Bild- und Tondaten analysieren. Diese Daten werden genutzt, um ein Video oder einen Audioclip zu erzeugen, in dem eine reale Person scheinbar Dinge sagt oder tut, die sie in Wirklichkeit nie getan hat. Die Technik ist so weit fortgeschritten, dass gut gemachte Deepfakes oft schwer von echten Inhalten zu unterscheiden sind. Doch der Erkennungsaufwand variiert: Manche Deepfakes sind sofort als Fälschungen erkennbar, während andere, je nach Methode und Aufwand, sehr realistisch wirken.

Warum sind diese Technologie problematisch?

Deepfakes können für harmlose Dinge, wie witzige Videos oder Filmeffekte, genutzt werden. Problematisch wird es jedoch, wenn sie zur Verbreitung von Desinformation oder zum Identitätsdiebstahl eingesetzt werden. Durch gefälschte Videos könnten falsche Informationen verbreitet und Personen oder sogar ganze Gruppen gezielt geschädigt werden. In sozialen Medien verbreiten sich solche Inhalte schnell und unkontrolliert, was ihre Gefahr zusätzlich erhöht.

Stell dir vor, jemand nutzt Deepfake-Technologie, um im Namen eines Freundes peinliche oder gefährliche Nachrichten zu verschicken. Das könnte zu großen Problemen führen, weil die betroffene Person sich gar nicht gegen diese falschen Inhalte wehren kann. Daher ist es wichtig, Inhalte im Netz kritisch zu betrachten und sich zu fragen: „Ist das wirklich echt?“

Dies alles sind auch ethische Themen oder haben damit zu tun. Dies haben wir in einem anderen Beitrag beläuchtet: KI und Ethik

Was tun Unternehmen gegen Deepfakes?

Technologieunternehmen und Forschungseinrichtungen entwickeln verschiedene Methoden, um die Verbreitung von Deepfakes zu erkennen und einzuschränken. Hier sind drei Ansätze:

1. Digitale Wasserzeichen Digitale Wasserzeichen sind unsichtbare Markierungen, die in Bild- oder Videodateien eingebettet werden. Diese Wasserzeichen enthalten Informationen über den Ursprung der Datei und können anzeigen, ob das Medium bearbeitet wurde. Wenn z. B. ein Nachrichtensender ein Wasserzeichen in seine Originalvideos einfügt, lässt sich anhand dieses Wasserzeichens prüfen, ob ein Video unverändert ist oder ob nachträglich etwas hinzugefügt wurde. Allerdings sind digitale Wasserzeichen noch nicht flächendeckend eingeführt und können teilweise umgangen werden, was ihre Wirksamkeit einschränkt.
2. KI-Erkennungssoftware KI-Algorithmen können spezifische Merkmale in Videos analysieren, die auf Manipulationen hinweisen. So erkennen Algorithmen, wenn Gesichtsausdrücke nicht ganz zu den Bewegungen passen oder wenn Lichteffekte unnatürlich wirken. Eine Technik namens „Inpainting Detection“ untersucht beispielsweise, ob bestimmte Pixel in einem Video neu generiert wurden. Diese Art von Technologie wird in der Praxis bereits genutzt, um Deepfake-Inhalte zu kennzeichnen, aber auch hier gibt es Herausforderungen, da sich die Fälschertechniken weiterentwickeln.
3. Inhaltsnachweise und Quellenangaben Unternehmen arbeiten daran, Inhalte mit einem Verifizierungsprotokoll zu versehen, das Angaben zur Herkunft, dem Erstellungsdatum und den Modifikationen von Videos und Bildern enthält – wie ein digitaler Fingerabdruck. Wenn du auf ein Video stößt, das über dieses Protokoll verfügt, kannst du genau nachvollziehen, wann und wie der Inhalt erstellt wurde. Diese Technik wird in der Content Authenticity Initiative (CAI) getestet, die eine vertrauenswürdige Infrastruktur für digitale Inhalte schaffen soll.

Was bedeutet das für das Urheberrecht?

Das Urheberrecht schützt Werke wie Musik, Texte oder Bilder, die von Menschen geschaffen wurden. Aber was passiert, wenn eine KI eigenständig Inhalte generiert? Einfache Regeln sind hier schwer anzuwenden, und rechtlich gibt es noch viele offene Fragen.

1. Wer besitzt das Urheberrecht?
   Normalerweise schützt das Urheberrecht den menschlichen Schöpfer eines Werks. Aber wenn eine KI ein Musikstück oder ein Bild erstellt, wird es schwierig, den Urheber festzulegen. Gehört das Werk dann der KI, den Entwicklerinnen und Entwicklern der KI, oder dem Unternehmen, das die KI bereitstellt? Dieses Problem führt aktuell zu Diskussionen unter Juristen und Entwicklungsfirmen, die dringend klären müssen, wer in solchen Fällen die Rechte an den KI-generierten Inhalten besitzt. Bislang gibt es keine einheitlichen Lösungen, und verschiedene Länder haben unterschiedliche Regelungen.
2. Beispiele für KI-erstellte Inhalte
   In der Kunst- und Unterhaltungsbranche gibt es bereits mehrere bekannte KI-Künstler wie „AIVA“ (Artificial Intelligence Virtual Artist), eine KI, die eigenständig Musik komponiert. Auch in der Textgenerierung, etwa durch GPT-Systeme, entstehen Inhalte, bei denen das Urheberrecht unklar ist. Dies führt zu der Frage, ob Menschen oder Institutionen für KI-generierte Inhalte verantwortlich sein sollen und inwiefern das Urheberrecht an diese neue Technologie angepasst werden sollte.
3. Neue Gesetzesinitiativen
   Einige Länder, darunter die USA und die EU, entwickeln derzeit Gesetze, um den Schutz für KI-generierte Werke zu regeln und Missbrauch zu verhindern. Diese Gesetze sollen sicherstellen, dass die Menschen, deren Daten und Inhalte von KI-Systemen genutzt werden, geschützt sind und dass KI-Verstöße gegen das Urheberrecht erkennbar bleiben.

Fazit: Wie kannst du mit den offenen Fragen des Urheberrechts umgehen?

Für euch ist es wichtig, vorsichtig mit KI-generierten Inhalten umzugehen, insbesondere wenn ihr sie online veröffentlicht oder teilt. Die rechtliche Lage rund um KI ist aktuell noch unklar, was für euch Risiken mit sich bringt. Zum Beispiel könnte eine selbst erstellte KI-Komposition urheberrechtliche Probleme verursachen, wenn ihr sie auf einer eigenen Webseite oder in einem Livestream verwendet. Diese Unsicherheit bedeutet, dass ihr genau überlegen solltet, wie und wo ihr KI-Inhalte teilt.

Weitere Punkte:

1. Transparenz und Respekt: Gib immer an, wenn KI-Tools zur Erstellung deiner Inhalte beigetragen haben. Das fördert einen verantwortungsvollen Umgang und zeigt anderen, wie der Inhalt entstanden ist.
2. Verantwortungsbewusster Umgang mit KI-Inhalten: Betrachte KI-generierte Werke als Gemeinschaftsprojekte und teile sie mit Bedacht. Andere könnten ebenfalls Rechte oder Erwartungen daran haben.
3. Wissen und Abwarten: Da das Urheberrecht sich weiterentwickelt, lohnt es sich, die aktuellen Diskussionen zu verfolgen. So bist du immer auf dem neuesten Stand und kannst dich entsprechend verhalten.

Tipps für dich – So erkennst du Deepfakes und schützt dich

1. Gib Quellen an: Wenn du KI-Tools zur Erstellung von Inhalten verwendest, weise darauf hin, dass eine KI beteiligt war. Das zeigt Transparenz und kann rechtliche Missverständnisse verhindern.
2. Vorsicht bei Veröffentlichungen: Überlege genau, ob und wo du KI-generierte Inhalte online teilst – besonders, wenn du sie auf öffentlichen Plattformen oder sozialen Netzwerken verbreitest.
3. Urheberrechte beachten: Vermeide es, KI-generierte Musik oder Bilder in Streams oder Videos zu verwenden, ohne vorher zu prüfen, ob dies erlaubt ist. Es könnte sein, dass Urheberrechte anderer betroffen sind.
4. Sei achtsam mit eigenen Webseiten oder Projekten: Wenn du KI-Inhalte auf einer eigenen Webseite nutzt, stell sicher, dass du die rechtliche Seite kennst, um mögliche Probleme zu vermeiden.
5. Schau genau hin: Kleine Details wie unnatürliche Bewegungen oder unscharfe Ränder können Hinweise darauf sein, dass ein Deepfake nicht echt ist.
6. Prüfe den Ursprung: Wenn ein Video besonders sensationell ist, recherchiere die Quelle. Verlässliche Nachrichtenquellen geben oft zusätzliche Informationen.
7. Nutze Tools zur Fälschungserkennung: Einige Online-Tools können Deepfakes analysieren. Auch soziale Netzwerke kennzeichnen zunehmend manipulierte Inhalte.
   1. WeVerify bietet ein Deepfake-Detektor-Tool, das speziell zur Überprüfung von Inhalten auf sozialen Medien und zur Bekämpfung von Desinformation entwickelt wurde. Es nutzt eine Kombination aus Künstlicher Intelligenz und menschlicher Überprüfung und bietet dir eine einfache Möglichkeit, Deepfakes direkt über die URL zu analysieren. Verfügbar unter weverify.eu
   1. Sensity AI ist ein umfassendes Tool für die Deepfake-Analyse, das mit einer hohen Genauigkeit arbeitet und dir ermöglicht, Videos oder Bilder hochzuladen und zu prüfen. Sensity verwendet eine forensische Herangehensweise und kann GAN-generierte (Künstliche Generative Netzwerke) Inhalte mit bis zu 99 % Genauigkeit identifizieren. Erfahre mehr unter sensity.ai
   1. Weitere Quellen sind unite.ai oder vlinkinfo.com.
8. Bleibe informiert: Die Technik entwickelt sich ständig weiter. Vertrauenswürdige Websites bieten regelmäßig neue Tipps zur Deepfake-Erkennung.
9. Diskutiere kritisch: Hol dir Meinungen ein, wenn du dir unsicher bist. Oft hilft ein Austausch, um eine fundierte Einschätzung zu gewinnen

Weiterführende Links

Hier findest du mehr Informationen über Deepfakes und wie du dich davor schützen kannst:

Raspberry Pi Foundation – Ethik in der KI
Die Raspberry Pi Foundation bietet Artikel und Lektionen, die ethische Fragen in der KI und Technologie beleuchten. Themen wie Datenschutz, faire Algorithmen und Deepfake-Erkennung werden kindgerecht behandelt.
Ethik in der KI – Raspberry Pi Foundation

Google’s Be Internet Awesome
Ein Lernprogramm von Google, das Kindern und Jugendlichen beibringt, sicher und bewusst mit Online-Inhalten umzugehen. Themen wie Fake News, Desinformation und das Erkennen manipulierter Inhalte werden angesprochen.
Be Internet Awesome

Common Sense Media
Common Sense Media bietet Ressourcen für Kinder und Eltern zur Medienkompetenz, mit spezifischen Abschnitten zu Deepfakes, Ethik in der KI und sicherem Verhalten im Internet.
Common Sense Media