Deepfakes und manipulierte Realitäten
Buch

Deepfakes und manipulierte Realitäten

Technologiefolgenabschätzung und Handlungsempfehlungen für die Schweiz

Murat Karaboga
vdf Hochschulverlag, 2024
Buch kaufen

Offline lesen oder anhören

Amazon Kindle
  • 0.5×
  • 0.75×
  • 1×
  • 1.25×
  • 1.5×
  • 1.75×
1×

Bewertung der Redaktion

7

Qualitäten

  • Wissenschaftsbasiert
  • Systematisch
  • Überblick

Rezension

Moderne Deepfake-Technologien machen alles Denkbare darstellbar: Ob Naturkatastrophen oder Terrorangriffe, Promi-Romanzen oder Geschäftsberichte – wenn ein einfacher Sprachbefehl es in die Welt setzen kann, wem oder was können wir dann noch glauben? Das Forscherteam hinter diesem Bericht hat Schweizer Bürger, Politikerinnen, Wirtschaftsakteure und Journalistinnen zu KI-generierten Inhalten befragt. Fazit: Das Thema birgt enormen gesellschaftlichen Sprengstoff. Um ihn zu entschärfen, braucht es eine durchdachte Regulierung, wirksame Aufklärung und mehr Eigenverantwortung der Nutzer.

Zusammenfassung

Deepfakes sind glaubwürdiger und gefährlicher geworden.

Fälschung und Manipulation sind so alt wie die Menschheit. Doch seit 2017 auf Reddit Videos von Pornodarstellerinnen auftauchten, deren Gesichter man mit Köpfen prominenter Frauen ausgetauscht hatte, sorgen sich viele Menschen um die immer komplexeren Deepfakes im Cyberspace. Inzwischen ist es möglich, Gesichtsausdrücke mittels künstlicher Intelligenz glaubhaft zu manipulieren, verschiedene Gesichter miteinander zu verschmelzen, gegeneinander auszutauschen und neue Gesichter zu kreieren. Die Technik des Ganzkörperpuppenspiels ermöglicht die Animation ganzer Körper, und Deepfake-Audios kopieren Stimmen und Sprechweisen realer Vorbilder.

Noch erfordern hochwertige Deepfake-Generatoren viel technisches Know-how und große Rechenkapazitäten. Doch das könnte sich schon bald ändern. Die Frage ist: Welche Risiken, aber auch Chancen birgt diese Technologie – und sind wir als Gesellschaft ausreichend darauf vorbereitet?

Die Technologie wurde durch generative KI befeuert – und könnte durch einen Mangel an Daten ausgebremst werden.

Ausgelöst wurde der Deepfake-Boom durch Fortschritte in der Entwicklung ...

Über den Autor

Murat Karaboga leitete das 13-köpfige Forschungsteam, das diesen Sammelband verfasst hat. Er ist Projektleiter am Competence Center Neue Technologien des Fraunhofer ISI und Lehrbeauftragter für Politikwissenschaft an der Universität Frankfurt.

Kommentar abgeben