Es ist der absolute Albtraum: Nur ein paar Klicks, und das eigene Gesicht wird ungefragt in ein Porno montiert. Was früher nach schlechter Photoshop-Arbeit aussah, ist dank moderner KI heute von der Realität kaum noch zu unterscheiden. Betroffen sind längst nicht mehr nur Hollywood-Stars wie Taylor Swift oder Scarlett Johansson. Immer häufiger trifft es auch ganz normale Frauen, die einfach nur Bilder auf Social Media teilen. Genau an diesem Punkt übernimmt der IT-Forensiker Jens Kramosch die digitale Spurensuche.

IT-Forensiker Jens Kramosch im Interview

Jens Kramosch (42) ist Gründer von Lesk.red aus Erfurt. Sein Unternehmen spürt Deepfakes auf, analysiert ihre Verbreitung und unterstützt Betroffene dabei, gegen manipulierte Inhalte vorzugehen. Im Interview verrät er, wie er vorgeht, was genau es braucht, um einen Deepfake zu erstellen und wie wir uns vor digitaler Gewalt schützen können.

FÜR SIE: Was genau sind Deepfake-Pornos?

Das sind manipulierte pornografische Inhalte, bei denen das Gesicht, der Körper oder sogar die Stimme einer Person ohne deren Zustimmung in ein Video oder Bild eingefügt wird. Die Betroffenen haben mit diesen Aufnahmen nichts zu tun, wirken aber für Außenstehende so, als wären sie beteiligt

FÜR SIE: Wie wird manipuliert?

Deepfake-Pornos entstehen heute auf zwei Wegen: Häufig wird das Gesicht einer Person täuschend echt auf bereits vorhandenes pornografisches Videomaterial gelegt – eine Art digitaler „Face Swap". Immer häufiger werden solche Videos aber auch komplett neu mit KI generiert. Dabei reichen oft schon wenige Bilder und ein passender Prompt, um erstaunlich realistische Ergebnisse zu erzeugen.

FÜR SIE: Können Sie vereinfacht die Technik dahinter erklären?

Im Kern funktioniert das über KI, die mit Bildern oder Videos einer Person trainiert wird. Die Systeme lernen, wie ein Gesicht aussieht und sich bewegt. Anschließend kann dieses Gesicht entweder auf bestehendes Material übertragen oder in komplett neu generierte Inhalte eingebaut werden. Oft gesteuert über einfache Texteingaben, sogenannte Prompts.

FÜR SIE: Warum sehen die Ergebnisse heute so realistisch aus?

Die Entwicklung war extrem schnell. Noch vor wenigen Jahren wirkten viele KI-Videos verzerrt oder unrealistisch. Heute sind die Modelle so gut, dass sie feinste Details wie Haut, Licht oder Mimik sehr überzeugend darstellen können. Mit den richtigen Prompts ist es inzwischen oft kaum möglich, echtes von künstlichem Material zu unterscheiden.

FÜR SIE: Welche Rolle spielen dabei unsere öffentlichen Bilder und Videos auf Instagram & Co.?

Eine zentrale Rolle. Öffentlich zugängliche Bilder, etwa aus Instagram oder Facebook, liefern genau das Trainingsmaterial, das die KI braucht. Schon wenige Fotos können ausreichen. Mit mehr Bildern wird das Ergebnis noch präziser. In vielen Fällen stammen diese Inhalte direkt aus Social Media.

FÜR SIE: Kann Jeder solche Inhalte erstellen?

Grundsätzlich ja. Die Einstiegshürden sind stark gesunken. Viele Tools sind heute so aufgebaut, dass sie mit einfachen Texteingaben funktionieren. Je besser jemand diese Prompts formuliert, desto realistischer wird das Ergebnis.

FÜR SIE: Können solche Inhalte überhaupt wieder vollständig aus dem Internet verschwinden?

Das ist sehr schwierig. Wenn ein Video früh erkannt wird, lässt es sich mit etwas Glück noch entfernen. Sobald es aber mehrfach geteilt und kopiert wurde, verbreitet es sich schnell weiter. Und im sogenannten Backroom des Internets bleiben viele Inhalte dauerhaft auffindbar oder tauchen später wieder auf.

FÜR SIE: Betrifft das Problem ausschließlich Prominente?

Nein, längst nicht mehr nur Prominente. Die Einstiegshürde ist so niedrig geworden, dass zunehmend auch private Personen betroffen sind.

FÜR SIE: Was sind denn die häufigsten Beweggründe der Täter?

Die Motive reichen von voyeuristischen Interessen bis hin zu gezielter Demütigung. In vielen Fällen geht es um digitale sexuelle Gewalt oder um Rache, etwa nach Beziehungen. Besonders häufig sehen wir Fälle nach Trennungen oder Konflikten, also als gezielte Angriffe gegen einzelne Personen. Die Technik wird genutzt, um Kontrolle auszuüben und Menschen bloßzustellen.

FÜR SIE: Was kann ich tun, wenn ich selbst Opfer eines Deepfakes werde?

Schnell handeln ist entscheidend: Beweise sichern, also Links speichern und Screenshots machen, und Inhalte direkt bei Plattformen melden. Zusätzlich sollte man rechtliche Schritte prüfen und, wenn möglich, professionelle Unterstützung einbeziehen, um die Verbreitung nachzuverfolgen. Je früher reagiert wird, desto besser lässt sich die Ausbreitung eindämmen.

FÜR SIE: Woran lassen sich Deepfakes aktuell noch erkennen und wo kommen Sie als Experte an Ihre Grenzen?

Ich vergleiche das oft mit einem Tatort: Zuerst schaut man sich das Gesamtbild an, dann die Details. Auffällig sind häufig Haare, Haaransatz, Wimpern oder Hautstruktur. Oft wirkt die Haut zu glatt. Wichtig ist auch, die Bildränder zu prüfen. Denn viele KI-Modelle fokussieren sich auf das Gesicht und vernachlässigen das Drumherum. Gleichzeitig werden die Fakes immer besser, und manche sind selbst für Experten schwer zu erkennen.

FÜR SIE: Wie arbeitet Ihr Unternehmen bei der Aufdeckung solcher Inhalte?

Wir spüren Deepfake-Inhalte gezielt auf, analysieren deren Verbreitung und dokumentieren, wo sie zuerst auftauchen und wie sie sich weiterverbreiten. Für Betroffene erstellen wir eine gesicherte Beweiskette, die auch rechtlich genutzt werden kann, etwa indem Inhalte „eingefroren“ und forensisch dokumentiert werden.

FÜR SIE: Bei Ihnen kommen auch KI-Tools zum Einsatz. Wie zuverlässig arbeiten diese Hilfsmittel?

Ja, wir nutzen KI, um KI-Fakes zu erkennen. Diese Systeme können Muster und Unstimmigkeiten entdecken, die für das menschliche Auge kaum sichtbar sind – zum Beispiel auf Pixelebene. Am Ende arbeiten wir aber immer mit einer Kombination aus Technologie und menschlicher Analyse, um verlässliche Ergebnisse zu bekommen.

FÜR SIE: Wie können wir uns vor Deepfakes schützen?

Einen vollständigen Schutz gibt es nicht. Geschlossene Social-Media-Profile können helfen, aber nicht, wenn Inhalte oder Täter aus dem eigenen Umfeld stammen. Grundsätzlich gilt: Wer weniger Material öffentlich teilt, reduziert das Risiko. Ganz vermeiden lässt es sich aktuell aber nicht.

FÜR SIE: Wie ist die rechtliche Lage in Deutschland aktuell – sind Betroffene ausreichend geschützt?

Aus meiner Sicht gibt es noch Lücken. Es existieren zwar rechtliche Grundlagen, etwa über Persönlichkeitsrechte, aber in der Praxis ist es oft schwierig, Täter schnell zu identifizieren und Inhalte zügig entfernen zu lassen. Das Thema digitale Gewalt wird aktuell stärker diskutiert, aber die Entwicklung der Technik ist sehr schnell.

FÜR SIE: Werden wir in Zukunft überhaupt noch zwischen echt und fake unterscheiden können?

Es wird deutlich schwieriger werden. Künftig wird es wahrscheinlich wichtiger sein, echte Inhalte aktiv zu kennzeichnen. Zum Beispiel mit einer Art digitalem Echtheitsnachweis. Gleichzeitig bin ich optimistisch, dass auch die Erkennungstechnologien weiter besser werden, weil jede KI gewisse Muster hinterlässt.

FÜR SIE: Wie können wir das Problem besser in den Griff bekommen?

Wir müssen rechtliche Grauzonen schließen und Plattformen stärker in die Verantwortung nehmen. Gleichzeitig braucht es mehr Bewusstsein für digitale Gewalt. Die aktuelle Aufmerksamkeit für das Thema ist ein wichtiger Schritt, aber die Regulierung muss mit der Geschwindigkeit der Technologie mithalten.