Die m\u00f6glichen Bedrohungsszenarien und Angriffe im World Wide Web nehmen mit der voranschreitenden Entwicklung im digitalen Zeitalter ma\u00dfgeblich zu. Neben Malware, Ransomware, Phishing, Distributed-Denial-of-Service-Angriffen (DDoS) und Botnetzwerke geh\u00f6ren auch Deepfakes bald zum Standardrepertoire der Cyber-Kriminellen. Doch, wie bei jedem Angriffsszenario, gibt es auch hier Mittel und Wege, sich vor Deepfake Szenarien zu sch\u00fctzen und diese fr\u00fchzeitig zu erkennen.<\/p>\n
<\/p>\n
Deepfakes Szenarien kannte man bisher nur aus Hollywood, aus angesagtem Blockbuster Filmen mit viel Action, Verschw\u00f6rungstheorien und u.a. das Mitwirken von Geheimdiensten. Unter Deepfake Videos versteht man, mit Deepfake Software manipulierte Ton-, Video- oder Bildmaterial, dass wiederum gro\u00dfz\u00fcgig von technik-affinen Bedrohungsakteure im Netz verbreitet werden, um einen kriminellen Zweck zu erf\u00fcllen.<\/p>\n
Der Begriff \u201eDeepfake\u201c ist eine Verschmelzung der Begriffe \u201eDeep Learning\u201c und \u201eFake\u201c. In dieser Kombination bezeichnet man mediale Inhalte von Bild- und Tonaufnahmen, die recht authentisch (echt) wirken, aber mit einer k\u00fcnstlichen Intelligenz, beziehungsweise Deep Learning, hergestellt beziehungsweise ver\u00e4ndert wurden. Diese Deepfakeaufnahmen dienen meist zur T\u00e4uschung oder Blo\u00dfstellung.<\/p>\n
Die Qualit\u00e4t dieser Deepfakes hat sich mit dem technologischen Fortschritt mitentwickelt und mit der richtigen technischen Ausstattung (besonders durch hohe Grafikprozessoren) lassen sich heutzutage solche Deepfakes Videoaufnahmen, auf den ersten Blick kaum vom echtem Videoinhalten unterscheiden oder erkennen.<\/p>\n
Die Erstellung von den sogenannten Deepfake Videos erfordert neben dem notwendigen Know-how und Zeit, auch die technischen Voraussetzungen von Hard- und Software. Urspr\u00fcnglich kamen f\u00fcr die Erstellung der Deepfakes vor allem Autoencoder<\/a> zum Einsatz. Diese Autoencoder bestehen aus einem k\u00fcnstlichen neuronalen Netz, welches effizient lernt, aus einem Satz von Daten die wesentlichen Merkmale zu extrahieren und anschlie\u00dfend eine Dimensionsreduktion zu erstellen.<\/p>\n Dabei arbeitet der Autoencoder mit einem zweistufigen Prozess, mit dem er ein Deepfake erzeugt. Im ersten Schritt werden mithilfe des k\u00fcnstlichen Netzwerkes das Gesicht und markante Merkmale aus dem Originalen oder Quellbild extrahiert und in sogenannte Merkmalsvektoren zerlegt. Diese werden von Schicht zur n\u00e4chsten Schicht zu einem Modell zusammengef\u00fcgt. Im zweiten Schritt des Deepfakeprozesses \u00fcbernimmt die k\u00fcnstliche Intelligenz (KI) die Decodierung der Vektoren, richtet das Gesicht entsprechend der vorgegebenen Definition und Wunsch zur T\u00e4uschung aus und setzt dieses auf das urspr\u00fcngliche Original-Bildmaterial um. Bei der Manipulation durch einen Autoencoder ben\u00f6tigt es bei der Erstellung eines Deepfakes eine Vielzahl an Bild- oder Videomaterial mit den entsprechenden Aufnahmen des Gesichtes aus mehreren Blickwinkeln und mit Ber\u00fccksichtigung der verschiedensten Lichtverh\u00e4ltnisse. Der Prozess kann entsprechend einige Wochen in Anspruch nehmen, wenn die Leistung der Grafikprozessoren nicht optimal bereitgestellt werden.<\/p>\n Neben den eben beschriebenen Autoencoder werden \u00fcber ein Generative Adversarial Networks (GANs) die Deepfakes-Ergebnisse des Autoencoders weiterverarbeitet und verfeinert. Die Generative Adversarial Networks<\/a> sind im Vergleich zu einem Autoencoder ein generatives Netz, das entspricht einer Gruppierung von solchen mehreren neuralen Netzwerken, die an dem Ergebnis des Deepfakes gleichzeitig arbeiten k\u00f6nnen. So kann beispielsweise das eine generative Netz die dieselben Statistiken wie das Original aufweisen, w\u00e4hrend ein anderes,\u00a0 das diskriminative Netz versucht, Unterschiede zwischen der F\u00e4lschung und dem Original zu erkennen und es zu verschleiern.<\/p>\n Generative Adversarial Networks ist im Vergleich zum Autoencoder ein sehr zeitintensives, iteratives Vorgehen und erfordert Unmenge an Rechen-Leistung eines Grafikprozessors. Derzeit werden Generative Adversarial Networks (GANs) eher f\u00fcr realistische Bilder von fiktiven Personen genutzt. Die Gefahr liegt hier, dass die rasante Entwicklung von Deep Learning Hardware in absehbarer Zeit dies \u00e4ndert und die Technik f\u00fcr die Zwecke genutzt werden, f\u00fcr diese es eigentlich entwickelt worden sind.<\/p>\n <\/p>\n Selbst die europ\u00e4ische Polizeibeh\u00f6rde, Europol, warnt vor zuk\u00fcnftig verst\u00e4rkten Einsatz der Deepfake Technologie und geht davon aus, dass manipulierte Bild- und Videoaufnahmen in naher Zukunft zu den einfachen Straftaten z\u00e4hlen wird. In einem Bericht vom 28. April 2022 ver\u00f6ffentlicht das Europol Innovation Lab, die Bef\u00fcrchtungen zu Deepfake Videoaufnahmen<\/a> und gibt m\u00f6gliche Bek\u00e4mpfungswege vor. Die gr\u00f6\u00dfte Bef\u00fcrchtung der Fachleute ist es, dass durch die neue Technologie neue Formen der Cyberkriminalit\u00e4t entstehen k\u00f6nnten, die man derzeitig nicht genau absehen kann.<\/p>\n Bei den Deepfakes nutzen die Cyberkriminellen Desinformationskampagnen und die gef\u00e4lschten Inhalte, um die \u00d6ffentlichkeit zu t\u00e4uschen. Es gibt Organisationen und Spezialisten, die in der Deepfake-Technologie ein sehr hohes Risiko sehen und dem m\u00f6glichen Identit\u00e4tsdiebstahl \u2013 bei dem wiederum auch Deepfakes eingesetzt werden k\u00f6nnen. Diese Deepfakespirale k\u00f6nnte einen sehr hohen Schaden im privaten und gesellschaftlichen Bereich anrichten. Eine Studie des University College of London erw\u00e4hnt diese Technologie als gr\u00f6\u00dfte kriminelle Bedrohung f\u00fcr die heutige Gesellschaft<\/a>. Das Europol Innovation Lab hat zu dem Thema intensive Sekund\u00e4rforschung betrieben und ebenfalls in seinen Report integriert und er gibt einen Ausblick auf diese Ergebnisse.<\/p>\n T\u00e4uschungen und falsche Nachrichten gibt es seit Anbeginn der Informationsverbreitung, in dem Sinn ist es nichts Neues manipulierte Nachrichten zu verschicken, sondern lediglich die neue Art und Weise der Verbreitung der Informationen. Fachleuten zufolge verst\u00e4rkt sich der Trend zur Desinformation und Fake News in der Masse von neuen Informationen und Akteure setzen immer h\u00e4ufiger die Deepfake-Technologie f\u00fcr ihre Zwecke ein.<\/p>\n Nicht nur die Masse an den t\u00e4glichen Nachrichten, die man als autonormal User verfolgt, sondern auch die heutige Glaubw\u00fcrdigkeit wird zunehmend auf die Probe gestellt. Die Nachrichten und die verbreitenden Informationen beeinflussen tiefgreifend die Art und Weise, wie Menschen die Medien und die Autorit\u00e4t der \u00f6ffentlichen Einrichtungen und Institutionen wahrnehmen. Das Vertrauen in offiziellen Beh\u00f6rden und unabh\u00e4ngige Berichterstatter von offiziellen Fakten werden untergraben und hinterfragt. Experten f\u00fcrchten hier die Entstehung einer \u201egesellschaftliche Verwirrung\u201c, welche Quellen \u00fcberhaupt zuverl\u00e4ssig sind und welche Quellen es eben nicht sind. Die Spezialisten deklarieren diese Folgen als \u201eInformationsapokalypse\u201c und \u201eRealit\u00e4tsverlust\u201c der Gesellschaft.<\/p>\n Neben der Desinformation und Manipulation der \u00d6ffentlichkeit beziehungsweise der breiten Masse erleichtern Deepfakes verschiedene M\u00f6glichkeiten von kriminellen Machenschaften. Besonders werden Deepfakes f\u00fcr diverse Arten von Betrug, Dem\u00fctigung im Internet bis hin zur Erpressung oder Beweismittelf\u00e4lschung genutzt. Im Bereich Betrug z\u00e4hlt u. a. auch durch Deepfakes das Untergraben von visuellen Identit\u00e4tspr\u00fcfungen, das dazu genutzt werden kann f\u00fcr einen breiten Katalog an Straftaten wie Menschenhandel, Verkauf illegaler Waren und Terrorismus. Deepfakes eigenen sich besonders gut f\u00fcr alle kriminellen Aktivit\u00e4ten, die Dokumentenbetrug und Identit\u00e4tsf\u00e4lschung als Grundlage haben.<\/p>\n <\/p>\n Viele offizielle Beh\u00f6ren und Institute sind der Meinung, dass ein erstellter Deepfake auf den ersten Blick zwar glaubw\u00fcrdig erscheint, aber bei n\u00e4herer Betrachtung Fehler und Unzul\u00e4nglichkeiten enthalten k\u00f6nnen.<\/p>\n Auff\u00e4lligkeiten k\u00f6nnen u.a. sein:<\/p>\n Wenn man bei der Deepfakes Betrachtung auf die Kleinigkeiten, Fehler und Unstimmigkeiten achtet, kann man diese als F\u00e4lschung erkennen und entlarven. Zuk\u00fcnftig soll es zus\u00e4tzlich Software zum Erkennen von Deepfake Bildmaterial geben, so beispielsweise der Deepfake Detector von Facebook oder der Video Authenticator aus dem Hause Microsoft, um zwei Programme zu nennen. Diese Programme arbeiten, wie auch die Deepfake-Generatoren, mit maschinellem Lernen (\u201eDeep Learning\u201c) und verarbeiten die Daten in einem neuronalen Netzwerk (KI-Instanzen). Europol Innovation Lab weist zwar in seinem Bericht auf den derzeit hohen technischen Stand dieser Erkennungstools hin, z\u00e4hlt aber auch Einschr\u00e4nkungen auf, durch die die Software get\u00e4uscht werden kann. Es ist somit ein Wettlauf zwischen Deepfake Erkennungstool und Software zur Erstellung des Fake-Materials.<\/p>\n <\/p>\n Die in den letzten Jahren stattfindende Digitalisierung und der technologische Fortschritt haben zur Weiterentwicklung der Technologie zur F\u00e4lschung medialer Identit\u00e4ten und k\u00fcnstlichen Intelligenz gef\u00fchrt. Vor allen die sozialen Plattformen werden als neue Spielwiese zur Verbreitung des Deepfake Materials genutzt. Daher arbeiten Plattformanbieter von Meta \u00fcber Reddit bis zu TikTok intensiv an der Bek\u00e4mpfung von Deepfakes und nutzen eine Liste von Tools, diese aufzusp\u00fcren. So gelang es, erfolgreich das Deepfake-Video zu entlarven, in dem der ukrainische Pr\u00e4sident Selenskyj sich vermeintlich den russischen Invasoren ergab. Genau solche Beispiele zeigen, wie wichtig die rechtzeitige und vor allem fr\u00fchzeitige Erkennung von gef\u00e4lschtem Bildmaterial sein kann. Die Forschungsergebnisse aus dem Bericht von Europol deuten darauf hin, dass sich dieser Deepfake Trend fortsetzen wird und es ein regelrechter Wettlauf mit der Zeit gibt zwischen der Deepfake Erstellung und der Erkennung der F\u00e4lschung.<\/p>\n Beunruhigend ist es, dass die Erstellung entsprechender Deepfake Videos bereits im Darknet als Dienstleistung angeboten wird. Auch im Bereich Marketing zur Erstellung von Produktvideos oder Vorstellungsvideo etc. gibt es bereits kostenlose oder auch kostenpflichtige Tools, wie zum Beispiel Synthesia.io.<\/p>\n Auf diesen Dienstleistungsplattformen sucht man sich seinen Avatar aus, gibt seinen Text ein, w\u00e4hlt die Sprache und der Internetdienstleister erledigt den Erstellungsprozess. Sie m\u00fcssen lediglich nur noch das Video herunterladen und entsprechend verbreiten. Es gibt sogar schon Anbieter, die eine synthetischen Avatar von einem Selbst f\u00fcr die Software anbieten, was im Bereich des Datenschutzes schon mehr als bedenklich sein sollte. Wie Sie sehen, gef\u00e4hrdet die Deepfake Technologie die Privatsph\u00e4re und die pers\u00f6nliche Sicherheit jedes Einzelnen.<\/p>\n Fachleute erwarten neue Kriminalit\u00e4tsformen und fordern mehr Forschung und Finanzierung, um die Risiken und die Gefahr der Deepfake Technologie abzumildern. Aus diesen Gr\u00fcnden ist es von hoher Bedeutung, dass die aufgef\u00fchrten Gegenma\u00dfnahmen weiterentwickelt und in Kombination nach einer applikationsspezifischen Auswahl eingesetzt werden.<\/p>\n <\/p>\n Im nachfolgenden Blogbeitrag \u00fcber Deepfakes \u201eDeepfake-Angriffe: Die tiefgreifenden Bedrohungen und das Vorgehen der Cyberkriminellen<\/a>\u201c gehen wir auf die Angriffe an sich ein, wie das menschliche Gehirn diese instektiv erkennen kann und was Sie und Ihre Mitarbeiter pr\u00e4ventiv machen k\u00f6nnen.<\/p>\nDeepfakes erstellen mit Generative Adversarial Networks (GANs)<\/h3>\n
Warnung und Bedrohung vor Deepfakes in absehbarer Zeit<\/h2>\n
Deepfakes sind eine Gefahr f\u00fcr die Gesellschaft<\/h3>\n
\u201eRealit\u00e4tsverlust\u201c durch Deepfakes<\/h3>\n
Deepfakes Kriminalit\u00e4t und m\u00f6glich verursachter Schaden der Betroffenen<\/h3>\n
Deepfakes erkennen mit und ohne Deepfake Software Erkennung<\/h2>\n
\n
Was k\u00f6nnen Sie in der Zukunft gegen Deepfakes tun?<\/h2>\n