K\u00fcnstliche Intelligenz ist l\u00e4ngst zu einem festen Bestandteil unseres Alltags geworden. Ob ChatGPT, Google Gemini oder das k\u00fcrzlich erschienene DeepSeek: Large Language Models (LLMs) erleichtern zahlreiche berufliche und private Aufgaben. Doch diese Beliebtheit blieb nicht unbemerkt: Cyberkriminelle nutzen die Verbreitung von KI-Diensten gezielt aus, um sogenannte LLMJacking-Angriffe durchzuf\u00fchren. In diesem Beitrag erfahren Sie, was LLMJacking-Angriffe sind, wie sie funktionieren und welche Ma\u00dfnahmen Sie zum Schutz ergreifen k\u00f6nnen.<\/p>\n
Large Language Models (LLMs) sind KI-Modelle, die mithilfe gro\u00dfer Textdatenmengen trainiert wurden. Sie sind darauf spezialisiert, menschliche Sprache zu verstehen und zu generieren. Bekannte Beispiele f\u00fcr LLMs sind ChatGPT, DeepSeek, Google Gemini und Microsoft Copilot. Dank ihrer F\u00e4higkeit, Texte zu analysieren und Inhalte zu erstellen, erfreuen sich diese Modelle gro\u00dfer Beliebtheit. Doch genau diese Beliebtheit birgt auch Risiken: Mit der zunehmenden Nutzung von LLMs ist das sogenannte LLMJacking entstanden.<\/p>\n
LLMJacking-Angriffe sind neue und gef\u00e4hrliche Formen des Cyberangriffs, die speziell auf gro\u00dfe Sprachmodelle wie ChatGPT, DeepSeek oder Google Gemini abzielen. Der Begriff „LLMJacking“ beschreibt den Diebstahl von Zugangsdaten zu diesen KI-Diensten, um diese anschlie\u00dfend unbefugt zu nutzen. Dabei verschaffen sich die Angreifenden Zugriff auf kostenintensive KI-Ressourcen und nutzen diese f\u00fcr eigene Projekte oder illegale Aktivit\u00e4ten. Die betroffenen Unternehmen bleiben auf den hohen Kosten sitzen, w\u00e4hrend die Kriminellen die KI-Modelle f\u00fcr eigene Zwecke missbrauchen.<\/p>\n
LLMJacking-Angriffe \u00e4hneln klassischen Cloudangriffen auf Plattformen wie AWS oder Microsoft Azure. Auch hier stehen gestohlene Zugangsdaten im Mittelpunkt, mit denen Angreifer unberechtigt auf kostenintensive Ressourcen zugreifen. Der Unterschied liegt in der Zielgruppe: W\u00e4hrend Cloudangriffe klassische Server-Infrastrukturen betreffen, konzentriert sich LLMJacking gezielt auf Sprachmodelle und deren Rechenleistung.<\/p>\n
Das Hauptziel der Angreifer besteht darin, teure KI-Dienste unbefugt zu nutzen. Die aufwendige Rechenleistung hinter Modellen wie ChatGPT oder DeepSeek bietet enorme M\u00f6glichkeiten, sei es f\u00fcr die Generierung von Inhalten, das Training neuer Modelle oder andere ressourcenintensive Aufgaben. Durch den Missbrauch dieser Zugangsdaten k\u00f6nnen die Kriminellen erhebliche Kosten einsparen, die sonst bei legaler Nutzung anfallen w\u00fcrden.<\/p>\n
Um an die Zugangsdaten zu gelangen, setzen Cyberkriminelle h\u00e4ufig auf Phishing-Angriffe. Dabei versenden sie t\u00e4uschend echt wirkende E-Mails, die das Opfer auf gef\u00e4lschte Anmeldeseiten f\u00fchren. Gibt es dort seine Zugangsdaten ein, erhalten die Angreifer direkten Zugriff auf den jeweiligen KI-Dienst. Einmal im Besitz dieser Zugangsdaten, k\u00f6nnen sich die Angreifer ungehindert einloggen und die wertvolle Rechenleistung f\u00fcr eigene Projekte nutzen.<\/p>\n
LLMJacking-Angriffe sind eine ernstzunehmende Bedrohung, die seit ihrer Entdeckung im Mai 2024 durch das Sysdig Threat Research Team stark zugenommen haben. Besonders besorgniserregend ist dabei die Geschwindigkeit, mit der Cyberkriminelle neue Technologien ins Visier nehmen und f\u00fcr ihre Zwecke missbrauchen.<\/p>\n
Ein prominentes Beispiel ist das KI-Modell DeepSeek: Nur wenige Tage nach der Ver\u00f6ffentlichung des fortgeschrittenen Modells DeepSeek-V3 wurde es auch schon Ziel eines LLMJacking-Angriffs. Die Angreifenden integrierten das Modell in Proxy-Server, die mit gestohlenen API-Schl\u00fcsseln ausgestattet waren. Dies erm\u00f6glichte es den Kriminellen, die leistungsstarke KI-Infrastruktur unbefugt zu nutzen, um eigene Projekte umzusetzen.<\/p>\n
Die Geschwindigkeit dieses Angriffs verdeutlicht die Effizienz und das Know-how der Cyberkriminellen: Nur wenige Tage nach der Ver\u00f6ffentlichung des Modells konnten sie bereits Zugangsdaten entwenden und missbrauchen!<\/p>\n
Und tats\u00e4chlich ist LLMJacking l\u00e4ngst kein Randph\u00e4nomen mehr. Denn laut Sysdig haben sich bereits spezialisierte Communities auf Plattformen wie 4chan und Discord gebildet, die aktiv Tools und Techniken zur missbr\u00e4uchlichen Nutzung von LLMs austauschen. Die Nutzung dieser gestohlenen Ressourcen reicht von der Generierung nicht jugendfreier Inhalte bis hin zu betr\u00fcgerischen Rollenspielen mit KI-Charakteren.<\/p>\n
Um sich effektiv gegen LLMJacking-Angriffe zu sch\u00fctzen, k\u00f6nnen und sollten Sie gezielte Sicherheitsma\u00dfnahmen implementieren. Dazu z\u00e4hlen unter anderem:<\/p>\n