Wer kennt es mittlerweile nicht, der bekannteste kleine KI-Helfer im Berufsalltag: ChatGPT. Das innovative System mit einer Kombination aus fortschrittlicher K\u00fcnstlicher Intelligenz und menschen\u00e4hnlicher Chat-Kommunikation er\u00f6ffnet ChatGPT eine Revolution im Business-Alltag. Es bietet den Nutzenden neue M\u00f6glichkeiten und stellt gleichzeitig in diesem Schritt neue Herausforderungen, Risiken und auch Chancen dar.<\/p>\n
<\/p>\n
In diesem Blog-Beitrag wollen wir uns mit dem Einsatz von ChatGPT im Allgemeinen auseinandersetzen. Zudem betrachten wir die damit verbundenen Vorteile, Chancen, Risiken und Bedrohungen, die durch die technische Entwicklung einhergehen.<\/p>\n
Die fortschreitende Entwicklung der K\u00fcnstlichen Intelligenz hat in den letzten Jahren zu einer Vielzahl von Anwendungen und Innovationen, sogenannte AI- oder auch KI-Tools gef\u00fchrt. Eine dieser bahnbrechenden Neuerungen ist ChatGPT, ein System zur Texterstellung, das auf dem Konzept des generativen Pre-Training Transformers basiert. Diese Technologie wird unsere Art und Weise, wie wir mit Computern interagieren, grundlegend ver\u00e4ndern.<\/p>\n
ChatGPT ist ein interaktiver Chatbot, der von OpenAI entwickelt worden ist, um menschen\u00e4hnliche Unterhaltungen zu f\u00fchren und den Fragen der Nutzenden zu beantworten. ChatGPT basiert dabei je nach Abonnement und Modell auf GPT-3.5 oder GPT-4.0. Mit dem breiten Wissensspektrum aus diversen Datenbanken und Ergebnissen aus dem World Wide Web kann ChatGPT Informationen zu verschiedenen Themen liefern.<\/p>\n
Die Funktionsweise von ChatGPT basiert auf maschinellem Lernen, das auf einer riesigen Menge an Textdaten trainiert wurde. Es nutzt Transformer-Architekturen, um nat\u00fcrliche Sprache zu generieren und auf menschliche Interaktionen auf Textbasis zu reagieren. Seine F\u00e4higkeit, kontextbezogene Antworten zu produzieren, macht es zu einem leistungsstarken Werkzeug f\u00fcr die Kommunikation. So kann ChatGPT beispielsweise als virtueller Assistent eingesetzt werden, um Kunden bei technischen Supportanfragen zu helfen oder allgemeine Fragen zu beantworten. Die Eingabe oder auch die Frage der Nutzenden wird als \u201ePrompt\u201c bezeichnet.<\/p>\n
IT-Sicherheit ist heute mehr denn je ein zentrales Thema, sowohl f\u00fcr Unternehmen, als auch f\u00fcr Privatpersonen. Die steigende Anzahl von Cyberangriffen und die zunehmende Komplexit\u00e4t der Angriffsmethoden erfordern innovative L\u00f6sungen, um dieser Bedrohung wirksam entgegenzutreten. In diesem Zusammenhang k\u00f6nnen auch KI- oder auch AI-Tools, sowie ChatGPT als ein Teil der L\u00f6sung betrachtet werden.<\/p>\n
Welche Vorteile oder positive Aspekte ChatGPT bei Nutzung f\u00fcr Sie haben kann, erfahren Sie in diesem Abschnitt:<\/p>\n
ChatGPT kann Ihnen bei vielen Aufgaben unterst\u00fctzende Hilfestellung bei diversen Aufgaben leisten: Vom Verfassen von Texten, Aufs\u00e4tzen, Reden und allgemeine Recherchen bis hin zu Zusammenfassungen zu einem gew\u00fcnschten Thema. Sogar die Verbesserung bereits vorhandenen Texten kann mit ChatGPT \u00fcberpr\u00fcft werden und nach Rechtschreibfehler und Grammatik entsprechend optimiert werden.<\/p>\n
Vor allem Entwickler k\u00f6nnen sich \u00fcber den Einsatz von ChatGPT im Arbeitsalltag freuen. L\u00e4stiges Recherchieren nach der Codebespielen oder den ben\u00f6tigten \u201eSchnipseln\u201c f\u00fcr die Umsetzung des aktuellen Projektes werden von der KI geliefert. Ebenfalls die Fehlerbeseitigung im Code, wie logischer Fehler oder auch Syntaxfehler kann ChatGPT aufsp\u00fcren und Sie darauf hinweisen, wo sich der Fehler befindet bzw. als auch wie Sie Ihren Code effizienter gestalten k\u00f6nnen. Somit werden Schwachstellen eher gefunden, bevor diese weiter \u00fcbermittelt werden.<\/p>\n
ChatGPT kann Ihnen helfen, vergangene und zur\u00fcckliegende Angriffe zu analysieren und zu prognostizieren. Durch die Analyse erhalten Sie eine Antwort, welche Taktiken Angreifende verwendet haben und k\u00f6nnen Ihre IT-Sicherheit mit den entsprechenden Schutzma\u00dfnahmen aufr\u00fcsten, f\u00f6rdern und st\u00e4rken.<\/p>\n
Ebenfalls l\u00e4sst sich ChatGPT daf\u00fcr nutzen, bereits vorgefallene Sicherheitsvorf\u00e4lle zu untersuchen und dessen Ursache zu bestimmen, warum die bisher integrierten Verteidigungsma\u00dfnahmen nicht gegriffen haben und welche Schritte man einleiten sollte, um diese L\u00fccken zu schlie\u00dfen. Ohne KI-Tools sind forensische Analysen und die manuelle Korrelation von Sicherheitsdaten m\u00fchsam und sehr zeitaufwendig.<\/p>\n
Der Wunsch nach Automatisierung in Bezug auf die immerw\u00e4hrende und steigende Masse an Datenhandling in der IT ist nachvollziehbar. Die Herausforderung liegt hier dies effizient und einwandfrei zum \u201eLaufen zu bekommen\u201c. Grundlage ist hier, dass die meisten Sicherheitstools und -systeme richtig konfiguriert werden. ChatGPT kann bei der Einrichtung von automatisierten Systemupdates und bei Regelerstellung der Firewall, Intrusion Prevention-Systemen und der Serverkonfigurationen helfen. Zudem ist es m\u00f6glich, Fehler in der Konfigurationen aufzudecken und somit die Schwachstellen zu minimieren.<\/p>\n
Da ChatGPT auf eine Vielzahl an mit Wissen gef\u00fcllten Datenbanken zugreifen kann, die ein einzelner Mensch sich nicht aufgrund der Masse der Informationen lernen, speichern und anwenden kann. Somit k\u00f6nnen KI-Tools als L\u00fcckenf\u00fchler bei Unsicherheit und Recherche helfen, um die Aufgabe entsprechend umzusetzen. Zudem herrscht in einigen Branchen Fachkr\u00e4ftemangel, die durch die Verwendung von ChatGPT durch Automatisierung von Prozessen, Verringerung der Abh\u00e4ngigkeit von manuellen Interventionen zum Teil behoben werden kann. Somit k\u00f6nnen sich IT-Abteilungen auf die anspruchsvollen Aufgaben konzentrieren und die administrativen werden von der k\u00fcnstlichen Intelligenz \u00fcbernommen.<\/p>\n
ChatGPT befindet sich trotz seines technologischen Fortschrittes noch in seinen Anf\u00e4ngen. Die Bedenken bei der Nutzung solcher Tools sind nicht unbegr\u00fcndet.<\/p>\n
Im folgenden Abschnitt gehen wir auf die Nachteile bei der Verwendung von solchen KI-Tools ein:<\/p>\n
Obwohl ChatGPT in der Lage ist, gro\u00dfe Datenmengen zu analysieren, fehlt dem Tool die menschliche Intuition und auch Erfahrung, die bei der Bewertung der Relevanz von den entsprechenden Informationen essenziell ist. Dadurch besteht die Gefahr, dass wichtige Aspekte \u00fcbersehen oder untersch\u00e4tzt werden.<\/p>\n
ChatGPT kann von Kriminellen daf\u00fcr genutzt werden, um Angriffe zu optimieren und Sicherheitsma\u00dfnahmen zu umgehen. Die entwickelte Technologie der KI-Tools kann dazu missbraucht werden, um gef\u00e4lschte Nachrichten oder Phishing-Angriffe zu generieren, die f\u00fcr den Menschen schwer von den realen Kommunikationen zu unterscheiden sind. Mehr dazu finden Sie im unteren Abschnitt bei den Risiken und Bedrohungen.<\/p>\n
Die Verwendung von solchen AI-Tools in der IT-Sicherheit erfordert den Zugriff auf gro\u00dfe Mengen von Daten, darunter meist auch sensible Kundendaten. Das stellt aus Sicht des Datenschutzes eine grunds\u00e4tzliche potenzielle Gefahr dar, falls diese Informationen \u201eabgegriffen\u201c, in falsche H\u00e4nde geraten oder unsachgem\u00e4\u00df genutzt werden.<\/p>\n
Was viele Nutzende nicht \u00fcber ChatGPT wissen, dass die \u00f6ffentlich zug\u00e4ngliche Version von ChatGPT die eingegebenen Daten nicht f\u00fcr sich beh\u00e4lt, sondern diese f\u00fcr zuk\u00fcnftige Anfragen genutzt werden.<\/p>\n
Daher sollten auch Nutzende eine entsprechende und angemessene Sicherheitsschulung und \u2013 Ausbildung zu der Verwendung des Tools, ChatGPT erhalten.<\/p>\n
Nicht nur Privatpersonen, Unternehmen und Cybersicherheitsexperten nutzen die effizienten und generativen KI-Tools f\u00fcr Ihre Zwecke. Die Rede ist hier von Hackenden und Cyberkriminellen, die AI-Tools dazu nutzen Ihre kriminellen Absichten weiter voranzutreiben.<\/p>\n
Folgende Szenarien sind dabei m\u00f6glich:<\/p>\n
Wie oben beschrieben ist ChatGPT ein Tool zur Erstellung von Texten und kann somit auch Code f\u00fcr Malware reproduzieren und f\u00fcr Cyberkriminelle erstellen. Die Daten daf\u00fcr bekommt es ja entsprechend aus den Datenbanken des World Wide Webs. Auch obwohl die OpenAI-Entwickler von ChatGPT diese Aufforderung als explizit illegal oder b\u00f6sartig festgelegt haben, kann man diese als Nutzende relativ leicht umgehen.<\/p>\n
Der Clue liegt hierbei in der Formulierung: Hackende bitten einfach ChatGPT um die Generierung eines Penetrationstest, um diesen entsprechend zu optimieren und umzuwandeln. Hackende k\u00f6nnen die Sicherheitsma\u00dfnahme eines Unternehmens problemlos umgehen, in dem diese verschiedene Mutationen derselben Malware entwickeln und nutzen. ChatGPT kann m\u00fchelos eine andere Malware-Version erzeugen, und das automatisch und bei Bedarf.<\/p>\n
Angreifende nutzen meist als ersten Schritt Phishing-Mails, um das Unternehmensnetzwerk zu infiltrieren. Von diesem Punkt aus, k\u00f6nnen unterschiedliche kriminelle Strategien f\u00fcr Folgeangriffe gefahren werden. Es gibt sogar Dienstleister im Dark Web, die diese Dienstleistung als \u201eAccess-as-a-Service\u201c mit guter Qualit\u00e4t anbieten. Es ist, wie bei so Vielem auch hier, eine Frage des Preises, mehr nicht.<\/p>\n
Was momentan f\u00fcr den Faktor Mensch spricht, ist das sowohl die derzeitige Technik mit oder ohne die Kombination der menschlichen Intuition in der Lage sind, Attacken abzufangen. Daher starten die Kriminellen entweder in der Masse (milliardenfach) diesen Angriff (\u00fcber Botnetze<\/a>) oder unter einem sehr hohen Aufwand mit menschlicher Interaktion.<\/p>\n Die Bef\u00fcrchtung liegt hier, dass mithilfe der k\u00fcnstlichen Intelligenz in k\u00fcrzester Zeit \u00fcberzeugende AI-Texte generiert werden k\u00f6nnen, die passgenau auf die vermeintlichen Opfer passen, sodass diese auf den entsprechenden Medien wie E-Mail, Direktnachrichten, Telefonanrufe, Chatbots, Social-Media-Kommentare und gef\u00e4lschte Websites abstimmen und auf die Masche der Cyberkriminellen hereinfallen.<\/p>\n Die Nutzung der Zahl der APIs in Unternehmen nimmt in den letzten Jahren exponentiell zu. Somit steigt auch die logischerweise die Anzahl der API-Angriffe. Laut dem API-Sicherheitsunternehmens Salt Security stieg die Zahl der einzelnen Angreifer, die es auf die\u00a0APIs\u00a0von Kunden abgesehen haben, allein in den letzten sechs Monaten des Jahres 2022 um 874 Prozent.<\/p>\n Cyberkriminelle k\u00f6nnten die KI-Technologie daf\u00fcr nutzen, um API-Schwachstellen im IT-System des Unternehmens zu finden. Das ist normalerweise ein Prozess, der viel Zeit und Energie erfordert, aber durch ChatGPT radikal verk\u00fcrzt wird. Die Angreifenden fordern ChatGPT einfach dazu auf, die API-Dokumentation zu pr\u00fcfen, Informationen zu sammeln und API-Abfragen zu erstellen, um Schwachstellen effizienter und effektiver aufzudecken und somit k\u00f6nnen sie diese ausnutzen. Was eigentlich zur Aufdeckung der Schwachstellen gedacht war, wird in diesem Szenario gegen das Unternehmen und die Nutzenden verwenden und nun als Nachteil dargestellt.<\/p>\n Eines den grundlegenden negativen Aspekten ist die Anf\u00e4lligkeit von Vorurteilen. Schlie\u00dflich kann ChatGPT nur die Antworten ausgeben, auf dass das System Zugriff hat und mit dem es \u201egef\u00fcttert\u201c wurde. Beruhen die Daten auf Vorurteilen oder Halbwahrheiten verst\u00e4rken sich die bereits bestehende Ungleichheiten nicht unerheblich, aber mit potenziell gef\u00e4hrlichen Konsequenzen. Somit k\u00f6nnen auch Cyberkriminelle ChatGPT mit Falschinformationen versorgen und die Ausgaben des Bots manipulieren.<\/p>\n Zus\u00e4tzlich kommen allgemeine Bedenken in Hinsicht auf den Datenschutz und der Sicherheit hinzu. In der Annahme, dass das GPT-Modell Informationen sammelt und speichert, besteht das Risiko, dass diese Daten gestohlen, manipuliert oder missbraucht werden, sofern kein ausreichender Schutz vorhanden ist.<\/p>\n Somit k\u00f6nnen Hacktivisten, terroristische Organisationen, Hate Groups und sogar staatlich finanzierte Angreifer ChatGPT daf\u00fcr nutzen, um Zwietracht zu s\u00e4en, in dem diese die demokratischen Werte untergraben, Verschw\u00f6rungstheorien und computergest\u00fctzte Propaganda (bspw. in Form von \u201eDeepfakes<\/a>\u201c) verbreiten.<\/p>\n AI- bzw. KI-Tools, wie ChatGPT sind lediglich Werkzeuge, die wir f\u00fcr unsere Zwecke und Ziele nutzen k\u00f6nnen. Sie sind nicht grundlegend schwarz oder wei\u00df, gut oder b\u00f6se. Dahingehend hat die Medaille zwei Seiten und es kommt auf denjenigen an, wie ChatGPT vom Nutzende f\u00fcr dessen Zweck benutzt wird.<\/p>\n Wie oben bei den Chancen und Vorteilen beschrieben, bieten die AI-Tools, wie ChatGPT ein steigendes Potenzial f\u00fcr verschiedene und vielseitige Einsatzm\u00f6glichkeiten. So k\u00f6nnen Routinearbeiten schon heute gr\u00f6\u00dftenteils oder sogar komplett mit einer KI-L\u00f6sungen automatisiert werden. Ebenso auch Aufgaben, welche regelm\u00e4\u00dfige Analysieren gro\u00dfer Datenmengen und eine schnelle Erkennung m\u00f6glicher Angriffe auf Unternehmen und Privatpersonen beinhaltet. Sie sehen, heutzutage ist schon einiges m\u00f6glich!<\/p>\n Dennoch d\u00fcrfen die mit dieser Technologie verbundenen Risiken nicht au\u00dfer Acht gelassen werden. Auch Cyberkriminelle k\u00f6nnen dieses Werkzeug, die KI- und AI-Tools f\u00fcr sich und ihre Ziele nutzen und somit Schaden bei Ihnen und Ihrem Unternehmen anrichten.<\/p>\n Programme und Systeme, welche auf dem Prinzip der k\u00fcnstlichen Intelligenz aufgebaut sind, basieren auf einem gro\u00dfen Wissens- und Datendepot und k\u00f6nnen daher recht \u00fcberzeugend wirken, indem sie logisch argumentieren. Diese KI-Bots k\u00f6nnen sich auf Befehl und Programmierung des Angreifenden als reale Menschen ausgeben und authentische Inhalte zu einer Reihe von Themen erstellen. Wenn bestimmte Schl\u00fcsselw\u00f6rter oder Themen in den sozialen Medien getriggert werden, kann diese erstellte Personen-Bot mithilfe von ChatGPT so reagieren, dass diese bestimmten Handlungen und Aufgaben verfolgt und vorantreibt.<\/p>\n Zusammenfassend l\u00e4sst sich sagen, dass es eine spannende und interessante Entwicklung sein wird, die wir in Sachen k\u00fcnstlicher Intelligenz und AI-Inhalten erleben werden. Dahingehend ist eine sorgf\u00e4ltige Abw\u00e4gung der Chancen und Risiken von gro\u00dfer Bedeutung, um den Einsatz von solchem Tool, wie beispielsweise ChatGPT verantwortungsvoll und effektiv zu gestalten.<\/p>\n <\/p>\n Was unsere hausinterne Datenschutzabteilung der PSW CONSULTING zu ChatGPT sagt, k\u00f6nnen Sie im folgenden Beitrag lesen: ChatGPT und der Datenschutz.<\/p>\nAPI-Angriffe: Schwachstellen finden und ausnutzen<\/h4>\n
Vorurteile, ethische Bedenken und das Verbreiten von Fehlinformationen<\/h4>\n
Fazit: Zukunft und Ausblick \u2013 Kann die Symbiose mit AI-Tools funktionieren?<\/h2>\n