• Künstliche Intelligenzen bieten in Bezug auf Cybersicherheit sowohl Chancen als auch Gefahren. Sachsen-Anhalt hat schon Schritte für mehr Sicherheit unternommen, muss sich allerdings noch besser aufstellen.
• Experten fordern für mehr Sicherheit mehr Investitionen, intensivere Forschung und Gesetzesanpassungen. Gefahren durch KI sehen sie vor allem in automatisierten Angriffen auf Systeme.
• Medienbildung und die Sensibilisierung der Bevölkerung sind ein Baustein von IT-Sicherheit. Werden KIs bewusst angewendet, bieten sie viele Möglichkeiten.

Die digitale Infrastruktur in Sachsen-Anhalt ist angreifbar. Wie gefährlich das ist, wurde deutlich, als die Kreisverwaltung von Anhalt-Bitterfeld vor rund zwei Jahren gehackt wurde. Zahlungen, Anmeldungen, Dokumente: Plötzlich funktionierte nichts mehr.

Bei Hackingangriffen spielen seit einiger Zeit auch künstliche Intelligenzen (KI) eine immer größere Rolle. Sie können zum Beispiel eingesetzt werden, um digitale Strukturen automatisiert anzugreifen – oder zu verteidigen. MDR SACHSEN-ANHALT hat mit Experten über Cybersicherheit in Zeiten von KI gesprochen.

Marian Kogler: KI kann in der Cybersicherheit Sicherheitsrisiko oder Sicherheitsfaktor sein. So ist es beispielsweise einem Angreifer möglich, mit einer generativen KI eine überzeugende gefälschte E-Mail auf Deutsch schreiben zu lassen, obwohl der Angreifer kein Wort Deutsch spricht. Andererseits kann eine KI in einer Firewall ein komplexes Angriffsmuster erkennen und deutlich besser und schneller als ein Mensch Gegenmaßnahmen ergreifen.

Hermann Strack und Sandro Wefel: Zum Thema KI allgemein finden wegen der gesellschaftlichen Bedeutungen verschiedene Diskussionen zum Für und Wider als auch Regulierungsbemühungen statt. Bezogen auf Cybersicherheit arbeitet KIs einerseits als "Verstärker" für die Konstruktion von Angriffsmustern und unterstützen Angreifer. Damit erhöhen sie Risiken, unterstützen andererseits aber auch bei der Erkennung KI-basierter Angriffe und deren Abwehr. Sie können also auch für Schutz und Verteidigung eingesetzt werden und sind damit auch eine Chance für Cybersicherheit.

KI-basierte Angriffe nutzen bisher die bereits bekannten Angriffswege über Computernetze auf Onlinedienste und vernetzte Rechner. Allerdings dadurch, dass sie Schwachstellen durch die Auswertung großer Datenmengen suchen und nutzen können. Außerdem können sie menschliche Interaktion bei Angriffen automatisiert simulieren. So können die häufig viel zu einfachen Sicherheitsmaßnahmen durch KI-Unterstützung überwunden werden. Das bedeutet aber auch, dass wirksamere Sicherheitsmaßnahmen mit KI-Unterstützung schwerer zu überwinden sind. Remote-Angriffe, ob mit oder ohne KI, können durch hohe Sicherheitsniveaus mit Sicherheitshardware ausgebremst werden.

Marian Kogler: Deutschland hinkt bei der Digitalisierung leider hinterher. Dies hat im Zusammenhang mit Cyberangriffen zwar den Vorteil, dass eine kritische Infrastruktur, die keinerlei Verbindung zu einem Netzwerk hat, auch nicht über ein Netzwerk gehackt werden kann. Andererseits ist auch das Thema Cybersicherheit in Deutschland nicht auf dem Stand, auf dem es sein sollte, sodass man es Angreifern oft zu leicht macht. Dies gilt sowohl für klassische als auch für KI-unterstützte Cyberangriffe.

Sachsen-Anhalt hat im Bundesvergleich eher kleinere und mittlere Unternehmen. In diesen ist die Sensibilität für Cybersicherheit leider häufig noch nicht so stark ausgeprägt. Ich bemerke aber, dass sich das ändert und auch kleineren Unternehmen deutlicher bewusst wird, dass sie gefährdet sind – leider teilweise erst nach dem erfolgreichen Angriff.

Dringend müsste das Bewusstsein geschärft werden, dass jedes Unternehmen und jeder Mensch Opfer eines Cyberangriffs werden kann und Gegenmaßnahmen nicht optional, sondern Pflicht sind. Niemand würde bei einem zweiwöchigen Urlaub sein Haus unversperrt lassen, aber überall dasselbe, leicht erratbare Passwort zu verwenden, machen viele – obwohl es ähnlich gefährlich ist.

Hermann Strack und Sandro Wefel: Leider sind viele Sicherheitssysteme in Behörden bisher nicht ausreichend und vom Sicherheitsniveau "niedrig", weil das Risiko unterschätzt wird. Das ist, bildlich gesprochen, als würde man Sandburgen statt Deiche gegen Überschwemmungen bauen. Oft werden Sicherheitsmaßnahmen und -richtlinien diskutiert und abgeschwächt, um anderen Interessen gerecht zu werden oder Kosten zu sparen. Dies kann dazu führen, dass Unternehmen und Organisationen nicht die notwendigen Schutzmaßnahmen ergreifen, um sich vor KI-basierten Angriffen zu schützen.

Allerdings hat sich Sachsen-Anhalt in den letzten Jahren intensiv mit dem Thema Cybersecurity auseinandergesetzt und große Fortschritte erzielt, unter anderem durch Einrichtung und Aktivitäten des neuen Ministeriums für Infrastruktur und Digitales sowie durch Forschungsförderungen der für Hochschulen und Wirtschaft zuständigen Ministerien. Der CyberSecurity-Verbund Sachsen-Anhalt ist ein Beispiel dafür. Dieser Verbund erforscht auch bestimmte KI-basierte Sicherheitsmaßnahmen neben solchen für erhöhte Prozess-, Infrastruktur- und Netzwerksicherheit und arbeitet mit Unternehmen und anderen Institutionen zusammen, um die Sicherheit in der Region zu verbessern. Dazu hatte der Verbund in Reaktion auf die Vorfälle im Landkreis Anhalt-Bitterfeld zusammen mit den zuständigen Landesministerien und dem Bundesamt für Sicherheit in der Informationstechnik zwei Online-Veranstaltungen für Kommunen des Landes durchgeführt.

Marian Kogler: Deutschland hat in diesen Bereichen Potenzial: Wir haben gute Universitäten, Forschungsinstitute und Unternehmen. Leider riskieren wir gerade, abgehängt zu werden. Die USA und China investieren mehr in diese Zukunftsbereiche und lassen Deutschland und Europa links liegen. Aus meiner Sicht sollten also dringend die zentrale Bedeutung dieser Zukunftsbereiche erkannt und die Investitionen von Staat und Wirtschaft erhöht werden.

Hermann Strack und Sandro Wefel: Es ist wichtig, dass Sachsen-Anhalt sowohl auf technischer als auch auf gesellschaftlicher Ebene besser aufgestellt ist, um den Herausforderungen von KI und Cybersicherheit gerecht zu werden. Durch eine Kombination aus angewandter Forschung, gesetzlichen Maßnahmen, Sensibilisierung der Bevölkerung und Investitionen in höherwertige Sicherheitsmaßnahmen können wir eine verantwortungsvollere Nutzung von KI und eine bessere Abwehr von Cyberangriffen erreichen.

Es sollten zum Beispiel die gesetzlichen Rahmenbedingungen angepasst werden, um den Schutz vor KI-basierten Angriffen und Cyberkriminalität zu verbessern. So könnten zum Beispiel verpflichtende Maßnahmen zur Sicherheitsniveau-Verbesserung der Authentifiizierung von Nutzern in sensiblen Bereichen festgelegt werden. Zudem sollten Unternehmen und Organisationen in Sachsen-Anhalt dazu ermutigt und gegebenenfalls auch wirtschaftlich und steuerlich unterstützt werden, in verbesserte Sicherheitsmaßnahmen und -technologien zu investieren. Für Produkthersteller ist das ein Wettbewerbsvorteil und zeigt Innovationskraft.

Besonders durch die Erhöhung von Sicherheitsniveaus in den Bereichen Authentisierung und Autorisierung können Sicherheitsverbesserungen erreicht werden. Grund ist unter anderem, dass auch eine KI in der Regel nicht unabhängige Sicherheitskomponenten oder -dienste, insbesondere bei Unterstützung durch spezielle Sicherheitshardware, infiltrieren oder manipulieren kann. Entsprechende weitere Maßnahmen werden ab 2024 unter anderem durch die NIS2-Richtlinie der EU für Unternehmen und Behörden vorgeschrieben.

Viele Unternehmen glauben immer noch, dass ein besseres Passwort oder eine Anweisung an die Mitarbeiter, nicht auf seltsame Links in E-Mails zu klicken, ausreichend Schutz bieten. Das ist ein Irrglaube. Um den Schutz zu erhöhen, braucht es mindestens eine Zwei-Faktor-Authentisierung. Das heißt, dass neben Nutzername und Passwort ein weiteres Sicherheitsmerkmal abgefragt wird. Das kann ein Code sein, der mittels Smartphone generiert wird, oder auf noch höherem Sicherheitsniveau der Einsatz der eID-Online-Funktion des Personalausweises, wobei auch der Datenschutz berücksichtigt ist.

Es wäre wichtig, dass auch die Ausbildung im Bereich Cybersicherheit in Sachsen-Anhalt verstärkt wird. Durch Schulungen und Weiterbildungsmaßnahmen könnten Fachkräfte ausgebildet werden, die in der Lage sind, die Sicherheitssysteme und -konzepte mit höheren Sicherheitsniveaus zu entwickeln, die für den Schutz vor Cyberangriffen erforderlich sind. Der Einsatz von KI-basierten Sicherheitslösungen könnte eine Option sein, um die Cybersicherheit zusätzlich zu stärken und Unternehmen und Organisationen in Sachsen-Anhalt vor den Bedrohungen aus dem Cyberraum zu schützen.

Marian Kogler: KI ermöglicht neue Angriffswege. So kann ein Angreifer mit einer wenige Minuten dauernden Stimmenaufnahme ein KI-Duplikat erzeugen, das am Telefon von der Originalstimme kaum zu unterscheiden ist. Bei bekannten Angriffswegen ist es ein Thema der Ressourcen. Bisher wurden sie nur gegen wenige, hochwertige Ziele eingesetzt, jetzt können sie breit in die Masse gestreut werden. Im Moment sehen wir zum Beispiel viele Phishing-E-Mails mit ähnlichem Inhalt in verschiedenen Sprachen, aber nicht wie früher häufig mit zahlreichen Fehlern und merkwürdigen Formulierungen, sondern auf Muttersprachlerniveau – vermutlich von KI übersetzt.

Das Risiko ist bundesweit ähnlich hoch. Besonderes Risiko trifft in Sachsen-Anhalt aber zum Beispiel Verwaltungen oder einzelne Unternehmen wie zum Beispiel die Total-Raffinerie in Leuna, da sie ein großes Unternehmen der kritischen Infrastruktur und damit ein lohnendes Ziel ist.

Hermann Strack und Sandro Wefel: Eine neue Gefahr besteht in der Verbreitung von KI-basierten Angriffen als Service "KI based attacks as a service". Dabei bieten Hackergruppen oder Cyberkriminelle ihre Dienste an, um mithilfe von künstlicher Intelligenz Unternehmen oder Einzelpersonen anzugreifen. Diese Dienstleistungen können beispielsweise das Erstellen von maßgeschneiderten Phishing-E-Mails, DDoS-Angriffe, bei denen eine große Zahl realer menschlicher Nutzer simuliert wird, bis zur KI-gestützter Entwicklung von Schadsoftware umfassen.

Marian Kogler: Eine KI kann Bilder, Audioaufnahmen und Videos erzeugen, die real aussehen, es aber nicht sind. In der harmlosen Variante gibt es Bilder vom Papst beim Basketballspiel, in weniger harmlosen Varianten werden Politikern Sätze in den Mund gelegt oder Eltern mit der vermeintlichen Stimme ihrer Kinder angerufen, um an Geld zu kommen.

Hier kann Medienbildung eine wichtige Rolle spielen: Nur weil ein Video angeblich von einem Politiker über WhatsApp die Runde macht und es in das eigene Bild vom Politiker passt, heißt es nicht, dass es echt ist. Und wenn angeblich das Kind anruft und dringend 100.000 Euro braucht, fragt man erst einmal nach dem Spitznamen aus Kindertagen, den sonst niemand kennt, und geht nicht gleich zur Bank.

Hermann Strack und Sandro Wefel: Die Sensibilisierung der Bevölkerung ein entscheidender Faktor. Sachsen-Anhalt hat verschiedene Kampagnen gestartet, um Menschen über Cyberangriffe aufzuklären und ihnen beizubringen, wie sie sich schützen können. Dies ist besonders wichtig, da viele Angriffe auf menschliches Fehlverhalten in Reaktion auf sogenanntes "Social Engineering" abzielen.

Ein besorgniserregender Aspekt ist, dass viele Unternehmen und Organisationen immer noch ein niedriges Sicherheitsniveau aufweisen und sich oft nur auf einfache Awareness-Kampagnen verlassen, um Mitarbeiter über Bedrohungen aufzuklären. Im Falle eines Schadens reagieren sie zwar, vernachlässigen jedoch oft die Prävention, indem sie nicht genügend in die Sicherheit und höhere Sicherheitsniveaus ihrer Systeme investieren.

Selbstverständlich müssen heute die IT-Systeme von Einrichtungen gegenüber Angriffs- und Schadenspotentialen mittels geeigneter Sicherheitskomponenten mit geeigneten Sicherheitsniveaus gehärtet sein. Zudem sollten sie sich am NIS2-Maßnahmenprofil orientieren. Die Sensibilisierung von Nutzern sollte entsprechende Aufklärungen umfassen, sodass Nutzer auch gezielt nach Existenz und Nutzung solcher Maßnahmen fragen können.

Marian Kogler: Derzeit leiden viele Länder in der westlichen Welt, auch Deutschland, unter Arbeitskräftemangel und Überalterung. Die KI-Entwicklung bietet die Chance, Berufe zu automatisieren oder zu entlasten. Für informative Grafiken wird man keine Mediengestalter mehr benötigen und Übersetzungen kann die KI erzeugen. In einigen Jahren wird es die Möglichkeit geben, ein Taxi ohne Fahrer zu bestellen. Typische Bürotätigkeiten werden zwar noch menschliche Unterstützung benötigen, aber auch hier wird KI Tätigkeiten abnehmen.

Hermann Strack und Sandro Wefel: Insgesamt bietet der Einsatz von KI in der Cybersicherheit als auch darüber hinaus sowohl Chancen als auch Herausforderungen. Es ist wichtig, dass Unternehmen und Organisationen die Potenziale von KI nutzen, um ihre Sicherheitsmaßnahmen zu verbessern, aber gleichzeitig auch die Risiken und potenziellen Missbrauchsmöglichkeiten im Blick behalten. Durch eine verantwortungsvolle Nutzung von KI in Kombination mit Komponenten höheren Sicherheitsniveaus können wir die Sicherheit unserer digitalen Systeme stärken und uns besser gegen Cyberangriffe schützen.