Die Geschichte der Vergiftung von Brunnen in Konfliktzeiten ist hinlänglich bekannt. Ob der Zugang zu Brunnen abgeschnitten oder das Brunnenwasser zur großflächigen Verbreitung von Krankheiten genutzt wurde – der Dorfbrunnen war schon immer ein bedeutendes Angriffsziel.
In der heutigen Zeit lässt sich ein Brunnen mit einem Skript oder API-Endpunkt vergleichen, das bzw. der eine Automatisierung anstößt, die Änderungen an Infrastruktur, Anwendungen und digitalen Diensten vornimmt. Die meisten Unternehmen – laut unserem demnächst erscheinenden Bericht State of Application Strategy 2023 sind es 78 % – setzen in der gesamten IT vielfältige Automatisierungen ein, um genau das zu erreichen. Angesichts der weiten Verbreitung von Automatisierung zur Umsetzung von Änderungen in komplexen Hyperscale-Systemen, wie sie unter anderem von Facebook, Twitter und Amazon betrieben werden, dürfte das nicht überraschen.
Denn ähnlich wie der gemeinschaftlich genutzte Brunnen früherer Zeiten kann ein einziges Skript innerhalb weniger Minuten Tausende von Systemen beeinflussen. Vor der Automatisierung hätten manuelle Änderungen an ebenso vielen Systemen möglicherweise Tage oder sogar Wochen gedauert. Automatisierung wirkt als Kraftmultiplikator und ermöglicht es, Abläufe aller Art in einem Umfang zu skalieren, den Menschen allein niemals erreichen könnten. Sie ist der Grundpfeiler für die Skalierung von Prozessen, Praktiken und des Unternehmens. Tatsächlich lässt sich argumentieren – wie wir es in Unternehmensarchitektur für digitale Unternehmen getan haben –, dass ein Unternehmen ohne Automatisierung nicht zu einem digitalen Unternehmen werden kann. Sie gehört zu den sechs zentralen Fähigkeiten, die Unternehmen aufbauen müssen, um Daten erfolgreich zu nutzen, SRE-Betriebsmodelle einzuführen und digitale Services durch moderne Anwendungsbereitstellung anpassungsfähig zu machen.
Das Problem bei der Automatisierung ist jedoch, dass sie nun einmal automatisch abläuft. Sobald sie in Gang gesetzt wurde, lassen sich die kaskadenartigen Änderungen, die sich über solche Systeme hinweg ausbreiten, nur schwer abfangen. Schließlich ist die Geschwindigkeit von Änderungen einer der Gründe für die Automatisierung, und einmal angestoßen, lassen sich diese Änderungen nur schwer – wenn überhaupt – aufhalten.
Man müsste schon völlig abgeschottet leben, um nicht davon gehört zu haben, wie durch Automatisierung unbeabsichtigte Änderungen verbreitet wurden, die letztlich große Teile des Internets beeinträchtigten. Ein fehlerhafter Parameter, der an ein Skript übergeben wurde, lässt sich kaum noch zurücknehmen, sobald die Eingabetaste gedrückt oder ein API-Endpunkt aufgerufen wurde. Ist der Vorgang erst einmal ausgeführt, ist das Kind in den Brunnen gefallen.
Dies ist nicht das erste Mal, dass ich vor den Sicherheitsrisiken der IT-Automatisierung warne. Sie stellt einen übersehenen und kaum erforschten Angriffsvektor dar, der früher oder später ausgenutzt werden wird. Und selbst wenn dieses „früher oder später“ noch Jahrzehnte entfernt sein sollte, besteht die unmittelbarere Gefahr menschlicher Fehler weiterhin. Laut den neuesten Forschungsergebnissen des Uptime Institute haben „fast 40 % der Unternehmen in den vergangenen drei Jahren einen schwerwiegenden Ausfall erlitten, der durch menschliches Versagen verursacht wurde“.
Hier kommt KI – genauer gesagt ML – ins Spiel.
Der Einsatz von maschinellem Lernen zum Schutz der IT-Automatisierung
Maschinelles Lernen eignet sich besonders gut dazu, Muster und Zusammenhänge zwischen Datenpunkten aufzudecken. Derzeit konzentriert sich der Großteil des Marktes darauf, maschinelles Lernen zur Bewältigung von Sicherheits- und Betriebsproblemen einzusetzen. Dazu gehören die Erkennung, ob es sich bei einem Benutzer um einen Bot oder einen Menschen handelt, das Erkennen von Angriffen und sogar die Vorhersage unmittelbar bevorstehender Ausfälle.
Ein häufig noch wenig erforschter Bereich ist der Einsatz von KI und ML zum Schutz der Anwendungsinfrastruktur. Mithilfe von maschinellem Lernen lässt sich beispielsweise nachvollziehen, wie Bediener und Administratoren mit kritischen Systemen interagieren, sodass Abweichungen vom üblichen Interaktionsmuster sofort erkannt werden. Dies ist hilfreich, um Angreifer zu erkennen, die versuchen, auf Verzeichnisse zuzugreifen, auf die sie keinen Zugriff haben sollten, oder Befehle mit Parametern auszuführen, die außerhalb der normalen Nutzung liegen.
Lesen Sie den letzten Teil noch einmal. Befehle mit Parametern ausführen, die außerhalb der üblichen Verwendung liegen.
Ah, da ist es. Die Fähigkeit von KI und maschinellem Lernen im Allgemeinen, ungewöhnliche Parameter oder den Versuch, einen ungewöhnlichen Befehl auszuführen, zu erkennen, ist keineswegs auf den Sicherheitsbereich beschränkt. Das bedeutet, dass diese Technologie ebenso gut in der IT-Automatisierung eingesetzt werden könnte, um sowohl menschliche Fehler als auch absichtlich bösartige Befehle abzufangen.
Vorausgesetzt, eine solche Machine-Learning-Lösung verfügt über die erforderlichen Zugriffsrechte auf die Zielsysteme, könnte sie durchaus eine Möglichkeit bieten, Systeme vor gelegentlich fehlerhaften Parametern, Versuchen zur lateralen Kommunikation oder anderen Angriffen zu schützen. Wie wäre es etwa mit Ransomware?
Die Infrastruktur – für Anwendungen, deren Bereitstellung und die Automatisierung – ist nach wie vor ein attraktiver Angriffsvektor. Da Unternehmen zunehmend auf Automatisierung setzen – und das tun sie –, müssen sie gleichzeitig die unbeabsichtigten oder beabsichtigten Folgen ihres Einsatzes berücksichtigen. Anschließend gilt es zu überlegen, wie sie vor unvermeidlichen Fehlbedienungen oder böswilligen Tastatureingaben geschützt werden kann.
Automatisierung ist ein Kraftmultiplikator. Punkt. Das bedeutet, dass sie sowohl für beabsichtigte als auch für böswillige Zwecke eingesetzt werden kann. Daraus ergibt sich die Notwendigkeit, sie zu schützen. Maschinelles Lernen könnte eine Möglichkeit sein, KI in den IT-Betrieb zu integrieren, um die Infrastruktur zu schützen, die nach wie vor ein wesentlicher Bestandteil eines digitalen Unternehmens ist.
Über den Autor
Lori MacVittie ist Distinguished Engineer und Chief Evangelist im Office of the CTO von F5 und verfügt über umfassende Expertise in den Bereichen Anwendungsbereitstellung, Automatisierungsstrategie und Infrastruktur. Sie ist dafür bekannt, Komplexität verständlich zu machen – ob sie Leitplanken für KI-Agenten definiert, fragile Multicloud-Architekturen analysiert oder die Grenzen skalierbarer Systeme auslotet. Sie verfügt über mehr als dreißig Jahre Branchenerfahrung in der Anwendungsentwicklung, IT-Architektur sowie im Netzwerk- und Systembetrieb. Bevor sie zu F5 kam, war sie als mehrfach ausgezeichnete Technologie-Redakteurin tätig. MacVittie hat einen Masterabschluss in Informatik und ist eine produktive Autorin, deren Veröffentlichungen die Bereiche Sicherheit, Cloud und Unternehmensarchitektur abdecken. Außerdem spielt sie leidenschaftlich gern Brett- und Videospiele und vertritt mit voller Überzeugung klare Ansichten zum Thema Käse.
Weitere Blogbeiträge von Lori Mac VittieÄhnliche Blogbeiträge
Ein umfassender Leitfaden zur Bereitstellung und Sicherheit von KI-Anwendungen
Entdecken Sie optimale Strategien für die Absicherung und Bereitstellung von KI-Anwendungen.
KI zulassen und einführen? Lehren aus der Public Cloud
Die Einführung von KI steht unmittelbar bevor und könnte entscheidend sein, um wettbewerbsfähig zu bleiben. Daher muss die IT-Sicherheit proaktiv handeln und der KI-Einführung schon jetzt einen Schritt voraus sein, um sie auf einen risikogerechten Weg zu lenken.
Stand der Anwendungsstrategie 2022: Zeit für die Modernisierung des Betriebs
Es ist deutlich geworden, dass Unternehmen ihren Fokus erneut auf die Geschäftsfunktionen richten müssen, um die Dynamik ihrer digitalen Transformation aufrechtzuerhalten. Kundenerlebnisse haben zwar weiterhin Priorität, doch auch Geschäftsfunktionen wie Recht, Personalwesen und Finanzen müssen digitalisiert werden. Das bedeutet, dass CIOs das Steuer übernehmen, während sich die digitale Transformation von der Modernisierung von Anwendungen hin zur Modernisierung von Betriebsabläufen verlagert.
F5s Weg zu einer vielseitigen Plattform für Anwendungsanalysen
F5 bietet heute die umfassendsten Anwendungsdienste entlang des gesamten Weges vom Code bis zum Kunden. Künftig werden wir verstärkt auf Anwendungstelemetrie und -analysen setzen, damit unsere Kunden wertvolle Erkenntnisse über ihre Anwendungen, Geschäftsabläufe und Benutzererlebnisse gewinnen können. Beim Ausbau unserer Cloud-Analysefunktionen werden wir ML und KI noch stärker nutzen, um unsere Kunden bei der Verbesserung ihrer Geschäftsdienste zu unterstützen.
Telemetrie: Eine andere Art von Daten
Verwenden wir den Begriff „Telemetrie“ nur, weil er attraktiver klingt als „Daten“? Letztlich sind sowohl Daten als auch Telemetrie strukturierte Informationseinheiten. Es ist kein Verbrechen, die Begriffe synonym zu verwenden. Doch wenn man es genau nimmt, gibt es einen Unterschied. Und dieser Unterschied wird immer wichtiger werden, je weiter Unternehmen in die Datenökonomie vordringen.
MTTR bedeutet nicht „Mean Time to Reboot“
„Schnell scheitern“ lautet heute das Mantra für mehr Geschwindigkeit. Ob in DevOps oder im Geschäftsleben: Wer in einer digitalen Wirtschaft agiert, muss eine möglichst perfekte Verfügbarkeit gewährleisten.