KI verändert den IT-Betrieb grundlegend. Unternehmen führen KI-Copiloten für den Service Desk, Bots zur Fehlerbehebung und Assistenten zur Workflow-Automatisierung ein, um Probleme schneller zu lösen, Kosten zu senken und die Mitarbeitererfahrung zu verbessern. Doch in IT-Umgebungen steht viel auf dem Spiel:
- Offenlegung von privilegierten Zugangsdaten, Systemprotokollen oder Netzwerkdiagrammen
- Prompt-Injections, die Bots dazu manipulieren, schädliche oder unbefugte Aktionen auszuführen
- Voreingenommene oder fehlerhafte Empfehlungen, die zu Ausfallzeiten oder Fehlkonfigurationen führen
- Mangelnde Transparenz darüber, wie KI-Copiloten mit der Unternehmensinfrastruktur interagieren
Unsere Sicherheitslösungen für die KI-Laufzeit schützen den Bereich IT-Betrieb und Service Desk durch Red Team zur Validierung, Guardrails zum Schutz und integrierte Observability zur Steuerung von KI-Bereitstellungen.
Red Team: IT-Assistenten vor der Inbetriebnahme validieren
F5 AI Red Team, zuvor unter dem Namen Inference Red-Team bekannt, testet proaktiv KI-Assistenten für die IT, um sicherzustellen, dass sie realen Angriffsmethoden standhalten.
- Agentische Widerstandsfähigkeit: Mehrstufige, adaptive Angriffe, die Angreifer simulieren, welche versuchen, Service-Desk-Bots zur Preisgabe von Systemzugangsdaten zu verleiten.
- Signatur- und operative Angriffe: Über 50.000 sich ständig weiterentwickelnde Exploits, darunter Denial-of-Service-, Latenz- und Prompt-Injection-Angriffsvektoren.
- IT-spezifische Validierung: Prüft die Widerstandsfähigkeit von Bots zur Fehlerbehebung und Workflow-Copiloten gegen Versuche, Protokolle, Konfigurationen oder Administratorrechte offenzulegen.
Ergebnis für IT-Teams: Anwendungen werden vor der Integration abgesichert, wodurch das Risiko von Ausfallzeiten, Berechtigungsmissbrauch oder einer Ausweitung von Sicherheitsverletzungen reduziert wird.
Guardrails: IT-Workflows in Echtzeit schützen
Nach der Bereitstellung sichert AI Guardrails, zuvor unter dem Namen Inference Defend bekannt, jede KI-Interaktion in Echtzeit auf der Inferenzebene ab.
- Datenoffenlegung blockieren: Verhindert die Offenlegung von Passwörtern, API-Schlüsseln oder sensiblen Infrastrukturdaten.
- Exploits stoppen: Erkennt und blockiert Jailbreaks oder Prompt-Injections, die darauf abzielen, IT-Assistenten zur Ausführung schädlicher Befehle zu veranlassen.
- Maßgeschneiderte Kontrollen: Stimmt Schutzmaßnahmen auf ITIL, NIST und interne IT-Sicherheitsrichtlinien des Unternehmens ab.
Ergebnis für IT-Teams: Sichere, regelkonforme KI-Copiloten und Bots, die die Bearbeitungszeit von Tickets verkürzen, ohne neue Sicherheitslücken zu schaffen.
Observability: Überwachung für IT-Sicherheit und Compliance
Im IT-Betrieb sind Nachvollziehbarkeit und Verantwortlichkeit unerlässlich. Unsere integrierten Observability-Funktionen ermöglichen eine lückenlose Überwachung sämtlicher KI-gestützter IT-Interaktionen.
- Globale Dashboards: Eine zentrale Übersicht über die KI-Nutzung und Sicherheitsereignisse, um die Compliance im gesamten Unternehmen sicherzustellen.
- Prüfungsbereite Protokolle: Vollständige Aufzeichnungen der KI-gestützten Fehlerbehebung gewährleisten die Nachvollziehbarkeit bei Audits und Vorfallprüfungen.
- Richtliniendurchsetzung: Kennzeichnet verdächtiges oder nicht richtlinienkonformes KI-Verhalten in Echtzeit und unterstützt IT-Teams dabei, die Kontrolle zu behalten.
Ergebnis für IT-Teams: Die Gewissheit, dass KI-Tools sicher und im Einklang mit den Sicherheitsrichtlinien des Unternehmens arbeiten und die betriebliche Resilienz stärken – statt sie zu beeinträchtigen.
Das Fazit
Unsere Suite von Sicherheitslösungen für KI-Laufzeitumgebungen schützt den Bereich IT-Betrieb und Service Desk, indem sie sicherstellt, dass KI-Copiloten, Chatbots und Automatisierungs-Engines validiert, geschützt und transparent überwacht werden können. So kann die IT schneller agieren und gleichzeitig Sicherheit und Compliance gewährleisten.
Ähnliche Blogbeiträge
Kubernetes-native WAF für das Gateway-Zeitalter: F5 WAF for NGINX lässt sich jetzt in F5 NGINX Gateway Fabric integrieren
F5 erweitert WAFs, um mit F5 NGINX Gateway Fabric und F5 NGINX Ingress Controller einen konsistenten, skalierbaren Schutz über Cluster und Umgebungen hinweg bereitzustellen.
Von Regeln zu Risiken: Die Entwicklung von WAFs und der Aufstieg KI-gestützter Ergebnisse
WAF-Programme geraten oft an einem bekannten Punkt ins Stocken: Der Blockierungsmodus wird verzögert aktiviert, weil die Feinabstimmung aufwendig ist.
Erklärbarkeit: Licht ins Dunkel der KI-Blackbox bringen
Einblicke von James White, CTO bei CalypsoAI: Dank GenAI verstehen wir inzwischen gut, wie Antworten generiert und an uns zurückgegeben werden. Vereinfacht gesagt basiert KI auf einer Transformer-Architektur – sie wählt die beste Vorhersage für das nächste Wort und den nächsten Satz aus und liefert anhand der ihr vorliegenden Informationen die wahrscheinlichste Antwort […]
Die neue KI-Risikolandschaft: unsichtbar, autonom und bereits im Unternehmen
James White, VP Engineering, F5 Zur Jahresmitte 2025 ist es an der Zeit, eine Momentaufnahme der KI-Nutzung in Unternehmen und des aktuellen Stands der KI-Sicherheit zu erstellen. Der Einsatz generativer KI ist in Unternehmen mittlerweile Standard Unternehmen verfügen inzwischen durchweg zumindest über ein grundlegendes Verständnis von generativer KI. Sie wissen, was sie ist und wo sie […]
Die KI-Grenzen sichern: Strategien zur Bekämpfung von Datenexfiltration
Da Unternehmen zunehmend Modelle der generativen KI (GenAI) und große Sprachmodelle (LLMs) in ihre digitalen Systeme integrieren, sind sie mit neuen und erhöhten Risiken konfrontiert. Wenig überraschend stehen dabei Risiken im Zusammenhang mit Datenexfiltration – der unbefugten Übertragung von Daten aus einem Unternehmen an ein externes Ziel – meist ganz oben auf der Prioritätenliste der Sicherheitsteams. Ein Verständnis […]
Everest Group-Bericht: Aktuelle Trends und Zukunftsaussichten bei der Einführung von GenAI in der Industrie
Wir freuen uns, einen wesentlichen Beitrag zu einem wegweisenden neuen Bericht der Everest Group, einem weltweit führenden Forschungsunternehmen, geleistet zu haben. Der Bericht mit dem Titel „Generative AI Adoption – Examining Real-world Use in Horizontal Functions and Future Outlook“ bietet eine eingehende Analyse der Einführung generativer KI (GenAI) in verschiedenen Branchen. Dem Bericht zufolge ist die IT […]