Wie bewertet SecOps den Einsatz von KI?

Neue Technologien lösen schnell Begeisterung aus. Sie erinnern sich sicher an das erste Mal, als Sie eine LLM-Anfrage gestellt haben, Ihren ersten Besuch mit einem Webbrowser oder die verrückte Vorstellung, dass Ihre Daten in einer „Cloud“ gespeichert sind. Doch bei jeder Innovation steht ein engagiertes Team von Sicherheitsexperten bereit, das sich darum kümmert, wie Sie diese Technologien sicher nutzen können. Es ist leicht, sich von Schlagzeilen und künftigen Möglichkeiten mitreißen zu lassen – gerade im Bereich KI gibt es davon zuhauf. Während wir aber die Rolle festlegen, die F5 künftig in der KI-Sicherheit übernimmt, haben wir uns zurückgelehnt und gefragt: Wie steht die Sicherheits-Community tatsächlich zur KI?

Da uns unsere Kunden hier bei F5 am Herzen liegen , haben wir jeden KI-bezogenen Kommentar des vergangenen Jahres (Juli 2024 – Juni 2025) der Top-Benutzer der größten Community von Sicherheitsexperten im Internet, Reddits r/cybersecurity, analysiert. Wir haben jeden Kommentar und jeden Benutzer in Stimmungskategorien eingeteilt und für jeden die geäußerten oder zugrunde liegenden Schmerzpunkte extrahiert.

Die Hälfte der SecOps-Teams sieht KI optimistisch. Sie setzen KI-gestützte Tools in ihren Umgebungen ein, automatisieren wiederkehrende Aufgaben und nutzen KI-Assistenten, um Warnmeldungen effektiv zu priorisieren.

„Ich bin beeindruckt, wie zuverlässig es neue Eindringmuster erkennt.“

„KI ist da, um Sie zu unterstützen – nutzen Sie sie als Ihre Ergänzung und Helfer.“

Die andere Hälfte teilt sich zwischen Sorge über die Herausforderung, KI-Systeme zu schützen, und Zweifel, dass KI noch deutlich über ihren aktuellen Stand hinaus Fortschritte macht.

Das Spannungsfeld zwischen den hohen Datenanforderungen der KI und den Grundsätzen der Cybersicherheit stellt die Datensicherheit ins Zentrum der Diskussion. Zu Jahresbeginn war Datensicherheit die größte Sorge der Sicherheitsfachleute – und mit der beschleunigten KI-Einführung in Unternehmen hat sich das Problem noch weiter verschärft.

„Was KI effektiv macht, sind Daten. Je mehr Daten Sie zur Verfügung haben, desto wirkungsvoller wird sie. Dieses Modell widerspricht direkt der Sicherung des Datenzugriffs durch Zugriffskontrollen, Netzwerksegmentierung und das Prinzip der geringsten Privilegien. Wenn Sie KI im großen Stil einsetzen, müssen Sie viele Sicherheitskontrollen aufheben, die den Datenzugriff der KI-Modelle sonst verhindern würden. Sie stehen aktuell vor der Entscheidung: Möchten Sie eine effektive KI ODER bevorzugen Sie Sicherheit?“

Das größte Problem in diesem Bereich ist Shadow AI, also der unberechtigte Nutzerzugriff auf KI-Systeme. Unabhängig davon, wie weit Ihr Unternehmen bei der KI-Einführung ist, bleibt dieses Problem bestehen.

Datensicherheit wird zwar vorrangig diskutiert, doch Beobachtbarkeit und Anomalieerkennung sind für SecOps die nächsten wichtigen KI-Themen. Während Anbieter versprechen, wie KI Sicherheits-Workflows verbessern kann, betonen Experten die wichtige Balance: „KI-Sicherheitsagenten leisten nur begrenzt Hilfe, und immer muss ein Mensch eingebunden sein.“ Ein Analyst berichtete von seiner Erfahrung, KI zur Automatisierung der L1-Triage von EDR-Warnungen einzusetzen, um die MTTT von 45 Minuten auf unter zwei zu senken, ergänzte jedoch: „Das funktionierte nur mit klaren Leitplanken, Leitplanken und nochmals Leitplanken.“ Die Forderung ist klar: Schaffen Sie durchgehend Transparenz und Nachverfolgbarkeit bei KI-Interaktionen, automatisieren Sie monotone Aufgaben und behalten Sie strategische Entscheidungen bei Menschen.

„KI lässt sich am besten vorstellen, wenn Sie Ihre Angreifer mit Dutzenden oder gar Hunderten von Mitarbeitern verstärken ... Ich schätze, die besten 5 % der Angreifer steigern heute ihre Effektivität um 50–300 %.“ Das ist keine theoretische Bedrohung, sondern ein Multiplikator, der Opportunisten eine neue Basis gibt und die Leistung raffinierter Bedrohungsakteure deutlich erhöht. Praxisbezogen treten diese Veränderungen in zwei Formen auf: neue gegnerische KI-Techniken wie Prompt Injection oder Jailbreak-Angriffe auf KI-Systeme sowie die bösartige Verbreitung von Social-Engineering-Angriffen wie Phishing und Deepfakes. Die Sorge darüber wächst, weil Modelle und Agenten immer stärker mit weiteren Werkzeugen und Daten verknüpft werden. 

Weitere 12 % der Schmerzpunkte nannten Modellverhalten und Ausgabequalität als eigenes Sicherheitsrisiko. Die größten Sorgen betrafen Halluzinationen, Genauigkeitslücken und schädliche Ergebnisse, doch an erster Stelle stand die Eskalation von Berechtigungen – dass KI auf Daten zugreift oder Aufgaben ausführt, für die ihr die Rechte fehlen. Hier drängen SecOps auf pragmatische Schutzmechanismen: Inhaltsmoderation abgestimmt auf Geschäftsrisiken, Richtlinienabgleich und klare Berechtigungen für Modelle und Agenten.

Sicherheitsteams erwarten zunehmend, dass Anbieter höhere Standards erfüllen – oft steht das direkt zwischen den Zeilen.

• Setzen Sie Datensicherheit an erste Stelle – DLP für die Durchsetzung von KI-Richtlinien und Zugriffskontrollen, die das Prinzip der minimalen Rechte umsetzen
• Kein „AI-Washing“ – zeigen Sie echte Sicherheits- und Compliance-Fähigkeiten mit belastbaren Nachweisen statt leerer Versprechen
• Gestalten Sie Observability prüfungsbereit und praktikabel – erleichtern Sie die Integration in bestehende SIEM/SOAR-Workflows und sorgen Sie für umfassende Transparenz bei allen Interaktionen
• Flexibilität für Menschen im Ablauf – gestalten Sie Prioritäten nach Wirkung, nicht nur nach Tempo
• Adversarial Resilience – die KI Die Angriffsfläche verändert sich ständig, und die Lösungen müssen sich mit der Entwicklung neuer Bedrohungen anpassen können.
• Richtlinienmanagement vereinfachen – stimmen Sie Unternehmensrichtlinien und gesetzliche Vorgaben ohne manuellen Aufwand ab