360°-Schutz vor Schadcode

F5 Newsroom Staff

Bei all den Vorteilen, Effizienzsteigerungen und Produktivitätsverbesserungen, die große Sprachmodelle (Large Language Models, LLMs) bereits für Unternehmen mit sich gebracht haben, kann es sich keine Organisation leisten, die mit ihrer Bereitstellung verbundenen Risiken zu übersehen. Die Angriffsfläche einer Organisation wird anfälliger, je mehr Tools sich im System befinden.

Versteckter Schadcode – also jeglicher in eine Antwort eingebettete Code, der das Gerät, die Daten oder das Netzwerk des Benutzers schädigen kann – stellt eine ernst zu nehmende und zunehmend größere Bedrohung dar. Ein solcher Code kann als erster Schritt dienen, um vertrauliche Informationen zu stehlen, Malware zu installieren, das Gerät oder die Identität des Benutzers zu übernehmen oder Denial-of-Service-Angriffe (DoS) beziehungsweise andere Angriffe zu starten. Da er sich als legitimer Inhalt tarnen lässt, ist er umso gefährlicher. Zu den LLM-bezogenen Angriffsvektoren für Schadcode gehören:

• Ausnutzen von Schwachstellen im Modell, um Schadcode in Antworten einzuschleusen.
• Durchführen von Social-Engineering-Angriffen, bei denen Benutzern sorgfältig formulierte Antworten gesendet werden, die legitim erscheinen, jedoch Links zu Websites oder Dateien enthalten, über die Schadcode verbreitet wird.
• Verwendung kompromittierter APIs oder Drittanbieterdienste, die Schadcode in Antworten einschleusen.

In jedem dieser Szenarien hätten selbst Mitarbeiter, die mit den Vorgaben des Security-Awareness-Programms ihres Unternehmens bestens vertraut sind, keine Möglichkeit zu erkennen, dass ihre alltäglichen, routinemäßigen Interaktionen mit dem LLM dazu geführt haben, dass Malware in das System ihres Unternehmens gelangt ist. Sobald sich Schadcode jedoch in einem Netzwerk oder einem anderen privaten System befindet, kann er auf vielfältige Weise erheblichen Schaden anrichten, zum Beispiel:

• Datendiebstahl oder -manipulation: Code kann so konzipiert sein, dass sensible Daten wie persönliche Finanz- oder Kundendaten oder geistiges Eigentum gestohlen oder manipuliert werden. Sobald die Daten aus dem System ausgeschleust wurden, kann der Angreifer:
  • Die gestohlenen Daten für Identitätsdiebstahl oder Finanzbetrug nutzen oder Märkte stören.
  • Die Daten oder das geistige Eigentum im Darknet verkaufen.
  • Veröffentlichen Sie sie im Internet, sodass die ganze Welt sie sehen kann.
  • Alle oben genannten Antworten.
• Betriebsunterbrechung: Schadcode kann Fehlfunktionen in Unternehmenssystemen auslösen und dadurch Betriebsunterbrechungen verursachen. Diese können die Bearbeitung von Kunden- oder Lieferantenanfragen verzögern, Entscheidungsprozesse verlangsamen, die Effizienz beeinträchtigen und Geschäftschancen gefährden. All dies kann zu erheblichen finanziellen Verlusten für das Unternehmen führen.
• Reputationsschaden: Ein erfolgreicher Angriff mit Schadcode über ein LLM könnte den Ruf des Unternehmens schädigen, das Vertrauen von Kunden, Aktionären, Aufsichtsbehörden, Partnern und anderen Interessengruppen beeinträchtigen und langfristige finanzielle Folgen nach sich ziehen.

Fachleute für KI und Cybersicherheit wissen, dass die erste Verteidigungslinie gegen digitale Angriffe ein starker, gut gewarteter Perimeterschutz und die zweite ein solides Schulungsprogramm für Mitarbeitende ist. Unternehmensweit eingesetzt, schließt die F5 AI Guardrails Plattform mit ihrer schlanken, modellunabhängigen Vertrauensschicht die Lücke zwischen diesen Lösungen, indem sie die sichere Nutzung generativer KI-Lösungen (GenAI) ermöglicht, ohne dass für Installation oder Training Ausfallzeiten erforderlich sind. Dank vollständiger Transparenz können Sicherheitsteams modellübergreifend in Echtzeit erkennen, was geschieht, und interne wie externe Angriffe abwehren und verhindern. Richtlinienbasierte Zugriffskontrollen ermöglichen es Administratoren, den Modellzugriff und die Nutzung auf Gruppen- und Einzelbenutzerebene zu beschränken, sodass Kosten überwacht und kontrolliert werden können. Ratenbegrenzungen bieten Schutz vor DoS-Angriffen auf Modelle.

F5 AI Guardrails bietet außerdem Schutz auf granularer Ebene mit einer umfassenden Suite anpassbarer Scanner, die Folgendes überprüfen:

• Jede LLM-Eingabeaufforderung wird auf private, vertrauliche oder anderweitig ausnutzbare Inhalte geprüft, um zu verhindern, dass diese das System verlassen.
• Jede Antwort auf Schadcode und andere verdächtige Inhalte prüfen und verhindern, dass diese in das System gelangen.

Alle Details jeder Interaktion werden protokolliert, darunter die Eingabeaufforderung, die Antwort, der Benutzer, Datum und Uhrzeit sowie die Ergebnisse der einzelnen Schutzmechanismen. Dies gewährleistet in einer sicheren, privaten Umgebung die vollständige Nachvollziehbarkeit und Zuordnung von Aktivitäten, Inhalten und Kosten.

F5 AI Guardrails ermöglicht die gleichzeitige Umsetzung von Cybersicherheits- und KI-Sicherheitsmaßnahmen und bietet Unternehmen damit eine robuste, sichere Möglichkeit, ihren Betrieb wie gewohnt fortzuführen und zugleich ihre Mitarbeitenden, Vermögenswerte und Prozesse vor KI-bedingten Risiken zu schützen.

Klicken Sie hier, um eine Demo unserer Plattform für GenAI-Sicherheit und -Implementierung zu vereinbaren.

Über den Autor

F5 Newsroom Staff

Weitere Blogbeiträge von F5 Newsroom Staff