Was ist Edge AI? Künstliche Intelligenz am Netzwerkrand verstehen

Edge AI bezeichnet die Bereitstellung von Algorithmen und Modellen der künstlichen Intelligenz in einer Edge-Computing-Umgebung. Dadurch werden Rechenleistung und Intelligenz näher an den Ort verlagert, an dem Entscheidungen getroffen werden, unter anderem um den kontinuierlichen Kommunikationsfluss zwischen Edge-Standorten und der Cloud zu reduzieren. Edge AI ermöglicht es Geräten am Netzwerkrand, Daten lokal zu verarbeiten und Entscheidungen in Echtzeit zu treffen, ohne für die Verarbeitung auf Internetverbindungen oder zentrale Cloud-Server angewiesen zu sein. Dies erhöht die Verarbeitungsgeschwindigkeit und verbessert den Datenschutz sowie die Datensicherheit.

Edge-KI verstehen

Edge-KI vereint mehrere Technologien, darunter künstliche Intelligenz, das Internet der Dinge (IoT), Edge-Computing, und eingebettete Systeme. Jede dieser Technologien spielt eine entscheidende Rolle dabei, intelligente Verarbeitung und Entscheidungsfindung am Netzwerkrand zu ermöglichen. Edge-KI nutzt eingebettete Algorithmen, um die Aktivitäten eines entfernten Systems zu überwachen und die von Geräten wie Sensoren und anderen Erfassungssystemen für unstrukturierte Daten gesammelten Informationen zu verarbeiten. Dazu zählen Temperatur, Sprache, Gesichter, Bewegungen, Bilder, Nähe und andere analoge Eingangssignale.

Diese Remote-Systeme können viele verschiedene Formen annehmen, darunter Sensoren, Smartphones, IoT-Geräte, Drohnen, Kameras und sogar Fahrzeuge und intelligente Haushaltsgeräte. Die von diesen Systemen erfassten Daten dienen als Eingabe für Edge-KI-Algorithmen und liefern wertvolle Informationen über den Zustand des Systems oder seiner Umgebung, sodass Edge-KI-Systeme schnell auf Veränderungen oder Anomalien reagieren und die Umgebung verstehen können, in der sie eingesetzt werden. Der Betrieb dieser Edge-KI-Anwendungen in einer zentralisierten Cloud- oder Unternehmensrechenzentrumsumgebung wäre aufgrund von Kosten, Latenz, Bandbreite, Sicherheit und Datenschutz unpraktikabel oder sogar unmöglich.

Edge-KI umfasst eine Vielzahl von Anwendungsfällen, darunter:

• Autonome Fahrzeuge. Edge-KI ermöglicht es Fahrzeugen, Sensordaten in Echtzeit zu analysieren und in Sekundenbruchteilen Entscheidungen für Aufgaben wie Objekterkennung, Spurverfolgung und Kollisionsvermeidung zu treffen, ohne ständig auf eine Cloud-Verbindung angewiesen zu sein.
• Intelligente Städte. Daten von Sensoren und Kameras, die im gesamten Stadtgebiet eingesetzt werden, können für verschiedene Smart-City-Anwendungen genutzt werden, darunter Verkehrssteuerung, Überwachung der öffentlichen Sicherheit, Abfallwirtschaft und Energieoptimierung.
• Landwirtschaftliche Überwachung. Edge-KI unterstützt die Präzisionslandwirtschaft, indem sie Daten von Sensoren, Drohnen und Satellitenbildern analysiert, um den Zustand der Pflanzen zu überwachen, die Bewässerung zu optimieren, Schädlingsbefall zu erkennen und Umweltbedingungen in Echtzeit zu analysieren.
• Industrielles IoT. Durch die direkte Bereitstellung von KI-Algorithmen auf Fertigungsanlagen und Sensoren können Edge-Geräte den Zustand von Maschinen überwachen, Defekte erkennen und Produktionsprozesse optimieren, ohne auf zentrale Server angewiesen zu sein.
• Gesundheitsüberwachung. Edge-KI unterstützt die Fernüberwachung von Patienten und eine personalisierte Gesundheitsversorgung, indem sie Daten von Wearables, medizinischen Sensoren und bildgebenden Geräten analysiert, um medizinische Daten in Echtzeit auszuwerten und Gesundheitsdienstleister auf mögliche gesundheitliche Probleme hinzuweisen.

Edge-KI vs. Cloud-KI

Für die Bereitstellung von KI-Algorithmen und -Modellen gibt es zwei grundlegende Paradigmen: am Edge oder in der Cloud. Strategien zur Integration von Systemen, die sich über Cloud- und Edge-Standorte erstrecken, werden als „Cloud-in“ bzw. „Edge-out“ bezeichnet. Beide haben Auswirkungen auf Leistung, Sicherheit und Betrieb.

Edge-KI bezeichnet die Bereitstellung von KI auf dezentralen Geräten, um Echtzeitverarbeitung und Entscheidungsfindung am Netzwerkrand oder in dezentralen Umgebungen zu ermöglichen. Diese Systeme können Daten weitgehend lokal analysieren, ohne auf eine Netzwerkverbindung angewiesen zu sein oder Daten an zentrale Server zu übertragen. Dies führt zu geringeren Latenzen und schnelleren Reaktionszeiten. Edge-KI-Systeme speichern zudem sensible Daten lokal und verringern so das Risiko von Datenschutzverletzungen oder Sicherheitsrisiken, die mit der Übertragung von Daten in die Cloud verbunden sind.

Beispiele für Edge-KI sind autonome Fahrzeuge, die lokal eingesetzte KI nutzen, um Sensordaten zu analysieren und in Echtzeit Fahrentscheidungen zu treffen, sowie Smart-Home-Geräte, die mithilfe von Edge-KI Sprachbefehle verarbeiten oder Gebäude auf Eindringlinge überwachen.

Cloud-KI hingegen zeichnet sich dadurch aus, dass KI-Algorithmen und -Modelle auf zentralisierten Cloud-Servern bereitgestellt werden, wodurch Datenverarbeitung, Training und Inferenz in großem Maßstab möglich sind. Cloud-Ressourcen bieten erhebliche Rechenkapazitäten und ermöglichen so komplexe KI-Aufgaben wie das Training von Deep-Learning-Modellen oder Big-Data-Analysen, die eine enorme Rechenleistung erfordern. Cloud-KI-Lösungen lassen sich problemlos skalieren, um große Datenmengen und Nutzerzahlen zu bewältigen. Dadurch eignen sie sich für Anwendungen mit hohem Durchsatz oder ressourcenintensiven Anforderungen.

Empfehlungssysteme, wie sie etwa von Amazon oder Netflix eingesetzt werden, um Verbrauchern auf Grundlage umfangreicher Nutzerdaten neue oder alternative Produkte vorzuschlagen, sind Beispiele für groß angelegte Cloud-KI-Systeme, die erhebliche Rechenressourcen benötigen, um optimal zu funktionieren.

Andere KI-Anwendungsfälle umfassen sowohl Edge-KI als auch Cloud-KI, um spezifische Kundenanforderungen zu erfüllen. Praxisbeispiele hierfür sind unter anderem Sentient.io, ein in Singapur ansässiger Anbieter einer KI- und Datenplattform, der mit dem Sentient Marketplace eine zentrale Anlaufstelle für innovative KI-Dienste entwickelt hat, über die Unternehmen KI problemlos in ihre bestehenden Arbeitsabläufe integrieren können. Der rasche Erfolg des Marktplatzes brachte jedoch mehrere komplexe Herausforderungen mit sich, darunter die Schwierigkeit, KI-Dienste in verteilten Umgebungen zu betreiben und bereitzustellen – lokal, in der Public Cloud, in der Private Cloud und am Netzwerkrand.

Beim Betrieb über mehrere Anbieter an Kundenstandorten hinweg bieten die Lösungen einzelner Cloud-Anbieter möglicherweise proprietäre Kubernetes-Distributionen, deren Nutzung für Unternehmen, die diese Plattformen in ihren jeweiligen Cloud-Umgebungen einsetzen müssen, eine große Herausforderung darstellen kann. Auch die Bereitstellung der KI-Modelle von Sentient an Kundenstandorten war aufwendig, da für jeden Edge-Standort eine lokale Kubernetes-Umgebung eingerichtet werden musste und Aktualisierungen sowie die Synchronisierung neuer Modelle manuell durchgeführt werden mussten. Dies führte zu einer höheren betrieblichen Komplexität sowie zu einer uneinheitlichen Workflow-Orchestrierung und inkonsistenten Sicherheitsrichtlinien.

Sentient.io ging eine Partnerschaft mit F5 ein, um Kunden aus verschiedenen Branchen schlüsselfertige KI-Lösungen der Enterprise-Klasse „as a Service“ bereitzustellen. Dabei kommt F5 Distributed Cloud App Stack, eine für den Unternehmenseinsatz geeignete Kubernetes-Plattform, zum Einsatz, die Bereitstellungen in lokalen Umgebungen sowie in Cloud- und Edge-Umgebungen vereinfacht. Die Lösung optimierte die Abläufe von Sentient, verringerte die Latenz und ermöglichte die KI-Verarbeitung in Echtzeit am Edge. Die Bereitstellung von Inferenzen am Edge beseitigt geografisch bedingte Netzwerk- und Bandbreitenbeschränkungen und gewährleistet, dass Inferenzergebnisse Anwendungen unmittelbar und in Echtzeit zur Verfügung stehen. Durch diese Umstellung bei der Modellbereitstellung konnte Sentient.io seinen Kunden leistungsstarke KI-Anwendungen mit einer kürzeren Time-to-Value bereitstellen, die Ressourcenzuweisung optimieren, die Gesamtbetriebskosten senken und die Anwendungs- und API-Sicherheit nativ integrieren.

Die Zusammenarbeit führte außerdem zu erheblichen Kosteneinsparungen gegenüber dem bisherigen Prozess der manuellen Verwaltung mehrerer Cloud-Plattformen, der eigene Teams erforderte und beträchtliche Ressourcenkosten verursachte. Mit F5 Distributed Cloud Services, vereinfachte Sentient seine Betriebsabläufe, senkte durch die Optimierung von Ressourcen und die Vereinfachung des Anwendungsmanagements die Kosten und setzte so Ressourcen für andere strategische Initiativen frei.

Zugriff auf Edge-KI

Der Zugriff auf Edge-KI erfordert den Einsatz einer Kombination aus Geräten, Technologien, Infrastrukturkomponenten und Integrationen, um einen effizienten Zugriff auf KI-Funktionen am Netzwerkrand und deren Nutzung zu ermöglichen. Dazu gehören:

• Edge-Geräte. Ausgestattet mit Sensoren und Mikrocontrollern erfassen Edge-Geräte Daten aus der physischen Welt und können Edge-KI-Modelle zur lokalen Verarbeitung ausführen. Beispiele für IoT-Geräte sind intelligente Thermostate, Überwachungskameras, Bodenfeuchtesensoren und Industriesensoren. Zu den Edge-Geräten können auch Smartphones und Tablet-Computer gehören, die nicht nur ihre Umgebung erfassen, sondern auch ihre Rechenleistung und Konnektivität für Edge-KI-Aufgaben nutzen können.
• Technologien. Der Betrieb von KI-Systemen am Netzwerkrand erfordert eine Reihe spezialisierter Technologien, darunter trainierte Algorithmen und KI-Modelle, die für die Bereitstellung auf Geräten mit begrenzten Ressourcen optimiert sind. Darüber hinaus stehen Edge-KI-Frameworks und -Plattformen zur Verfügung, die Tools und Bibliotheken bereitstellen, um die Entwicklung und Bereitstellung von Systemen zu vereinfachen.
• Infrastruktur. Eine zuverlässige Netzwerkkonnektivität – ob kabelgebunden oder drahtlos – ist erforderlich, damit Edge-KI-Geräte untereinander und bei Bedarf mit zentralen Servern kommunizieren können. Dazu können Hardwarekomponenten wie Edge-Server, Gateways und Router gehören. Darüber hinaus bilden APIs das zentrale Bindeglied in KI-Architekturen: Sie ermöglichen die Kommunikation zwischen verschiedenen Komponenten und Diensten sowie den Austausch von Daten und Anweisungen.
• Integrationen. Edge-KI-Systeme müssen sich in bestehende Netzwerke und Infrastrukturen integrieren lassen, um die Zugänglichkeit von Daten sicherzustellen, Skalierbarkeit und Kompatibilität mit anderen Systemkomponenten zu ermöglichen und die Verwaltung zu vereinfachen.

Beachten Sie außerdem die folgenden Herausforderungen und Einschränkungen bei der Bereitstellung von und dem Zugriff auf Edge-KI.

• Begrenzte Rechenleistung und Konnektivität. Die meisten Edge-Geräte verfügen nur über begrenzte Rechenleistung, Arbeitsspeicher- und Speicherkapazität, wodurch die Komplexität und Größe der KI-Modelle eingeschränkt werden kann, die auf diesen Geräten ausgeführt werden können. Zudem werden Edge-Geräte häufig in Umgebungen mit eingeschränkten Möglichkeiten zur Netzwerkanbindung eingesetzt, was sich ebenfalls auf die Reaktionsfähigkeit, Leistung und Zuverlässigkeit von Edge-KI-Systemen auswirken kann.
• Kosten und Verfügbarkeit. Viele KI-Modelle profitieren von Workload-Beschleunigern wie Grafikprozessoren (GPUs) und Datenverarbeitungseinheiten (DPUs), die eine schnellere Verarbeitung ermöglichen. Insbesondere GPUs sind jedoch teuer und können aufgrund physischer Einschränkungen zu groß für den Einsatz in miniaturisierten Formfaktoren sein. Dies kann die Arten von KI-Algorithmen einschränken, die auf Edge-Geräten bereitgestellt werden können, und alternative Optimierungstechniken erforderlich machen.
• Datenschutz. Einige Edge-KI-Systeme erzeugen und verarbeiten sensible oder geschützte Daten lokal, was Bedenken hinsichtlich des Datenschutzes und der Einhaltung von Vorschriften wie HIPAA oder DSGVO aufwirft. Um den Datenschutz und die Einhaltung gesetzlicher Anforderungen zu gewährleisten, müssen möglicherweise geeignete Maßnahmen zur Datenanonymisierung, Verschlüsselung und Zugriffskontrolle implementiert werden.
• Geräteverwaltung. Die Bereitstellung, Überwachung, Aktualisierung und Wartung von Edge-KI-Systemen, die über geografisch weit verstreute Standorte verteilt sind, kann eine Herausforderung darstellen und erfordert effiziente Verwaltungstools und -plattformen.

Sicherheitsmaßnahmen für Edge-KI

Der Schutz von Daten und die Minimierung von Sicherheitsrisiken bei Edge-KI-Implementierungen erfordern ein ganzheitliches Sicherheitskonzept mit mehreren Schutzebenen. Edge-KI unterscheidet sich zwar in wesentlichen Punkten von herkömmlichen Computing-Workloads, etwa durch ihre Fähigkeit, aus Daten zu lernen und ihr Verhalten auf Grundlage von Erfahrungen weiterzuentwickeln. Hinsichtlich der Sicherheitsanforderungen weist Edge-KI jedoch viele Gemeinsamkeiten mit konventionelleren IoT-Systemen auf und ist zahlreichen ähnlichen Risiken ausgesetzt, darunter:

• Schadsoftware und Cyberangriffe. Edge-KI-Geräte sind anfällig für Infektionen mit Schadsoftware, Cyberangriffe und die Ausnutzung aus der Ferne, wenn sie nicht angemessen geschützt werden. Der Einsatz von Antivirensoftware und Systemen zur Angriffserkennung sowie regelmäßige Softwareupdates sollten Bestandteil jeder Sicherheitsstrategie für Edge-KI sein.
• Netzwerksicherheit. Edge-AI-Geräte kommunizieren in der Regel über Netzwerke miteinander und mit zentralen Servern, wodurch sie zu potenziellen Zielen für netzwerkbasierte Angriffe werden. Sichern Sie die Netzwerkkommunikation durch Verschlüsselung, Authentifizierung und Zugriffskontrollmechanismen, um übertragene Daten zu schützen und unbefugten Zugriff auf Netzwerkressourcen zu verhindern.
• Datenintegrität. Um die Genauigkeit und Zuverlässigkeit von KI-Modellen und Entscheidungsprozessen zu gewährleisten, muss die Integrität der von Edge-KI-Geräten verarbeiteten Daten geschützt werden. Zur Erkennung und Eindämmung von Datenmanipulationen oder -beschädigungen müssen Datenvalidierungen, Prüfsummen und Integritätsprüfungen implementiert werden, um die Authentizität und Konsistenz der Eingabedaten zu überprüfen.
• Physische Sicherheit. Edge-KI-Geräte werden häufig in abgelegenen oder unwirtlichen Umgebungen eingesetzt, wodurch sie anfällig für Beschädigungen, physische Manipulationen, Diebstahl oder Vandalismus sind. Physische Schutzmaßnahmen wie manipulationssichere Gehäuse oder Überwachungskameras tragen dazu bei, Geräte vor Beschädigung, Manipulation oder unbefugtem Zugriff zu schützen.
• API-Sicherheit. KI-Ökosysteme einschließlich Plug-ins werden durch APIs ermöglicht, die anfällig für Sicherheitslücken, Missbrauch, Fehlkonfigurationen und Angriffe sind, mit denen unzureichende Authentifizierungs- und Autorisierungskontrollen umgangen werden.
• Sicherheit großer Sprachmodelle (Large Language Models, LLMs). LLMs und die zugehörigen Trainings- und Inferenzprozesse, die mit der Entscheidungsfindung in Anwendungen auf Basis generativer KI verbunden sind, bergen zahlreiche Risiken, darunter Prompt-Injection, Datenvergiftung, Halluzinationen und Verzerrungen.

Eine eingehende Untersuchung der Sicherheitsrisiken bei der Bereitstellung und Verwaltung von KI-Systemen auf Basis von LLMs, einschließlich Edge-KI-Anwendungen, finden Sie in den OWASP Top 10 für Anwendungen mit großen Sprachmodellen, die das Bewusstsein für deren Schwachstellen schärfen, Abhilfemaßnahmen vorschlagen und darauf abzielen, das Sicherheitsniveau von LLM-Anwendungen zu verbessern.

Optimierungsstrategien für Edge-KI

Aufgrund ihres Einsatzes am Netzwerkrand oder an anderen entfernten Standorten ist es wichtig, die Edge-KI-Infrastruktur im Hinblick auf Leistung, Ressourcennutzung, Sicherheit und weitere Aspekte zu optimieren. Die Optimierung ressourcenbeschränkter Geräte hinsichtlich Effizienz und Leistung kann jedoch eine Herausforderung darstellen, da die Reduzierung des Rechen-, Speicher- und Energiebedarfs bei gleichzeitiger Aufrechterhaltung einer akzeptablen Leistung häufig Kompromisse erfordert.

Leistungssteigerung bei Edge-KI

Es gibt verschiedene Strategien, um die Rechenleistung am Netzwerkrand zu optimieren und gleichzeitig den Energieverbrauch zu begrenzen. Energiespartechniken wie Energiesparmodi, Ruhezustände oder die dynamische Spannungs- und Frequenzskalierung (DVFS) können dazu beitragen, den Energieverbrauch zu senken. Hardwarebeschleuniger wie GPUs und DPUs können rechenintensive Aufgaben von der CPU übernehmen und so die Inferenzgeschwindigkeit erhöhen. Techniken wie dynamische Batchverarbeitung, adaptive Inferenz oder Modellsparsität ermöglichen eine optimierte Ressourcennutzung bei gleichbleibender Leistung. Weniger rechenintensive Aufgaben können von CPU-Ressourcen übernommen werden, was die Bedeutung der gemeinsamen Ressourcennutzung in stark verteilten Architekturen unterstreicht.

Anpassung von Modellen für Edge Computing

Edge-KI-Geräte verfügen häufig nur über begrenzte Rechenressourcen, weshalb schlanke, für Edge-Geräte optimierte KI-Modelle eingesetzt werden müssen. Bei der Auswahl des für die Geräteressourcen und Anwendungsanforderungen am besten geeigneten Modells gilt es daher, ein ausgewogenes Verhältnis zwischen Modellkomplexität, Genauigkeit und Inferenzgeschwindigkeit zu finden. Techniken wie Modellquantisierung, Pruning und Wissensdestillation können dazu beitragen, die Größe von KI-Modellen ohne nennenswerte Leistungseinbußen zu reduzieren.

Optimierte Sicherheit am Netzwerkrand

Der Begriff „sich auflösender Perimeter“ beschreibt, wie herkömmliche Netzwerkgrenzen durch Faktoren wie mobile Geräte sowie Cloud- und Edge-Computing zunehmend an Kontur verlieren. Im Zusammenhang mit Edge-KI bedeutet dies, dass Edge-KI-Geräte in der Regel in dezentralen und dynamischen Netzwerkumgebungen am Netzwerkrand eingesetzt werden. Sie werden außerhalb von Rechenzentren oder Cloud-Umgebungen und jenseits herkömmlicher perimeterbasierter Sicherheitsmaßnahmen wie Firewalls oder Angriffserkennungssystemen betrieben. Daher gelten für die Sicherheit von Edge-KI besondere Anforderungen. Sie muss so optimiert werden, dass sie vor Bedrohungen wie unbefugtem Zugriff an isolierten Standorten und in komplexen, verteilten Umgebungen schützt, in denen Sicherheitsmanagement und Transparenz eine Herausforderung darstellen.

Darüber hinaus bilden APIs das Bindeglied, über das verschiedene Komponenten von KI-Anwendungen Daten und Anweisungen austauschen können. Der Schutz dieser API-Verbindungen und der darüber übertragenen Daten stellt eine zentrale Sicherheitsherausforderung dar, der sich Unternehmen bei der Bereitstellung KI-gestützter Anwendungen stellen müssen. Dies erfordert den Einsatz von Schutzdiensten für Webanwendungen und APIs, die Endpunkte dynamisch erkennen und automatisch vor einer Vielzahl von Risiken schützen.

Sicherheit für große Sprachmodelle

LMMs sind Modelle der künstlichen Intelligenz, die auf riesigen Mengen an Textdaten basieren und darauf trainiert sind, natürliche Sprache zu verstehen und mit bemerkenswerter, menschenähnlicher Sprachgewandtheit und Kohärenz zu erzeugen. LLMs, die das Herzstück generativer KI-Anwendungen bilden, werden in der Regel anhand von Eingabedaten und Inhalten trainiert, die systematisch aus dem Internet extrahiert werden, darunter Online-Bücher, Beiträge, Websites und Artikel. Diese Eingabedaten können jedoch von böswilligen Akteuren angegriffen werden, die sie gezielt manipulieren, um generative KI-Modelle irrezuführen oder deren Leistungsfähigkeit zu beeinträchtigen. Dies kann zu Schwachstellen, Verzerrungen, unzuverlässigen Ausgaben, Datenschutzverletzungen und der Ausführung nicht autorisierten Codes führen.

Zu den größten Sicherheitsrisiken für LLMs gehören:

• Prompt-Injection. Angreifer können LMM-Eingabeaufforderungen manipulieren, um die generierten Ausgaben zu beeinflussen und die Vertrauenswürdigkeit und Zuverlässigkeit der von LLMs generierten Ausgaben zu untergraben, indem sie voreingenommene, anstößige oder ungenaue Inhalte erzeugen.
• Modellvergiftung. Bei diesen Angriffen werden während der Trainingsphase von LLMs schädliche Daten eingeschleust, um deren Verhalten zu manipulieren oder ihre Leistungsfähigkeit zu beeinträchtigen. Durch das Einbringen vergifteter Datenbeispiele in den Trainingsdatensatz können Angreifer Verzerrungen, Schwachstellen oder Hintertüren in das trainierte LLM-Modell einschleusen.
• Denial-of-Service-Angriffe (DoS) auf Modelle. Diese Angriffe zielen auf die Verfügbarkeit und Leistung von LLMs ab, indem sie diese mit schädlichen Anfragen oder Eingaben überlasten, die die Grenzwerte für die Tokenisierung von Anfragen und das Kontextfenster des LLM überschreiten können. Dies kann zu Verlangsamungen, Störungen oder Dienstausfällen führen. Solche Angriffe zur Ressourcenerschöpfung können Leistungseinbußen oder Systeminstabilität verursachen, die Verfügbarkeit und Zuverlässigkeit des KI-Systems beeinträchtigen und die Fähigkeit des Modells einschränken, zu lernen und auf Benutzereingaben zu reagieren.

Die Bewältigung dieser Sicherheitsherausforderungen erfordert einen vielschichtigen Ansatz, der Prompt-Injections verhindert und Techniken wie Prompt-Bereinigung, Eingabevalidierung und Prompt-Filterung einsetzt, um sicherzustellen, dass das Modell nicht durch böswillig präparierte Eingaben manipuliert wird. Entwickeln Sie zur Abwehr von DoS-Angriffen eine mehrstufige Verteidigungsstrategie, die Ratenbegrenzung, Anomalieerkennung und Verhaltensanalyse umfasst, um verdächtige oder bösartige Netzwerkaktivitäten zu erkennen und zu identifizieren. Die Branche entwickelt sich noch weiter, um diese Risiken wirksam zu bewältigen. Dies führt zu einer rasanten Entwicklung von LLM-Proxys, Firewalls, Gateways und sicherer Middleware innerhalb von Anwendungsstacks.

Die Zukunft der Edge-KI

Edge-KI ist Teil einer sich rasant weiterentwickelnden Gruppe von Technologien am Netzwerkrand, die eine neue Ära intelligenter, reaktionsschneller und effizienterer Computing-Umgebungen einläuten. Diese Technologien vereinen Fortschritte in den Bereichen Prozessoren, Netzwerke, Software und Sicherheit und eröffnen branchenübergreifend neue Möglichkeiten für Innovation und Transformation. Diese Edge-Computing-Anwendungsfälle nutzen Echtzeitanalysen und die Entscheidungsfindung am Netzwerkrand. So können Unternehmen Daten näher an ihrer Quelle verarbeiten und analysieren, die Reaktionszeiten latenzempfindlicher Anwendungen verbessern und die Bereitstellung von Inhalten in Echtzeit gewährleisten.

Durch die Verteilung von Rechenressourcen über den Netzwerkrand können Unternehmen zudem schnell auf veränderte Workload-Anforderungen reagieren und die Ressourcennutzung optimieren, um die Gesamtleistung und Effizienz des Systems zu steigern. Ermöglicht wird dies unter anderem durch die Weiterentwicklung speziell für Edge-Computing-Infrastrukturen konzipierter Komponenten wie Edge-Server, Edge-Computing-Plattformen und -Bibliotheken sowie KI-Prozessoren auf Chips, die die erforderlichen Rechen-, Speicher- und Netzwerkressourcen zur Unterstützung von Edge-KI-Anwendungen bereitstellen.

Edge-KI hat eine entscheidende Rolle bei der Renaissance der Infrastruktur am Netzwerkrand gespielt. Die Integration von KI und IoT fördert weiterhin intelligente Entscheidungen am Netzwerkrand und treibt damit revolutionäre Anwendungen im Gesundheitswesen, in der industriellen Automatisierung, in der Robotik, bei intelligenten Infrastrukturen und in vielen weiteren Bereichen voran.

TinyML ist ein Ansatz für ML und KI, der sich unter anderem auf die Entwicklung schlanker ML-Softwaremodelle und -Algorithmen konzentriert, die für den Einsatz auf ressourcenbeschränkten Edge-Geräten wie Mikrocontrollern und Edge-KI-Geräten optimiert sind. TinyML-basierte Algorithmen sind energieeffizient konzipiert und können Inferenzaufgaben lokal ausführen, ohne auf Cloud-Ressourcen angewiesen zu sein.

Darüber hinaus kommen kompakte und leistungsstarke Prozessoren wie DPUs – spezialisierte Hardwarekomponenten, die Datenverarbeitungsaufgaben von der CPU auslagern und beschleunigen – zunehmend beim Edge Computing und in KI/ML-Workloads zum Einsatz, bei denen die effiziente Verarbeitung großer Datenmengen für Leistung und Skalierbarkeit entscheidend ist. Diese Effizienz ist besonders in Edge-Computing-Umgebungen von Vorteil, in denen Leistungsbeschränkungen den Einsatz energieintensiver GPU-Lösungen einschränken können.

Diese Innovationen werden durch eine neue Generation von Netzwerklösungen in einem Edge-to-Cloud-to-Rechenzentrum-Kontinuum miteinander verknüpft, die eine nahtlose Datenverarbeitung, -analyse und Observability über verteilte Architekturen hinweg ermöglicht, einschließlich Hybrid-, Multi-Cloud- und Edge-Computing-Ressourcen. Diese Netzwerke werden zunehmend auf APIs angewiesen sein, die wesentliche Bestandteile von Edge-Computing-Plattformen sind, da sie Kommunikation, Integration und Automatisierung erleichtern und so einen nahtlosen Datenaustausch sowie die Synchronisierung innerhalb verteilter Computing-Umgebungen ermöglichen. APIs gewährleisten zudem die Interoperabilität zwischen unterschiedlichen Edge-Geräten, Systemen und Diensten, indem sie standardisierte Schnittstellen bereitstellen. Dies ermöglicht außerdem die dynamische Bereitstellung, Verwaltung und Steuerung von Edge-Ressourcen und -Diensten.

In diesen weitläufigen verteilten Architekturen können Daten an mehreren Punkten entlang des Kontinuums sicher verarbeitet und analysiert werden – von Edge-Geräten in unmittelbarer Nähe der Datenquellen bis hin zu zentralisierten oder verteilten Cloud-Servern in Rechenzentren. Dieses Edge-to-Everywhere-Kontinuum ermöglicht es Unternehmen, die Stärken verschiedener Computing-Umgebungen sicher zu nutzen und herkömmliche sowie KI-Workloads zu integrieren, um die vielfältigen Anforderungen moderner Anwendungen zu erfüllen.

Wie F5 Sie unterstützen kann

F5 ist der einzige Lösungsanbieter, der jede App und jede API überall im gesamten Spektrum verteilter Umgebungen absichert, bereitstellt und optimiert – einschließlich KI-Anwendungen am Netzwerkrand. KI-basierte Apps sind die modernsten aller modernen Apps. Zwar gelten für Systeme, die generative KI einsetzen, besondere Anforderungen, etwa im Hinblick auf LLM-Risiken und verteilte Inferenz, doch auch diese Anwendungen sind von Latenzproblemen, Denial-of-Service-Angriffen, Softwareschwachstellen und dem Missbrauch durch böswillige Akteure mithilfe von Bots und schädlicher Automatisierung betroffen.

Neue KI-gestützte digitale Erlebnisse sind stark verteilt und umfassen eine Mischung aus Datenquellen, Modellen und Diensten, die sich über lokale Infrastrukturen sowie Cloud- und Edge-Umgebungen erstrecken. Sie alle sind durch ein wachsendes Netzwerk von APIs miteinander verbunden, das erhebliche Sicherheitsherausforderungen mit sich bringt. Der Schutz dieser API-Verbindungen und der darüber übertragenen Daten ist die entscheidende Sicherheitsherausforderung, der sich Unternehmen bei der Bereitstellung weiterer KI-gestützter Dienste stellen müssen.

F5 Distributed Cloud Services bietet die umfassendste KI-fähige API-Sicherheitslösung der Branche mit API-Code-Tests und Telemetrieanalysen zum Schutz vor ausgefeilten KI-gestützten Bedrohungen und vereinfacht zugleich die Absicherung und Verwaltung von Multi-Cloud- und Edge-Anwendungsumgebungen. F5 Multi-Cloud Networking-Lösungen bieten SaaS-basierte Netzwerkfunktionen mit Datenverkehrsoptimierung sowie Sicherheitsservices für Public und Private Clouds und Edge-Bereitstellungen, die sich über eine zentrale Konsole steuern lassen. Dadurch wird der Verwaltungsaufwand für cloudabhängige Services und mehrere Drittanbieter reduziert. Mit den Netzwerklösungen von F5 profitieren Sie von beschleunigten KI-Bereitstellungen, durchgängigem Richtlinienmanagement und umfassender Beobachtbarkeit für eine vollständig automatisierbare und zuverlässige Infrastruktur.

Darüber hinaus bildet die neue F5 AI Data Fabric die Grundlage für die Entwicklung innovativer Lösungen, die Kunden dabei unterstützen, fundiertere Entscheidungen zu treffen und schneller zu handeln. Telemetriedaten aus Distributed Cloud Services, BIG-IP und NGINX werden kombiniert, um beispiellose Einblicke zu liefern, Echtzeitberichte zu erstellen, Aktionen zu automatisieren und KI-Agenten zu unterstützen.

F5 bringt außerdem einen KI-Assistenten auf den Markt, der die Art und Weise verändern wird, wie Kunden über eine natürlichsprachliche Benutzeroberfläche mit F5-Lösungen interagieren und diese verwalten. Auf Basis der F5 AI Data Fabric wird der KI-Assistent Datenvisualisierungen erstellen, Anomalien erkennen, Richtlinienkonfigurationen abfragen und generieren sowie Maßnahmen zur Fehlerbehebung durchführen. Darüber hinaus fungiert er als integrierter Kundensupport-Manager, sodass Kunden Fragen stellen und Empfehlungen erhalten können, die auf dem Training des Modells mit den vollständigen Wissensdatenbanken der Produkte basieren.

F5-Lösungen unterstützen und schützen Ihre KI-basierten Anwendungen – vom Rechenzentrum bis zum Netzwerkrand – und bieten leistungsstarke Tools für zuverlässige Performance und Sicherheit, damit Sie den größtmöglichen Nutzen aus Ihren KI-Investitionen ziehen können.