Thales startet AI Security Fabric zum Schutz von Anwendungen auf Basis von LLM und agentenbasierter KI

Eine neue Generation der KI erfordert eine neue Generation des Schutzes

Thales, ein weltweit führendes Unternehmen im Bereich sicherheitskritischer Cybersecurity-Lösungen, kündigte die Einführung von AI Security Fabric an – der ersten umfassenden Branchenlösung, die speziell für die Absicherung von Anwendungen auf Basis großer Sprachmodelle (LLM) und autonomer agentenbasierter KI (Agentic AI) entwickelt wurde. Diese Plattform wurde entwickelt, um die einzigartigen Schwachstellen zu beseitigen, die bei der Nutzung von LLMs und der ständig wachsenden Funktionalität von KI-Agenten entstehen, die selbstständig Entscheidungen treffen und Aktionen ausführen können.

Traditionelle Sicherheitsmethoden sind nicht in der Lage, mit der dynamischen und unvorhersehbaren Natur moderner KI-Anwendungen umzugehen. Die Lösung von Thales bietet ein einzigartiges Set an Werkzeugen für Sicherheits- und Datenschutzkontrollen direkt während der Ausführung von KI-Modellen.

Zentrale Funktionen von AI Security Fabric

Thales’ AI Security Fabric konzentriert sich darauf, die notwendige Kontrolle bereitzustellen, um KI sicher in Unternehmensumgebungen einzusetzen. Die Lösung umfasst:

• Schutz vor LLM-spezifischen Angriffen: Neutralisierung von Bedrohungen wie Prompt Injection, Datenlecks bei deren Abruf (Retrieval-Augmented Generation – RAG) und Missbrauch autonomer Agenten.
• Datenzugriffskontrolle und Maskierung: Sicherstellung, dass LLMs nur auf die notwendigen Daten zugreifen können und sensible Informationen vor der Verarbeitung automatisch maskiert werden.
• Integritätsprüfung von Antworten: Einsatz fortschrittlicher Techniken wie Watermarking und kryptografischer Nachweise, um die Authentizität und Herkunft von Ausgaben zu überprüfen und die Generierung schädlicher oder falscher Inhalte zu verhindern.
• Nutzungsrichtlinien und Compliance: Ermöglichung für Organisationen, strenge Richtlinien darüber festzulegen, wie KI-Agenten mit Unternehmenssystemen und -daten interagieren dürfen, um die Einhaltung regulatorischer Anforderungen sicherzustellen.

Während KI Geschäftsprozesse verändert, benötigen Organisationen Sicherheitslösungen, die an die spezifischen Risiken des Einsatzes agentenbasierter KI und generativer KI angepasst sind. Thales AI Security Fabric bietet Unternehmen spezialisierte Werkzeuge zum Schutz von KI-Anwendungen bei minimaler Betriebskomplexität. Aufbauend auf jahrelanger Sicherheitsexpertise ermöglicht Thales Unternehmen eine vertrauensvolle Skalierung des KI-Einsatzes, während vertrauliche Daten, Anwendungen und Benutzerinteraktionen geschützt bleiben.

Warum traditionelle Methoden nicht funktionieren

Das Aufkommen von agentenbasierter KI, die in der Lage ist, autonom mehrstufige Aufgaben zu planen und auszuführen, schafft grundsätzlich neue Angriffsvektoren. Angreifer können die Logik der Agenten oder deren Interaktion mit externen Tools manipulieren. Die Lösung von Thales fungiert als „Wachhund“ (Guardrail) in Echtzeit, der Eingaben (Prompts), Zwischenschritte und Ausgaben der LLMs überwacht.

Wie Thales (Imperva) beim Schutz von KI helfen kann

Mit AI Security Fabric können Organisationen KI-basierte Innovationen einführen, in dem Wissen, dass ihre Anwendungen und vertraulichen Daten geschützt sind. Diese Plattform ersetzt keine bestehenden Cybersicherheitslösungen, sondern stellt eine entscheidende, fehlende Sicherheitsebene bereit, die speziell auf KI ausgerichtet ist. Sie gewährleistet:

• Vertraulichkeit: Sicherstellung, dass private oder regulierte Daten nicht missbräuchlich durch KI verwendet werden.
• Integrität: Schutz der Logik von KI-Anwendungen vor Manipulationen und unautorisierten Aktionen.
• Verfügbarkeit: Verhinderung von Störungen und Missbrauch, die kritische KI-Dienste außer Betrieb setzen könnten.

Thales (Imperva) bietet einen umfassenden Ansatz, der bestehende Lösungen zum Schutz von Anwendungen (WAF, API Security) um eine spezialisierte Sicherheitsebene für die Kontrolle von LLM und Agentic AI ergänzt.

Empfehlung von Softprom: Umfassender Datenschutz

Im Kontext der Absicherung von LLM-Anwendungen ist nicht nur die Kontrolle der KI entscheidend, sondern auch der Schutz der zugrunde liegenden Daten, die sie nutzt. Hier kommen die bestehenden Thales-Technologien ins Spiel, insbesondere Lösungen zur Verschlüsselung, Schlüsselverwaltung und zum Schutz von Datenbanken.

Thales (Imperva) Technologien im Kontext von AI Security Fabric:

• Schutz ruhender Daten: Nutzen Sie die Thales Data Protection Platform für die Verschlüsselung und Tokenisierung von Daten, die LLM-Anwendungen aus Unternehmensspeichern abrufen können. Dies stellt sicher, dass selbst bei einem Datenleck die Informationen unlesbar bleiben.
• Schutz des Datenzugriffs: Lösungen für Privileged Access Management (PAM) und Datenbanküberwachung (DBF) von Imperva, nun Teil der Thales Group, gewährleisten eine strikte Kontrolle darüber, welche Benutzer, Anwendungen oder sogar KI-Agenten auf vertrauliche Informationen zugreifen.