Lakera

Was ist Lakera?

Lakera ist eine Sicherheitsplattform für Anwendungen der generativen KI sowie intelligente Agenten. Sie gehört nun zum Produktportfolio von Check Point AI Security. Durch die Erkennung von KI-Ressourcen, die Bewertung von Risiken, die Implementierung von Schutzmaßnahmen während des Betriebs sowie Red-Team-Tests hilft Lakera Teams dabei, Sicherheitsrisiken in Modellen vor und nach der Implementierung zu erkennen und zu verhindern.

Die ursprüngliche Funktion Lakera Guard der Plattform wird derzeit hauptsächlich als AI Guardrails bereitgestellt, wobei die Entwicklungsdokumentation sowie einige technische Ressourcen weiterhin den Namen Lakera tragen. Der Schwerpunkt des Produkts liegt nicht auf der Erstellung von Inhalten, sondern darauf, zu überprüfen, ob Benutzereingaben, Modellausgaben, Suchergebnisse sowie Toolaufrufe gegen Sicherheitsrichtlinien verstoßen.

Status des Unternehmens und der Produkte

Im Jahr 2025 kündigte Check Point die Übernahme von Lakera an und vollzog den Deal im selben Jahr. Nach der Übernahme wurde Lakeras Schutzfunktionen in eine umfassendere AI-Sicherheitsproduktlinie integriert. Die bestehenden Kunden können weiterhin über die vorhandenen Konsole und Schnittstellen diese Funktionen nutzen.

Zwei Arten von Kernprodukten

Unternehmen können entweder separate Schutzmechanismen während der Ausführung einsetzen, oder sie können AI Agent Security nutzen, das den gesamten Lebenszyklus der Assets abdeckt. Letzteres beinhaltet ebenfalls Schutzfunktionen und integriert die Erkennung, Bewertung sowie kontinuierliche Absicherung in denselben Verwaltungsprozess.

Entdeckung durch KI-Agenten

Das Proxy-Entdeckungsmodul verbindet sich mit den von Unternehmen genutzten Proxy-Plattformen, um eine einheitliche Liste der Ressourcen zu erstellen. Es kann Proxye, Workflows, Tools, Datenverbindungen sowie Berechtigungsbeziehungen erkennen und so das Problem verringern, dass das Team nicht weiß, welche KI-Proxye gerade in Betrieb sind.

• Unterstützung der Verbindung zu den Umgebungen Amazon Bedrock und AgentCore.
• Unterstützung bei der Überprüfung von Proxy-Ressourcen in Google Cloud.
• Unterstützung für die Microsoft Copilot Studio-Arbeitsumgebung.
• Unterstützung für Salesforce Agentforce-Agenten.
• Unterstützung für n8n-Automatisierungsworkflows.
• Unterstützung der Relevance AI-Agentenplattform.
• Die Vermögenswerte sowie ihre Risikoverhältnisse können in einem einheitlichen Ansichtsfeld dargestellt werden.

Proxies für Risikobewertung

Die Risikobewertung analysiert die Konfiguration der Agenten, Berechtigungen, Werkzeuge sowie die Zugriffsbeziehungen auf Daten. Dabei werden mehrere einzelne Probleme zu handhabbaren Risikokonstellationen zusammengefasst. Die Ergebnisse werden nach ihrer Schwere geordnet, damit das Sicherheitsteam diejenigen Risiken in Priorität behandeln kann, die tatsächliche Auswirkungen auf den Geschäftsbetrieb haben können.

Sicherheitsbügel zur Laufzeit

AI Guardrails führt eine Echtzeit-Überprüfung zwischen Anwendungen und Modellen durch, kann sowohl nur Risiken aufzeichnen als auch abweichende Anfragen direkt blockieren. Es eignet sich zur Überwachung von Benutzereingaben, Modellantworten, Suchergebnissen, Toolbeschreibungen sowie den von Tools zurückgegebenen Ergebnissen.

Hinweise zur Eingabe von Befehlen und zum Schutz vor Jailbreaks

Prompt Defense dient dazu, Versuche zur direkten Prompt-Injektion, indirekten Injektion, Jailbreak sowie zur Manipulation von Systemanweisungen zu erkennen. Indirekte Angriffe können in Webseiten, Dateien, Teilen von Wissensdatenbanken oder im von Tools zurückgegebenen Inhalt versteckt sein, weshalb bei jeder Interaktion über einen Proxy eine Überprüfung erforderlich ist.

Schutz von Inhalten und Daten

• Erkennen von Hass, Gewalt, Selbstverletzung, sexuellem Inhalt und anderen nicht konformen Kategorien.
• Erkennung von Datenlecks mit persönlichen Identifikationsinformationen und sensiblen Daten.
• Verringerung des Risikos, dass System-Hinweise und interne Anweisungen abgefangen werden.
• Erkennung bösartiger Links und verdächtiger Weiterleitungen.
• Einschränkung der Abweichungen des Agenten von den ihm übertragenen Aufgaben oder der Ausführung unzulässiger Operationen.
• Die aufrufbaren Fähigkeiten werden über die Liste der erlaubten und der verbotenen Tools gesteuert.
• Konfigurieren Sie benutzerdefinierte Schutzeinrichtungen für spezifische Branchen- und Unternehmensregeln.

Suchverbesserung bei der Generierung und Schutz vor Tool-Aufrufen

Im Prozess der suchbasierten Erzeugung kann die Plattform nacheinander die Anfragen des Benutzers, den gefundenen Kontext sowie die endgültige Antwort des Modells überprüfen. Auf diese Weise lassen sich sowohl direkte Angriffe seitens des Benutzers als auch versteckte bösartige Befehle in den Dokumenten der Wissensdatenbank erkennen.

Für die Aufrufe von Agenten und Tools sollten vor und nach jedem Schlussfolgerungs Schritt Sicherheitsprüfungen durchgeführt werden, anstatt nur die endgültige Antwort zu überprüfen. Die Beschreibungen der Tools, die Parameter, die Ausführungsergebnisse sowie der Kontext externer Protokolle können alle als Eingänge für indirekten Prompt-Injection-Angriffe dienen.

Wie die Guard-API funktioniert

Entwickler übermitteln über die Guard-API Informationen zu den zu überprüfenden Nachrichten, Rollen und Richtlinien. Die API gibt anschließend den Verstoßzustand sowie die Ergebnisse der Überprüfung zurück. Die Anwendung entscheidet daraufhin je nach Richtlinie, ob sie die Aktion zulässt, diese protokolliert, eine Benachrichtigung sendet oder die aktuelle Interaktion beendet.

1. Erstellen Sie ein Projekt in der Konsole und holen Sie sich die Zugangsdaten.
2. Wählen Sie eine voreingestellte Verteidigung für die Anwendung aus und konfigurieren Sie die zu verwendenden Strategien.
3. Rufen Sie die Guard-Schnittstelle auf, bevor die vom Benutzer eingegebene Daten dem Modell zugeführt werden.
4. Überprüfen Sie den Suchinhalt, die Ergebnisse der Tools sowie die Ausgaben der Modelle erneut, bevor Sie zum nächsten Schritt übergehen.
5. Lesen Sie die Kategorie der Verstöße sowie die Ergebnisse der Verarbeitung und führen Sie die Logik zur Blockierung oder Herabstufung aus.
6. Überprüfen Sie in der Konsole die Protokolle, Trends und Fehlalarme.
7. Anpassen von Strategien und Schwellenwerten an tatsächliche Geschäftsdaten.
8. Senden Sie hochriskante Ereignisse in den Prozess für die sichere Betriebsführung des Unternehmens.

Überwachungsmodus und Zwangsmodus

APIs und Plattformfähigkeiten

Die aktuelle Schnittstelle basiert hauptsächlich auf der zweiten Version der Guard-Funktionen und bietet unternehmensrelevante Funktionen wie Ergebnisabfragen, Strategieverwaltung sowie Projektmanagement. Die selbst gehostete Implementierung stellt zudem Schnittstellen für Health Checks, Konfigurationsprüfungen sowie den Status der Dienste bereit, was die Integration in Container-Orchestrierungssysteme und Überwachungslösungen erleichtert.

Vergleich von SaaS und Self-Hosting

Datenbereich und Sprachunterstützung

Für SaaS können Verarbeitungsräume wie der Ostteil der USA, der Westteil der USA, Irland in der EU sowie Singapur in Asien ausgewählt werden. Unternehmen können außerdem die Speicherung von Protokollen sowie die zulässigen Verarbeitungsräume festlegen. Organisationen sollten je nach Anforderungen bezüglich des Aufenthaltsorts der Daten, der grenzüberschreitenden Übertragung sowie der internen Konformitätstexte einen geeigneten Verarbeitungsräum auswählen.

Die Plattform unterstützt mehr als hundert Sprachen und eignet sich für mehrsprachige Chatbots sowie Anwendungen für Agenten in verschiedenen Regionen. Die Genauigkeit der Erkennung hängt von der Sprache, dem Bereich, der Länge der Eingabe sowie vom Kontext des Unternehmens ab; daher ist eine Bewertung mit eigenen Daten erforderlich.

AI-Red-Team-Tests

AI Red Teaming wird eingesetzt, um vor der Veröffentlichung oder nach einem Versionsupdate automatisch Modelle, Agenten und benutzerdefinierte Schnittstellen anzugreifen. Es umfasst die Bereiche Sicherheit und verantwortungsvolle KI und fasst die Testergebnisse zu Risikobewertungen sowie zu exportierbaren, strukturierten Berichten zusammen.

• Testen Sie die direkte Modell-Schnittstelle, die Chat-App und den AI-Agenten.
• Automatische Erstellung und Ausführung verschiedener Arten von konträren Angriffen.
• Protokollieren Sie Hinweise auf Angriffe, Reaktionen, Klassifizierungen und den Erfolgsstatus.
• Hilft dabei, die Risikotrends bei verschiedenen Versionen, Strategien und Modellen zu vergleichen.
• Es ist möglich, die Ergebnisse als JSON- oder CSV-Dateien zu exportieren.
• Eignet sich für Sicherheitsbewertungen, Freigabekontrollen und Rückgabetests.

Red Team SDK

Lakera Red bietet Vorab-Versionen von SDKs für TypeScript und Python, mit denen eigene Anwendungen oder interne Schnittstellen in Testaufgaben integriert werden können. Die Bereitstellung der Komponenten erfolgt über aktive Verbindungen nach außen; Unternehmen sollten dennoch das Betriebsumfeld, die Versionen der Abhängigkeiten sowie die Grenzen der Testdaten bewerten.

1. Vorbereitung von Testzielen und speziellen Konten, die von der Produktion getrennt sind.
2. Installieren Sie das SDK der entsprechenden Sprache und konfigurieren Sie die Test-Anmeldeinformationen.
3. Implementieren Sie einen Zieladapter, der die Angriffs-eingaben an das Modell oder den Proxy sendet.
4. Gibt die Modellausgabe und den notwendigen Betriebszustand zurück.
5. Wählen Sie die Testkategorie, den Umfang und die maximale Anzahl der Anfragen aus.
6. Führen Sie einen Scan durch und überprüfen Sie die Fälle mit hohem Risiko, bei denen es zu einem Erfolg kam.
7. Reparaturhinweise, Tool-Rechte, Datenzugriff oder Schutzkonfiguration.
8. Führen Sie den gleichen Testdatensatz erneut aus, um die Wirksamkeit der Korrektur zu überprüfen.

Preise und Pakete

Die Preisangaben wurden am 23. August 2026 überprüft. Die tatsächlichen Beträge, Steuern, Wechselkurse sowie Rabatte können sich ändern; es gilt letztendlich das, was auf der Zahlelseite angezeigt wird.

Lakera verwendet ein Modell, bei dem kostenlose Community-Lizenzen neben maßgeschneiderten Verträgen für Unternehmen angeboten werden. Das Community-Programm eignet sich zur Validierung von Prototypen; für Produktionsysteme ist in der Regel eine Anfrage erforderlich, wobei Aspekte wie Umfang, Kontextlänge, Implementierungsart sowie die Anforderungen des Unternehmens berücksichtigt werden müssen.

Unternehmenssicherheit und Konformität

Das Produkt bietet Rollenrechte, Protokolle, Einstellungen zur Datenspeicherung sowie die Integration von Sicherheitssystemen und legt transparent die Kontrollmechanismen für Unternehmenssicherheit und Privatsphäre dar. Der Käufer muss dennoch die Datenverarbeitungsvereinbarungen, Unterauftragnehmer, Mechanismen zur Reaktion auf Vorfälle sowie Löschverfahren im Einklang mit seinen eigenen regulatorischen Verpflichtungen prüfen.

• Wie lange werden die Bestätigungsanfragen, Antworten und Detektionsprotokolle jeweils gespeichert?
• Bestimmen Sie die Verarbeitungs- und Protokollierungsgebiete, die für das Projekt verwendet werden.
• Administratorenrollen, deren Zugriff auf den ursprünglichen Interaktionsinhalt eingeschränkt ist.
• Minimieren, maskieren oder tokenisieren von sensiblen Feldern.
• Hochrisikoereignisse in das Unternehmenssystem zur Verwaltung von Sicherheitsinformationen und -ereignissen einbinden.
• Etablieren Sie einen Prozess zur erneuten Testsicherung für Änderungen an Modellen, Agenten und Tools.
• Die Datenverarbeitung und die Konformitätsprüfung müssen vor dem offiziellen Einkauf abgeschlossen werden.

GitHub und der Open-Source-Zustand

Die Lakera-Kernplattform, das Guard-Detektionsmodell sowie die Unternehmenskonsole sind keine Open-Source-Produkte. Die offizielle GitHub-Organisation veröffentlichte zwar Demonstrationen, Forschungsprojekte und Hilfsmittel, doch die meisten der öffentlich zugänglichen Repositorien wurden inzwischen archiviert. Daraus kann man nicht schließen, dass die kommerziellen Plattformen selbstständig eingesetzt werden können.

Für welche Benutzer geeignet

• Entwicklerteams arbeiten derzeit an der Einführung von Anwendungen mit großen Sprachmodellen.
• Es ist notwendig, Unternehmen zu schützen, die Wissensdatenbanken durch Suchfunktionen verbessern.
• Sicherheitsteam zur Verwaltung von AI-Agenten auf mehreren Plattformen und Schatten-AI-Ressourcen.
• Produktverantwortliche, die Angriffe durch das Einfügen von Hinweisen, Jailbreaks sowie Datenlecks verhindern müssen.
• Ein Engineering-Team, das eine Plattform zur Veröffentlichung von Modellen für sichere Zutrittskontrollen entwickeln möchte.
• Regulierte Organisationen, die eine selbstverwaltete oder festgelegte Datenumgebung benötigen.
• Berater für die Durchführung von Penetrationstests und Risikobewertungen mit generativer KI.

Vorteile des Produkts

• Gleichzeitig abdeckt es die Asset-Entdeckung, Risikobewertung, Schutz in der Laufzeit sowie Red-Team-Tests.
• Es ist möglich, die Eingaben der Benutzer, die Ausgaben des Modells, den Suchkontext sowie die Aufrufe von Tools zu überprüfen.
• Es werden zwei Betriebsmodi zur Überprüfung und zum Zwangsbetrieb bereitgestellt, um einen schrittweisen Go-Live zu ermöglichen.
• Unterstützung für SaaS- und selbst gehostete Unternehmensimplementierungen.
• Unterstützung von mehrsprachigen Anwendungen und mehreren Datenverarbeitungsbereichen.
• Kann mit Protokollen, Überwachungssystemen und Sicherheitsprozessen integriert werden.
• Die kostenlose Community-Lizenz eignet sich dafür, dass Entwickler zunächst eine technische Validierung durchführen können.

Einschränkungen und Hinweise

Keine Schutzmaßnahmen können garantieren, dass alle unbekannten Angriffe abgewehrt werden; es kann außerdem zu Fehlalarmen oder Auslassungen kommen. Die von den Herstellern angegebenen Werte bezüglich der hohen Erkennungsrate, der geringen Verzögerung sowie der niedrigen Anzahl an Fehlalarmen beziehen sich auf spezifische Testbedingungen und sollten nicht direkt als tatsächliche Ergebnisse für alle Sprachen, Modelle und Geschäftsprozesse angesehen werden.

• Die vollständigen Sicherheitsfunktionen des Agenten können noch in einer frühen Testphase oder schrittweise zur Verfügung gestellt werden.
• Für die Unternehmensversion gibt es keinen offiziellen Festpreis; die Beschaffungskosten müssen individuell bewertet werden.
• Jeder Aufruf der Schutzzäune erhöht die Anzahl der Anfragen, die Verzögerungen sowie die Komplexität der Wartung.
• Lange Kontexte, mehrsprachige Inhalte sowie Fachbegriffe aus bestimmten Branchen müssen separat getestet werden.
• Zu strenge benutzerdefinierte Richtlinien können normale Benutzer sowie Agentenaufgaben beeinträchtigen.
• Die selbst verwaltete Version erfordert vom Kunden die Übernahme der Aufgaben bei Skalierung, Überwachung, Aktualisierung und Fehlerbehebung.
• Archivierte Open-Source-Repositorien sollten nicht als Beweis für eine kontinuierliche Wartungsfähigkeit herangezogen werden.
• Schutzzäune können keine Identitätsberechtigungen, Schlüsselverwaltung oder manuelle Genehmigungen ersetzen.

Empfehlungen zur Auswahl und Überprüfung

1. Listen Sie die zu schützenden Modelle, Agenten, Wissensdatenbanken und Tools auf.
2. Die Risikostufen werden nach Datensensitivität und Ausführungsrechten eingeteilt.
3. Ein Testset wird mit echten, aber anonymisierten historischen Anfragen erstellt.
4. Zuerst werden im Detect-Modus Fehlalarme, Übersehungen und Verzögerungen gemessen.
5. Aktivieren Sie nacheinander die Hinweis-Einbettung, den Schutz von Inhalten, Daten und Tools.
6. Für hochriskante Vorgänge wird eine zusätzliche Identitätsüberprüfung sowie manuelle Bestätigung eingeführt.
7. Führen Sie Red-Team-Tests durch und speichern Sie die Vergleichsergebnisse zwischen den Versionen.
8. Bestätigen Sie die monatliche Anfragenanzahl, die Größe des Kontexts und die Kosten bei Spitzenbelastung.
9. Bewerten Sie die Datengrenzen für SaaS-Lösungen oder selbst gehostete Lösungen.
10. Wechseln Sie nach den Regressionstests in den Enforce-Modus.

Häufige Fragen

Wie heißt Lakera jetzt?

Lakera wurde in Check Point integriert; die Kernfunktionen zur Sicherstellung der Compliance werden weiterhin über Check Point AI Guardrails bereitgestellt. Einige Konsole, Dokumente, SDKs sowie historische Technologie-Ressourcen verwenden weiterhin den Namen Lakera.

Kann Lakera die Eingabe von Hinweisen verhindern?

Es ist möglich, direkte und indirekte Angriffe durch das Einfügen von Befehlen, Jailbreaks sowie die Manipulation von Systemanweisungen zu erkennen, und Anfragen im Strategiemodus abzublocken. Die tatsächliche Wirkung hängt von der Sprache, dem Kontext, der Strategie sowie vom Typ des Angriffs ab; daher sind kontinuierliche Tests erforderlich.

Wie viel Datenvolumen hat die kostenlose Version?

Das Community-Programm bietet monatlich bis zu 10.000 Überprüfungsanfragen an und eignet sich für Prototypen sowie für Tests in kleinem Umfang. Für die Anzahl der Anfragen, den Kontext sowie die Funktionen, die in der industriellen Produktion benötigt werden, sind individuelle Verträge erforderlich.

Wird Self-Hosting unterstützt?

Unternehmenskunden können eine selbstverwaltete Implementierung besprechen, bei der die Schutzmechanismen in ihrer eigenen Infrastruktur laufen und deren Strategien, Protokolle sowie Skalierbarkeit verwaltet werden. Die genauen technischen Anforderungen sowie die Kosten für Lizenzen müssen durch den Vertrieb bestätigt werden.

Ist Lakera ein Open-Source-Projekt?

Nein, die kommerziellen Schutzmaßnahmen, die Agenten für die Sicherheit sowie die Überprüfungsmodelle sind alle geschlossene Quellcode-Produkte. Die auf GitHub verfügbaren Open-Source-Projekte oder archivierte Projekte umfassen nur einige Forschungstools, Erweiterungen und Demonstrationscodes.

Ist es sinnvoll, KI-Agenten zu schützen?

Geeignet – es kann nicht nur die Eingabewörter und Antworten überprüfen, sondern auch Proxy-Ressourcen erkennen, die Berechtigungen der Tools sowie die Beziehungen zwischen den Daten analysieren und die Schritte der Prozesse während der Ausführung prüfen. Für hochriskante Aktionen sollten weiterhin minimale Berechtigungen sowie eine manuelle Genehmigung erforderlich sein.

Zusammenfassung

Lakera hat sich von einem einzelnen großen Sprachmodell zu einem Unternehmens-AI-Sicherheitssystem unter der Marke Check Point entwickelt. Dieses System umfasst Funktionen wie die Erkennung von Agenten, die Bewertung von Risiken, den Schutz in Echtzeit sowie automatisierte Red-Team-Tests. Es eignet sich für Teams, die die Sicherheit generativer KI in ihre Entwicklungs- und Sicherheitsprozesse integrieren möchten.

Einzelne Entwickler können die Integration von Guard mittels 10.000 kostenlosen Überprüfungsanfragen pro Monat testen. Unternehmen hingegen müssen je nach Implementierung, Region, Anzahl der Anfragen sowie den erforderlichen Verwaltungsfunktionen einen Preis erfragen. Vor der Auswahl sollten tatsächliche Geschäftsprozesse genutzt werden, um die Genauigkeit, die Anzahl der Fehlalarme, die Verzögerungen sowie die Kosten zu überprüfen. Zudem sollten Schutzmechanismen zusammen mit Funktionen zur Identitätsverifizierung, Berechtigungsverwaltung, Genehmigungsprozessen und Überwachung eingesetzt werden.