LLM · Agenten · RAG
Penetrationstest für KI- und LLM-Anwendungen
Ein Sprachmodell mit Werkzeugzugriff ist ein neuer Angriffsweg in Ihre Systeme. Unser Penetrationstest prüft, was passiert, wenn die Eingabe nicht vom Nutzer stammt, sondern aus einem Dokument, das der Angreifer geschrieben hat.
Manuelle Prüfung. Keine Vorauszahlung.
Prüfschwerpunkte
Angriffsflächen von KI-Anwendungen
Wir orientieren uns an den OWASP Top 10 für LLM-Anwendungen und ergänzen sie um die Besonderheiten Ihrer Architektur.
Prompt Injection
Direkte und indirekte Injektion über Dokumente, Webseiten, E-Mails oder Datenbankinhalte, die das Modell als Anweisung interpretiert — der praktisch relevanteste Angriff auf produktive KI-Anwendungen.
Unsichere Werkzeugaufrufe
Wenn das Modell Funktionen auslösen darf, prüfen wir, ob Autorisierung und Parameter serverseitig geprüft werden — oder ob eine geschickte Eingabe genügt, um im Namen anderer zu handeln.
Datenabfluss aus RAG-Quellen
Übergreifender Zugriff auf Wissensquellen, fehlende Rechteprüfung beim Abruf und Antworten, die Inhalte aus Dokumenten preisgeben, für die der Nutzer keine Berechtigung hat.
Umgehung von Schutzmechanismen
Systemanweisungen auslesen, Filter über Kodierung, Sprachwechsel oder Rollenspiel umgehen und die Grenzen der eingesetzten Leitplanken belastbar bestimmen.
Agenten und Automatisierung
Mehrstufige Agenten mit Speicher und Werkzeugketten: dauerhaft eingeschleuste Anweisungen, Vergiftung des Gedächtnisses und Aktionen ohne menschliche Freigabe.
Klassische Sicherheit der Anwendung
Das Modell steckt in einer normalen Anwendung. Authentifizierung, Mandantentrennung, Ratenbegrenzung und Kostenkontrolle prüfen wir mit denselben Maßstäben wie bei jedem Web-Pentest.
Regulatorik
Was Aufsicht und Kunden künftig sehen wollen
EU AI Act
Für Hochrisikosysteme werden Robustheit, Genauigkeit und Cybersicherheit über den gesamten Lebenszyklus gefordert. Ein dokumentierter Sicherheitstest ist ein belastbarer Baustein dieses Nachweises.
DSGVO
Trainings- und Kontextdaten enthalten häufig personenbezogene Daten. Wir prüfen, ob sich diese über Modellantworten, Protokolle oder Zwischenspeicher rekonstruieren lassen — ein Kernpunkt jeder Datenschutz-Folgenabschätzung für KI-Systeme.
BSI-Empfehlungen zu KI
Das BSI hat Kriterien für den sicheren Einsatz großer Sprachmodelle veröffentlicht. Wir orientieren die Prüfung an diesen Punkten und ordnen Befunde entsprechend zu.
ISO 27001
KI-Komponenten sind Teil Ihres Informationsverbunds. Der Bericht liefert den Nachweis, dass auch diese Komponenten geprüft und Schwachstellen nachverfolgt wurden.
Häufige Fragen
Fragen zur KI-Sicherheitsprüfung
Verwandte Leistungen
Bevor Ihr KI-Assistent produktiv geht
Wir prüfen, was er wirklich tun kann — und nicht nur, was er tun soll.
KI-Prüfung anfragen