KI-Systeme bringen Angriffsvektoren mit, die klassische Penetrationstests nicht abdecken. Gleichzeitig bleiben alle bekannten Web- und Infrastruktur-Schwachstellen relevant.
Prompt Injection ist die SQL Injection der KI-Ära. Angreifer manipulieren das Modellverhalten über sorgfältig konstruierte Eingaben – direkt oder über vergiftete externe Daten, die das Modell verarbeitet.
Ein AI-Agent, der E-Mails lesen, Code ausführen und Datenbanken abfragen kann, ist ein hochprivilegiertes System. Wer den Agenten kontrolliert, kontrolliert alle seine Tools – ohne direkte Authentifizierung.
Trainierte Modelle können durch adversarielle Eingaben zu falschen Klassifikationen gebracht werden. Fraud-Detection, Content-Moderation und medizinische KI-Systeme sind besonders exponiert.
Erlebe selbst, warum KI-Systeme ohne Härtung anfällig sind. Klicke auf die Buttons, um mit einem typischen ungeschützten internen HR-Assistenten zu interagieren.
Strukturiert, reproduzierbar und auf die Besonderheiten von KI-Systemen ausgelegt – mit klarer Dokumentation für technische Teams und Management.
Welche KI-Systeme, Modelle und Datenquellen sind im Scope? Welche Tools und Berechtigungen hat der Agent? Wir analysieren die Architektur, bevor wir testen.
Basierend auf der Architektur identifizieren wir die realistischsten Angriffspfade – nach OWASP LLM Top 10, MITRE ATLAS und eigenen Methoden für Agentic AI.
Manuelles Testing aller identifizierten Angriffsvektoren: Prompt Injections, Tool Abuse, RAG Attacks, API-Tests. Jeder Angriffsversuch wird vollständig protokolliert.
Findings werden auf tatsächliche Ausnutzbarkeit und Business Impact geprüft. Kein False-Positive-Rauschen – nur was wirklich exploitierbar ist, landet im Bericht.
Vollständiger Bericht mit OWASP-LLM-Mapping, Reproduktionsschritten, Management-Summary und priorisierten Handlungsempfehlungen. Re-Test nach Behebung auf Wunsch inklusive.
Die OWASP LLM Top 10 ist der anerkannte Standard für LLM-Security-Assessments, aktuell in der Fassung 2026. Wir testen systematisch alle zehn Kategorien – ergänzt durch proprietäre Testfälle für Agentic AI und RAG-Systeme.
Manipulation der LLM-Ausgabe durch konstruierte Eingaben. Direkt (Nutzer) oder indirekt (vergiftete externe Daten). Führt zu Guardrail-Bypass, Datenlecks, unautorisierten Aktionen.
Das Modell gibt Trainingsdaten, System-Prompts, interne Konfiguration oder Nutzerdaten anderer Sitzungen preis – durch Memorization oder unzureichende Output-Filterung.
Der AI-Agent hat mehr Berechtigungen als für seine Aufgabe nötig. Über Prompt Injection kann ein Angreifer den Agenten missbrauchen, um privilegierte Aktionen auszuführen.
Kompromittierte Basismodelle, Plugins oder Datenpipelines. Angreifer, die die Lieferkette kontrollieren, beeinflussen das Modellverhalten ohne direkten Zugriff.
Manipulierte Trainingsdaten oder Fine-Tuning-Datensätze erzeugen Backdoors oder verändern systematisch das Modellverhalten für bestimmte Eingaben.
Angreifer provozieren exzessiven Ressourcenverbrauch durch aufwändige Anfragen – führt zu DoS, erhöhten API-Kosten oder Erschöpfung von Rate Limits.
Das Modell generiert plausibel klingende, aber falsche Informationen – mit oder ohne adversarielle Manipulation. Besonders kritisch in medizinischen, rechtlichen und finanziellen Kontexten.
Versteckter Kontext – System-Prompt, Entwickleranweisungen, Tool-Schemas oder per RAG geladene Regeln – wird aus dem Modell extrahiert oder rekonstruiert. Kritisch, sobald darin Zugangsdaten stecken oder die Anwendung ihn als Sicherheitsgrenze nutzt.
Angriffe auf die Vektordatenbank eines RAG-Systems: Embedding Poisoning, unauthorized Retrieval, Membership Inference – wer die Vektorbasis kontrolliert, kontrolliert den Kontext.
LLM-Ausgaben werden ungefiltert an nachgelagerte Systeme weitergegeben. Führt zu XSS, SQL Injection, Code Execution – wenn Ausgaben als Code oder Queries interpretiert werden.
In 30 Minuten besprechen wir euren AI-Stack, klären den Scope und ihr erhaltet ein unverbindliches Angebot – kostenlos.
Jetzt AI-Sicherheitscheck buchen
