AI Security
Prompt Injection, Jailbreaks, Model Abuse, APIs, Authentisierung, Autorisierung und Secrets
AAM-003
AI Red
Team
Hält Ihre AI realistischen Angriffen stand?
AI-Systeme schaffen neue Möglichkeiten – und neue Angriffsflächen. Prompt Injection, manipulierte Datenquellen, unsichere Agenten oder missbrauchte Tools können Schutzmechanismen umgehen und Verhalten gezielt beeinflussen.
Das AI Red Team simuliert realistische Angriffe auf Modelle, Agenten, Daten, Schnittstellen und Infrastruktur. Nicht um theoretische Risiken aufzuzählen, sondern um zu zeigen, was unter realistischen Bedingungen tatsächlich möglich ist.
AI Red Team besprechen →01
Warum
Klassische Penetration Tests bleiben wichtig. AI-Systeme erweitern die Angriffsfläche jedoch um neue Ebenen: Modelle können manipuliert, Prompts missbraucht, RAG-Inhalte beeinflusst und Agents dazu gebracht werden, Werkzeuge oder Berechtigungen anders einzusetzen als vorgesehen.
Solche Angriffe richten sich nicht nur gegen Infrastruktur oder Software. Sie können Informationen verändern, sensible Daten offenlegen, Entscheidungen beeinflussen oder ein AI-System zweckentfremden. Deshalb müssen Annahmen über Schutzmechanismen unter realistischen Bedingungen überprüft werden.
Vertrauen muss auch Angriffen standhalten.
02
Was
Fünf Angriffsflächen. Ein realistisches Gesamtbild.
Agents & Tools
Agent Behaviour, Tool Security, MCP, Berechtigungen, Agent Chains und Rechteeskalation
Data & Knowledge
RAG Manipulation, Data Poisoning, Datenintegrität, Wissensquellen und Embeddings
Infrastructure
Cloud, Netzwerksegmentierung, Container, Identity & Access Management und Supply Chain
Resilience
Detection, Logging, Monitoring, Incident Response und Wiederherstellbarkeit
03
Wie
Wir definieren gemeinsam Scope und Rules of Engagement, analysieren Architektur und Threat Model und entwickeln daraus realistische Angriffspfade. Anschliessend testen unsere Spezialisten AI-Komponenten und ihre Umgebung gezielt auf Widerstandsfähigkeit.
Scope
Ziele, Grenzen, Testumgebung und Angriffsszenarien definieren
Model
Architektur verstehen und realistische Angriffspfade entwickeln
Attack
Modelle, Agents, Datenquellen, APIs und Infrastruktur gezielt angreifen
Validate
Auswirkungen, Schutzmechanismen und tatsächliche Exploitability bewerten
Improve
Findings priorisieren und konkrete Verbesserungsmassnahmen ableiten
04
Wissen
Nach dem AI Red Team kennen Sie die tatsächliche Widerstandsfähigkeit Ihrer AI besser:
Welche realistischen Angriffsszenarien gegen Ihre AI tatsächlich funktionieren
Welche Angriffspfade Modelle, Agents, Daten, APIs oder Infrastruktur verbinden
Welche Schwachstellen die grössten Auswirkungen auf Sicherheit und Vertrauenswürdigkeit haben
Welche bestehenden Schutz-, Detection- und Response-Massnahmen wirksam sind – und welche nicht
Welche technischen Verbesserungen zuerst umgesetzt werden sollten
Typische ErgebnisseAI Red Team ReportAngriffsszenarienAngriffspfadeTechnische FindingsPriorisierte MassnahmenExecutive Summary
05
scip AG
AI Red Teaming braucht Angreiferdenken – und AI-Verständnis.
Seit über zwanzig Jahren entwickelt und begleitet scip anspruchsvolle Red-Team-Übungen für Organisationen mit hohen Sicherheitsanforderungen. Diese offensive Erfahrung verbinden wir mit eigener Research zu Trustworthy AI und modernen Angriffstechniken auf Foundation Models, Agents und AI-Ökosysteme.
Unser Ziel ist nicht, möglichst viele Findings zu produzieren. Wir wollen zeigen, welche Annahmen unter realistischen Angriffsbedingungen tatsächlich tragen, wo Schutzmechanismen versagen und was für die Widerstandsfähigkeit Ihrer AI wirklich relevant ist.
20+
Realistisch
AI + Security
06
Umblick
AAM ist kein linearer Prozess. Je nach Kontext können weitere Fragen relevant werden und unterschiedliche Capabilities gezielt eingesetzt werden.
07
Insights
Unsere AI-Red-Team-Arbeit verbindet langjährige offensive Security-Erfahrung mit laufender Research zu AI Security, Trust und neuen Angriffstechniken.
C2 Architecture – Pull the Strings, Run the Show →NIST AI RMF — Generative AI Profile →Decision Security – From Secure Information to Trustworthy Decisions →ISO/IEC 27001:2022 — Information Security Management Systems →AI Assurance & Trustworthy AI →08
Assumptions are easy.
Evidence is harder.
Sie müssen nicht darauf vertrauen, dass Ihre Schutzmechanismen funktionieren. Lassen Sie uns herausfinden, was passiert, wenn jemand versucht, sie zu umgehen.
Mit scip besprechen →