Das hier ist ein vollständig KI generierter Artikel.

KI-Agenten verändern die IT-Sicherheit grundlegend: Sie greifen heute bereits reale Organisationen an, kartieren Netzwerke, suchen nach Schwachstellen und testen Exploit-Ketten – rund um die Uhr. Gleichzeitig eröffnen sie eine neue Angriffsfläche, weil Unternehmen plötzlich mit einer wachsenden Zahl nicht-menschlicher Identitäten und neuer Datenkanäle umgehen müssen. Wer diese Entwicklung ignoriert, läuft Gefahr, von Angreifern mit denselben Werkzeugen überrollt zu werden.

Agentische KI als neue Angriffsfläche

Agentische KI unterscheidet sich von klassischen KI-Anwendungen dadurch, dass sie nicht nur Inhalte generiert, sondern eigenständig Aktionen ausführt. Dazu gehören etwa das Auslesen von Systeminformationen, das Navigieren in komplexen Infrastrukturen oder das automatisierte Testen von Konfigurationen. Damit erhalten diese Agenten zwangsläufig Zugriff auf sensible Systeme und Daten.

Aus Sicht der Identitäts- und Zugriffsverwaltung bedeutet das: Jeder Agent ist als privilegierte Identität zu behandeln. Klassische, statische Sicherheitsrichtlinien geraten hier schnell an ihre Grenzen. Agenten können sich dynamisch anpassen, neue Datenquellen einbinden und über Schnittstellen kommunizieren, die ursprünglich nicht für diese Art von Nutzung vorgesehen waren. Jede zusätzliche Integration – etwa in Ticket-Systeme, Cloud-APIs oder interne Wissensdatenbanken – wird so zu einem potenziellen Einfallstor.

Hinzu kommt, dass agentische KI neue Kanäle für Social Engineering und Identitätsmissbrauch eröffnet. KI-gestützte Angriffe erzeugen hochgradig personalisierte Phishing-Mails, überzeugende Identitätsimitationen und automatisierte Aufklärung (Reconnaissance). Vertraute Indikatoren wie Sprache, Stil oder Format einer Nachricht verlieren damit an Aussagekraft. Verteidiger müssen sich stärker auf robuste Identitätsmechanismen, phishing-resistente Authentifizierung und verhaltensbasierte Signale stützen.

Warum KI-Angreifer einen Vorsprung haben

Für Angreifer sind KI-Agenten ein Produktivitätsmultiplikator. Sie arbeiten 24/7, kennen keine Ermüdung und verfolgen ein Ziel mit hoher Konsequenz: Schwachstellen finden, Angriffswege kombinieren, sensible Daten lokalisieren. Aufgaben, für die menschliche Teams früher Tage oder Wochen benötigten, lassen sich heute in Minuten oder Sekunden automatisieren.

In der Praxis bedeutet das: Unternehmen sehen sich einer Flut von potenziellen Schwachstellen gegenüber, während Angreifer KI nutzen, um genau diese Schwächen systematisch und in grossem Umfang auszunutzen. Wer hier nur mit klassischen, punktuellen Penetrationstests reagiert, bleibt zurück. Ein einmaliger Test pro Jahr bildet die Realität nicht mehr ab, wenn sich Angriffsoberflächen und Exploit-Techniken laufend verändern.

Gleichzeitig entstehen neue Geschäftsmodelle auf Angreiferseite: von „off-the-shelf“ Angriffsagenten bis hin zu massgeschneiderten Kampagnen, die sich an der Infrastruktur eines bestimmten Ziels orientieren. Die Eintrittshürde sinkt, weil Expertise teilweise in die Modelle verlagert wird. Damit wächst der Druck auf Verteidiger, ihre eigenen Prozesse zu automatisieren und zu skalieren.

Agentic Red Teaming: Sich selbst angreifen – kontrolliert

Eine zentrale Antwort auf diese Entwicklung ist agentic Red Teaming: der gezielte Einsatz von KI-Angreifern im eigenen Haus, um Schwachstellen frühzeitig und kontinuierlich aufzudecken. Die Grundidee ist einfach: Wenn Angreifer KI nutzen, um Ihre Systeme zu testen, sollten Sie es zuerst tun – aber unter kontrollierten Bedingungen.

Im Unterschied zu klassischen Red-Teaming-Engagements, die oft zeitlich begrenzt und stark von menschlicher Verfügbarkeit abhängig sind, laufen KI-gestützte Red-Teams kontinuierlich. Tausende Agenten können parallel agieren, Angriffswege ausprobieren, Ergebnisse dokumentieren und Findings priorisieren. Was früher ein mehrmonatiges Projekt eines kleinen Analystenteams war, lässt sich so in wenigen Tagen oder sogar Stunden simulieren.

Moderne Plattformen für agentic Red Teaming kombinieren offensive und defensive KI: Auf der einen Seite autonome Angriffsagenten, die Schwachstellen suchen und ausnutzen; auf der anderen Seite Verteidigungsagenten, die Alarme triagieren, Angriffspfade rekonstruieren und Massnahmen vorschlagen. Dadurch entsteht ein permanenter, datengetriebener Stresstest der eigenen Sicherheitsarchitektur.

Voraussetzungen für „sichere“ offensive KI

Der Einsatz offensiver KI im eigenen Netzwerk ist nicht risikofrei. Entscheidend ist, dass Angriffe kontrolliert, nachvollziehbar und rechtlich sauber ablaufen. Dazu gehören klare Spielregeln, technische Leitplanken und organisatorische Prozesse.

  • Scope und Regeln definieren: Welche Systeme dürfen angegriffen werden, welche nicht? Wie werden produktive Geschäftsprozesse geschützt? Welche Zeitfenster sind zulässig?
  • Guardrails für Agenten: Im Gegensatz zu ungebremsten Forschungsmodellen benötigen produktive Angriffsagenten strikte Begrenzungen. Dazu zählen etwa maximale Intensität, erlaubte Exploit-Typen und Not-Aus-Mechanismen.
  • Monitoring und Protokollierung: Jeder Schritt der Agenten muss lückenlos protokolliert werden. Nur so lassen sich Ergebnisse nachvollziehen, reproduzieren und in konkrete Massnahmen übersetzen.
  • Integration in den Sicherheitsprozess: Findings müssen automatisiert in Ticket-Systeme, Schwachstellen-Management und Change-Prozesse einfliessen. Sonst entsteht lediglich eine weitere Liste unerledigter Aufgaben.
  • Rechtliche und Compliance-Aspekte: Offensive Tests benötigen Freigaben, klare Verantwortlichkeiten und Berücksichtigung regulatorischer Vorgaben – insbesondere in kritischen Infrastrukturen.

Ein weiterer Schlüsselfaktor ist das Training der Angriffsagenten. Sie benötigen vorab eingebettete Expertise, um realistische Angriffsstrategien zu entwickeln und nicht nur triviale Fehlkonfigurationen zu melden. Hier verschiebt sich der Schwerpunkt von manueller Durchführung zu Modellpflege und Szenario-Design.

Vom punktuellen Test zur kontinuierlichen Sicherheitsbewertung

Agentic Red Teaming ist mehr als ein neues Tool – es verändert den Rhythmus der Sicherheitsarbeit. Statt einmal jährlich einen grossen Test durchzuführen, können Unternehmen ihre Angriffsoberfläche kontinuierlich und automatisiert prüfen lassen. Das ermöglicht eine laufende Bewertung des tatsächlichen Risikos, basierend auf realistisch simulierten Angriffspfaden.

Für Security-Teams bedeutet das eine Verschiebung der Aufgaben: weniger manuelle Suche nach Schwachstellen, mehr Fokus auf Priorisierung, Behebung und strategische Verbesserungen der Architektur. KI übernimmt den „Fleissanteil“ der Arbeit, während Menschen Entscheidungen treffen, Ausnahmen bewerten und langfristige Massnahmen planen.

Gleichzeitig entsteht ein datenreicher Fundus an Angriffsszenarien, der für Schulungen, Playbooks und die Weiterentwicklung von Detection- und Response-Fähigkeiten genutzt werden kann. So wächst mit jedem Durchlauf nicht nur die technische, sondern auch die organisatorische Resilienz.

Fazit: Red-Teaming mit KI wird zur Pflichtübung

Agentische KI macht Angriffe schneller, skalierbarer und schwerer vorhersehbar. Sie schafft neue Angriffsflächen – insbesondere durch nicht-menschliche Identitäten und zusätzliche Integrationspunkte – und untergräbt traditionelle Vertrauensindikatoren. Gleichzeitig eröffnet sie Verteidigern die Möglichkeit, ihre eigenen Systeme mit denselben Mitteln zu testen und Schwachstellen frühzeitig zu erkennen.

Wer heute beginnt, kontrollierte KI-Angriffe im eigenen Umfeld zu etablieren, verschafft sich einen wichtigen Vorsprung: Sicherheitsmassnahmen werden an realistische Bedrohungsszenarien angepasst, Prozesse werden automatisiert, und die Organisation lernt, mit einer dynamischen Angriffslandschaft umzugehen. Die zentrale Frage ist damit nicht mehr, ob KI-Angreifer kommen – sondern, ob Sie Ihre Infrastruktur zuerst selbst mit KI angreifen, bevor es andere tun.

Quelle: https://www.theregister.com/security/2026/08/22/if-youre-not-using-ai-to-attack-your-own-systems-your-adversaries-will/5291346