Das hier ist ein vollständig KI generierter Artikel.

Illegale Online-Communities haben künstliche Intelligenz (KI) längst in ihre täglichen Abläufe integriert. In Foren, Marktplätzen und Chat-Diensten wird offen darüber diskutiert, wie sich KI für Betrug, Identitätsdiebstahl, Social Engineering und den Ausbau krimineller Infrastrukturen nutzen lässt. Ein aktueller Blick in diese Umgebungen zeigt: Es geht weniger um spektakuläre neue Tools, sondern um die systematische Optimierung bestehender Workflows mit Hilfe von KI.

Aktivitätsvolumen: KI als fester Bestandteil krimineller Ökosysteme

Die Zahl der Beiträge, in denen KI im Zusammenhang mit illegalen Aktivitäten erwähnt wird, geht in die Millionen. Diskutiert wird in klassischen Untergrundforen, auf Marktplätzen für gestohlene Daten und Zugänge sowie in halböffentlichen Chat-Gruppen. Die Themen reichen von einfachen Prompt-Beispielen bis hin zu detaillierten Schritt-für-Schritt-Anleitungen, wie sich KI-Modelle in bestehende Betrugs- und Angriffsabläufe integrieren lassen.

Auffällig ist, dass KI nicht mehr als exotisches Spezialwerkzeug betrachtet wird, sondern als Standardkomponente: ein Baustein, der an vielen Stellen im Ablauf eingesetzt wird – von der ersten Kontaktaufnahme mit Opfern bis zur Verschleierung von Spuren.

Schwerpunkte der Nutzung: Betrug, Identität und Social Engineering

Die beobachteten Diskussionen konzentrieren sich auf einige wiederkehrende Anwendungsfälle:

  • Identitäts- und Verifikations-Bypass: KI-generierte Bilder, Videos und Stimmen werden genutzt, um Identitätsprüfungen von Finanzdienstleistern, Kryptobörsen oder Plattformen mit KYC-Pflicht zu umgehen. Deepfake-Videoanrufe und synthetische Dokumente sind ein zentrales Thema.
  • Betrugsszenarien und Skripting: LLMs helfen bei der Erstellung von überzeugenden E-Mails, Chat-Verläufen und Callcenter-Skripten. So entstehen skalierbare Phishing- und Social-Engineering-Kampagnen, die sprachlich und kulturell gut angepasst sind.
  • Imitation und Rollenbilder: Kriminelle nutzen KI, um Kommunikationsstile von Führungskräften, Support-Mitarbeitenden oder Behörden nachzuahmen. Dadurch werden Szenarien wie gefälschte CFO-Anweisungen oder fingierte Supportkontakte realistischer.

Gemeinsam ist diesen Fällen, dass KI vor allem dazu dient, Vertrauen zu erschleichen und Hürden zu senken – sei es bei der Kontoeröffnung, bei Überweisungen oder beim Erstkontakt mit Opfern.

Maliziöse LLM-Nutzung: Prompts, Jailbreaks und alternative Modelle

Ein grosser Teil der Aktivität dreht sich nicht um die Entwicklung eigener Modelle, sondern um die Umgehung von Schutzmechanismen bestehender Systeme. In einschlägigen Communities kursieren:

  • Prompt-Sammlungen: Listen mit erprobten Eingaben, die Modelle dazu bringen sollen, eigentlich blockierte Inhalte zu liefern – etwa für Phishing-Texte, Social-Engineering-Skripte oder technische Anleitungen.
  • Jailbreak-Methoden: Schrittfolgen, Rollenbeschreibungen und Umformulierungen, mit denen Sicherheitsfilter ausgehebelt werden sollen. Diese werden laufend getestet, angepasst und als „funktionierend“ oder „gefixt“ markiert.
  • Alternative Modelle: Verweise auf Dienste und Modelle mit weniger Moderation oder schwächeren Richtlinien. Diese werden als „freier“ beworben und gezielt für heikle Inhalte genutzt.

Die Diskussionen zeigen eine klare Verschiebung: Statt neue, explizit kriminelle Modelle zu bauen, konzentrieren sich viele Akteure darauf, bestehende Angebote maximal auszureizen und deren Schutzmechanismen zu umgehen.

Operative Muster: Reifegrade und Arbeitsteilung

Über verschiedene Quellen hinweg lassen sich wiederkehrende Muster erkennen, die auf einen zunehmenden Reifegrad hindeuten:

  • Iterative Verbesserung: Nutzer teilen funktionierende Prompts, andere testen sie, liefern Feedback und posten optimierte Varianten. So entstehen schnell ausgereifte „Rezepte“ für bestimmte Zwecke.
  • Rollenverteilung: Einige Akteure spezialisieren sich auf das Finden und Optimieren von Prompts, andere integrieren diese in bestehende Betrugs- oder Angriffsketten. KI-Know-how wird damit zu einer eigenen Dienstleistung.
  • Portabilität: Es wird aktiv daran gearbeitet, Workflows so zu gestalten, dass sie mit verschiedenen Modellen und Plattformen funktionieren, um Abhängigkeiten zu reduzieren und Sperren zu umgehen.

Diese Muster deuten darauf hin, dass KI nicht nur als Werkzeug, sondern als eigener Kompetenzbereich innerhalb krimineller Ökosysteme etabliert ist.

Implikationen für Sicherheits- und Fraud-Teams

Für Verteidiger ergeben sich daraus mehrere Konsequenzen:

  • Realistische Szenarien annehmen: Deepfake-Videoanrufe, täuschend echte E-Mails und perfekt lokalisierte Phishing-Kampagnen sollten als Standardrisiko betrachtet werden, nicht als Ausnahme.
  • Prozesse statt nur Inhalte prüfen: Wenn Inhalte dank KI immer glaubwürdiger werden, müssen Freigabeprozesse, Vier-Augen-Prinzipien und technische Kontrollen gestärkt werden – etwa bei Zahlungsanweisungen oder Kontoänderungen.
  • Threat Intelligence nutzen: Einblick in reale kriminelle Diskussionsräume hilft, neue KI-gestützte Taktiken frühzeitig zu erkennen und Abwehrmassnahmen anzupassen.
  • Bewusstsein schärfen: Mitarbeitende sollten gezielt auf KI-gestützte Täuschungen vorbereitet werden, inklusive Beispielen für synthetische Stimmen, Videos und Chat-Interaktionen.

Wer KI nur als Verteidigungswerkzeug betrachtet, unterschätzt das Tempo, mit dem Angreifer dieselben Technologien adaptieren.

Fazit

Künstliche Intelligenz ist in illegalen Online-Communities kein Zukunftsthema mehr, sondern gelebte Praxis. Die Diskussionen drehen sich weniger um neue, spektakuläre Tools, sondern um die Optimierung von Workflows, das Teilen funktionierender Prompts und die Umgehung von Schutzmechanismen. Für Sicherheits- und Fraud-Teams bedeutet das, dass sie ihre Modelle von Bedrohungen anpassen, Prozesse härten und den Faktor Mensch gezielt auf KI-gestützte Täuschungen vorbereiten müssen. Nur wer versteht, wie Angreifer KI tatsächlich einsetzen, kann wirksame Gegenstrategien entwickeln.

Quelle: https://flashpoint.io/blog/ai-threat-report-monthly/