KI-Phishing-Abwehr: Bedrock ergänzt E-Mail-Security

AWS beschreibt seit 2. Juli 2026 eine KI-Phishing-Abwehr mit Amazon Bedrock. Der wichtige Punkt ist nicht, dass ein Modell E-Mails bewertet. Entscheidend ist die Architektur: klassische Mail-Authentifizierung, LLM-Analyse und Guardrails werden als mehrstufige Kontrollkette kombiniert.

Was AWS konkret zeigt

Die vorgeschlagene Pipeline startet nicht beim Sprachmodell. Zuerst bleiben SPF, DKIM und DMARC zuständig, um Absender und Manipulationen auf Transportebene zu prüfen. Danach analysieren Foundation Models in Amazon Bedrock laut AWS drei Faktoren: Wortwahl, Abweichungen im Kommunikationsstil und die fachliche Plausibilität einer Anfrage.

Damit adressiert AWS ein reales Problem: KI-generierte Phishing-Mails enthalten oft keine typischen Rechtschreibfehler mehr. Sie können Rollen, Tonalität und Kontext besser nachahmen. Bedrock Guardrails sollen zusätzlich Eingaben und Ausgaben filtern, damit Analyseergebnisse innerhalb definierter Richtlinien bleiben und keine vertraulichen Informationen preisgeben.

Warum das Governance braucht

Für Unternehmen ist diese Architektur nur dann belastbar, wenn sie nicht als isolierter Modell-Check betrieben wird. Das BSI verweist bei KI-Systemen auf ein wachsendes Angriffsfeld, unter anderem durch Prompt Injection, Jailbreaks, adversariale Angriffe und mögliche Exfiltration sensibler Daten. OWASP nennt für Gen-AI-Anwendungen ebenfalls Risiken wie Prompt Injection, Sensitive Information Disclosure, Improper Output Handling und Excessive Agency.

Das heißt: Ein LLM kann die Erkennung verbessern, aber es wird selbst Teil der Sicherheitsarchitektur. Logging, Datenminimierung, Rollenrechte, Prompt-Grenzen und Review-Prozesse müssen vor dem produktiven Einsatz geklärt sein.

Was DACH-Unternehmen prüfen sollten

Prüfen Sie zuerst, welche Mail-Daten überhaupt an ein Modell gehen dürfen: komplette Nachricht, Header, Anhänge, interne Kommunikationshistorie oder nur abstrahierte Merkmale. Danach sollten Security, Datenschutz und Betriebsrat festlegen, wie Treffer erklärt, eskaliert und gelöscht werden.

Die pragmatische Leitfrage lautet: Ergänzt KI Ihre bestehenden Mail-Kontrollen — oder entsteht ein zweites, schwer auditierbares Sicherheitssystem? Für CIOs und CISOs ist genau diese Grenze entscheidend.