Analyse
Warum Sicherheit bei Agenten anders gedacht werden muss
Ein Chatbot schreibt Text. Ein Agent kann unter Umständen Werkzeuge bedienen. Genau deshalb braucht KI-Automatisierung klare Grenzen: Welche Daten darf der Agent lesen? Welche Aktionen darf er ausführen? Wann muss ein Mensch bestätigen?
Die wichtigsten Leitplanken
- Least Privilege: Nur die Rechte geben, die wirklich nötig sind.
- Review vor Außenwirkung: Mails, Veröffentlichungen, Löschungen und Zahlungen brauchen Freigabe.
- Logging: Agentenaktionen müssen nachvollziehbar bleiben.
- Secrets schützen: Tokens und Passwörter gehören nicht in Chats, Prompts oder öffentliche Logs.
- Fallbacks: Bei Unsicherheit stoppen statt improvisieren.
Gute Automatisierung fühlt sich kontrolliert an
Der beste Agent ist nicht der, der alles allein macht. Produktiv ist ein Agent, der Routine abnimmt, Risiken sichtbar macht und an den richtigen Stellen fragt.