Ein Agent kann in einer Demo funktionieren.
Einfache Aufgaben ausführen.
Tools aufrufen.
Und sogar ein korrektes Ergebnis zurückgeben.
Aber das bedeutet noch nicht, dass er für reale Arbeit bereit ist.
In einer realen Umgebung kann ein Fehler des Agenten:
- Daten ändern
- Geld ausgeben
- Oder einen externen Service aufrufen
Deshalb gibt es einen Unterschied zwischen Prototyp und Produktionssystem.
Prototyp vs Production
Ein Prototyp zeigt, dass ein Agent eine Aufgabe lösen kann.
Aber er garantiert nicht, dass er es sicher tut.
In der Demo:
ein Fehler ist nur ein falsches Ergebnis
In Production:
ein Fehler bedeutet:
- Kosten
- Datenänderungen
- Oder eine Anfrage an ein externes System
Zum Beispiel:
Agent versucht, Daten aus API zu holen.
Think: get_customer_data() aufrufen
Act: System ruft API auf
Observe: keine Antwort
Think: nochmal versuchen
Act: System ruft API auf
Observe: Fehler
Think: anderen Endpoint versuchen
Act: System ruft API auf
Observe: Fehler
Ohne Ausstiegsbedingungen
kann ein Agent diese Aktionen wiederholen —
Zeit und Ressourcen verbrauchen
oder zusätzliche Last im System erzeugen.
Darum braucht ein Production-Agent Kontrolle.
Was ein production-ready Agent braucht
Damit ein Agent für reale Arbeit bereit ist, braucht er:
| Komponente | Ohne sie (Prototype) | Mit ihr (Production) |
|---|---|---|
| Memory | Wiederholt dieselben Schritte | Berücksichtigt vorherige Aktionen |
| Permissions | Kann unsichere Aktion ausführen | Arbeitet nur innerhalb erlaubter Zugriffe |
| Stop Conditions | Arbeitet endlos | Stoppt bei Limit |
| Execution Control | Führt Aktion ohne Prüfung aus | Aktion wird vor Ausführung geprüft |
| Tool Budget | Kann Geld ausgeben | Durch Budget begrenzt |
Ohne das ist ein Agent nur ein Prototyp.
Ohne Kontrolle kennt ein Agent keine Grenzen
Seine Aufgabe ist es, die Arbeit abzuschließen.
Nicht, sie sicher auszuführen.
Darum kann er dieselben Aktionen wiederholen, Daten ändern oder externe Services aufrufen — bis er ein Ergebnis erreicht oder selbst stoppt.
Wer für die Kontrolle verantwortlich ist
Ein Agent prüft sich nicht selbst.
Er führt die Aufgabe innerhalb dessen aus, was ihm erlaubt ist.
Die Kontrolle wird von einem Menschen oder einem System festgelegt.
Sie bestimmen:
- Was der Agent tun darf
- Wie lange er arbeiten darf
- Und wann er stoppen muss
Analogie aus dem Alltag
Stell dir Autopilot im Auto vor.
Er kann selbst fahren.
Die Spur halten.
Sogar die Geschwindigkeit ändern.
Aber das bedeutet nicht, dass du die Straße nicht mehr überwachen musst.
Denn wenn etwas schiefläuft, musst du eingreifen.
Genau deshalb haben auch automatisierte Systeme Grenzen und Kontrolle.
Kurz zusammengefasst
Ein Prototyp zeigt, dass ein Agent eine Aufgabe lösen kann.
Ein Production-Agent:
- Hat Memory
- Arbeitet mit Permissions
- Stoppt bei Bedingungen
- Und steht unter Kontrolle
Erst dann kann man ihm vertrauen.
FAQ
Q: Kann man einen Prototyp in Production verwenden?
A: Ja — aber ohne Grenzen und Kontrolle kann das unsicher sein.
Q: Reichen nur Ausstiegsbedingungen aus?
A: Nein. Ausstiegsbedingungen können eine Endlosschleife stoppen,
verhindern aber keine gefährlichen Aktionen.
Ein Agent braucht auch Permissions
und Ausführungskontrolle,
um sicher zu arbeiten.
Q: Wer ist für den sicheren Betrieb eines Agenten verantwortlich?
A: Ein Mensch oder ein System, das Grenzen festlegt
und die Ausführung von Aktionen kontrolliert.
Ein Agent arbeitet nur innerhalb erlaubter Permissions —
definiert diese aber nicht selbst.
Was als Nächstes
Jetzt weißt du, was ein Production-Agent braucht.
Memory, Permissions, Ausstiegsbedingungen, Kontrolle — das ist das Fundament.
Aber Kontrolle ist nur ein Teil des Systems.
Ein Agent muss auch Schritt für Schritt Entscheidungen treffen:
Situation bewerten,
Aktion wählen,
Ergebnis prüfen,
und entscheiden, was als Nächstes passiert.
Dafür gibt es ein eigenes Pattern.
Es heißt ReAct.