Von ChatGPT zum Agenten

ChatGPT kennen Sie. Und vermutlich nutzen Sie es so wie die meisten: Text hineinkopieren, Antwort herauskopieren. Das spart Zeit, und es ist ein guter Anfang.

Meistens endet es aber auch genau dort. In diesem Beitrag zeige ich Ihnen an einem konkreten Beispiel, einer Kundenmail, wo dieser Weg an seine Grenze stößt und was ein „Agent" anders macht. Ohne Fachchinesisch.

Wo Sie heute stehen

Stellen Sie sich eine typische Situation vor. Eine Kundin schreibt Ihnen: „Haben Sie Artikel X noch auf Lager, und was kostet er?"

Sie markieren die Mail, kopieren sie in ChatGPT und schreiben dazu: „Formuliere eine freundliche Antwort." Ein paar Sekunden später steht ein brauchbarer Entwurf da. Sie kopieren ihn zurück ins Mailprogramm, lesen noch einmal drüber, schicken ihn ab.

Das funktioniert. Und es ist genau das, was ChatGPT im Kern ausmacht: ein Sprachmodell, also ein Programm, das Sprache versteht und formuliert. Es liest Text, und es schreibt Text. Mehr nicht.

ChatGPT eine Rolle geben

Wer ChatGPT öfter nutzt, merkt schnell: Man kann ChatGPT auch sagen, wie es antworten soll. „Antworte in der Sie-Form, bleib freundlich und sachlich, und biete am Ende einen Rückruf an."

Solche Vorgaben sind nichts anderes als Anweisungen. Sie machen aus dem allgemeinen Chatfenster einen Assistenten, der Ihren Ton trifft. Der Entwurf wird dadurch spürbar besser.

Am Grundprinzip ändert das aber nichts. Sie kopieren die Mail immer noch hinein, und Sie kopieren die Antwort immer noch heraus. Die Handarbeit bleibt bei Ihnen.

Das Chatfenster kommt nicht an Ihre Programme

Hier stecken zwei Probleme, die den Zeitgewinn schnell wieder auffressen.

Das erste ist die Handarbeit. ChatGPT sitzt in einem eigenen Fenster. Es kann die Mail nicht selbst aus Ihrem Postfach holen und den Entwurf nicht selbst dort ablegen. Jeder Schritt geht über Ihre Tastatur: markieren, kopieren, einfügen, zurückkopieren.

Das zweite ist das Vertrauen. Viele Betriebe zögern zu Recht, Kundendaten einfach in ein Chatfenster zu kippen. Namen, Bestellungen, interne Preise: Das möchte man nicht bei irgendeinem Anbieter im Internet wissen. Also bleibt man lieber beim vorsichtigen Copy-and-paste und lässt das Heikle ganz weg.

Beides ist verständlich. Und beides lässt sich lösen, sobald das Sprachmodell nicht mehr nur reden, sondern auch handeln kann.

Wie eine KI an ein Programm kommt: Werkzeuge

Damit ein Sprachmodell etwas in der echten Welt tun kann, bekommt es Werkzeuge. Ein Werkzeug ist eine klar umrissene Fähigkeit, zum Beispiel „eine E-Mail aus dem Postfach lesen" oder „einen Entwurf ablegen". Das Modell kann diese Werkzeuge selbst aufrufen, wenn es sie braucht.

Anbieter wie ChatGPT bieten schon länger Plugins oder Connectors an. Technisch heißt dieses Prinzip Function Calling. Alle großen Anbieter unterstützen es heute. Im Fachjargon nennt man ein solches Werkzeug übrigens ein Tool.

Entscheidend ist, wie so ein Werkzeug entsteht, denn wir legen fest, was es kann. Ein Werkzeug besteht dabei aus zwei Teilen.

Der erste Teil ist der Vertrag: eine kurze Beschreibung, die das Modell zu sehen bekommt. Sie nennt den Namen, den Zweck und die erlaubten Eingaben, mehr nicht. Für unser Beispiel brauchen wir genau zwei Werkzeuge:

Werkzeug: email_lesen
  Zweck:   Liest eine bestimmte E-Mail aus dem Postfach.
  Eingabe: id
  Ausgabe: absender, betreff, text

Werkzeug: entwurf_schreiben
  Zweck:   Legt einen Antwort-Entwurf im Ordner „Entwürfe" ab. Sendet nichts.
  Eingabe: an, betreff, text

Mehr bekommt das Modell nicht zu sehen. Es weiß nur: Es gibt ein Werkzeug, das eine Mail liest, und eines, das einen Entwurf ablegt.

Der zweite Teil ist der eigentliche Inhalt, den wir dahinter schreiben. Erst hier wird auf Ihr Postfach zugegriffen, und zwar genau so, wie wir es festlegen (hier vereinfacht dargestellt):

function email_lesen(id: string) {
    const { absender, betreff, text } = gmail.hole_nachricht(id)
    return { absender, betreff, text }
}

function entwurf_schreiben(an: string, betreff: string, text: string) {
    gmail.lege_entwurf_an({ an, betreff, text })
}

Was in diesen Zeilen nicht steht, kann auch nicht passieren. email_lesen liest eine Mail, aber löscht nichts, leitet nichts weiter, verschickt nichts. entwurf_schreiben legt einen Entwurf ab, mehr nicht. Der Versand ist bewusst kein Teil davon.

Damit erreicht der Agent nur das, wofür Sie bewusst ein Werkzeug freigeben. Nicht das ganze Postfach, nicht Ihre Buchhaltung, nur diese eine klar umrissene Fähigkeit.

Datenschutz ist dabei der Ausgangspunkt und nicht das Kapitel am Schluss. In meinen Projekten wird standardmäßig nichts gespeichert, und die Verarbeitung bleibt in der EU nach den Regeln der DSGVO. Das ist ein spürbarer Unterschied zu vielen US-Diensten, bei denen Sie sensible Kundendaten aus der Hand geben. Ihre Daten bleiben bei Ihnen.

Aus der Anweisung wird eine Fähigkeit

Jetzt fehlt noch ein Stück. Bisher haben wir dem Modell im Chat jedes Mal neu gesagt, was es tun soll. Diese Anweisung kann man aber auch einmal sauber aufschreiben, als festen Ablauf, den der Agent immer gleich befolgt. Eine solche festgehaltene Fähigkeit nennt man im Fachjargon einen Skill.

Das Besondere daran: So ein Skill ist kein Programmcode, sondern eine ganz normale Arbeitsanweisung in einfachem Text, wie Sie sie auch einer neuen Mitarbeiterin geben würden. Für unsere Kundenmail sähe er zum Beispiel so aus:

# Kundenmail beantworten

1. Öffne die neue Kundenmail und lies, worum es geht.
2. Formuliere eine freundliche Antwort in der Sie-Form.
3. Beantworte die eigentliche Frage. Ist etwas unklar, biete einen Rückruf an.
4. Lege die Antwort als Entwurf ab, aber verschicke sie nicht.

Und genau hier liegt ein großer Vorteil: Diesen Ablauf können Sie jederzeit selbst anpassen. Soll zusätzlich der voraussichtliche Liefertermin genannt werden? Dann schreiben Sie diesen Punkt einfach dazu. Dafür braucht es keinen Entwickler und keine Änderung am Agenten. Der Agent bleibt derselbe, nur seine Anleitung wird angepasst. So wird ein Skill zur Vorlage für praktisch jeden Ablauf, den Sie in Worten beschreiben können.

Das ist ein Agent

Damit haben wir alle Teile beisammen. Ein Agent ist nichts Geheimnisvolles. Er ist die Summe aus drei Dingen:

• ein Sprachmodell, das versteht und formuliert (das kennen Sie von ChatGPT),
• eine Fähigkeit, die den Ablauf beschreibt (unser Skill),
• und Werkzeuge, über die er in Ihren Programmen arbeitet (unsere zwei Tools).

Der Agent liest die Fähigkeit, arbeitet den Ablauf Schritt für Schritt ab und greift dabei zum passenden Werkzeug: erst email_lesen, um die Anfrage zu verstehen, dann entwurf_schreiben, um die Antwort abzulegen.

Das Ergebnis ist kein Text in einem Chatfenster, den Sie noch irgendwohin kopieren müssen. Das Ergebnis liegt fertig in Ihrem Ordner „Entwürfe": im richtigen Ton, an die richtige Adresse, bereit zum Prüfen.

Agenten schlafen nicht

Jetzt kommt der eigentliche Gewinn. Ein solcher Ablauf muss nicht warten, bis Sie am Schreibtisch sitzen. Er kann genauso gut eine Stunde vor Ihrer Öffnung laufen.

Am nächsten Morgen liegen die Entwürfe zu den Anfragen des Vortags schon im Ordner. Sie überfliegen sie, korrigieren bei Bedarf eine Kleinigkeit und drücken auf „Senden". Die Fleißarbeit ist erledigt. Die letzte Kontrolle und das Verschicken bleiben, wo sie hingehören: bei Ihnen.

Genau solche Abläufe baue ich, zugeschnitten auf die Programme, die Sie ohnehin schon nutzen. Wenn Sie sehen möchten, wie das für einen Ablauf in Ihrem Betrieb aussehen könnte, schauen wir ihn uns in einem unverbindlichen Erstgespräch gemeinsam an.

Weiterlesen: Nicht jeder Schritt gehört dem Agenten. Wann ich Dinge lieber fest vorgebe, statt sie der KI zu überlassen, lesen Sie in „Nicht alles der KI überlassen".