Function Calling (auch Tool Use) bezeichnet die Fähigkeit eines KI-Sprachmodells, definierte Funktionen oder Werkzeuge gezielt aufzurufen. Statt eine Aufgabe nur mit Worten zu beantworten, kann das Modell erkennen, dass ein Werkzeug nötig ist, die passenden Parameter erzeugen und dessen Ergebnis in seine Antwort einbeziehen. So verbinden sich Sprachverständnis und konkrete Aktionen wie Datenbankabfragen oder Berechnungen.
Was ist Function Calling?
Function Calling — auch Tool Use genannt — bezeichnet die Fähigkeit eines KI-Sprachmodells, definierte Funktionen oder Werkzeuge gezielt aufzurufen. Statt eine Aufgabe nur mit Worten zu beantworten, erkennt das Modell, dass ein Werkzeug nötig ist, erzeugt die passenden Parameter und bezieht dessen Ergebnis in seine Antwort ein. So verbinden sich Sprachverständnis und konkrete Aktionen wie Datenbankabfragen, Berechnungen oder das Anlegen eines Termins. Das Konzept ist eng an moderne Large Language Models gebunden, die die Wikipedia-Definition zum großen Sprachmodell als auf riesigen Textmengen trainierte Systeme beschreibt.
Function Calling schließt eine grundlegende Lücke: Ein reines Sprachmodell kann Text erzeugen, aber nicht selbst rechnen, keine Live-Daten abrufen und nichts in externe Systeme schreiben. Über definierte Funktionen wird das Modell handlungsfähig — es bleibt der sprachliche Dirigent, während die eigentliche Ausführung in verlässlichem Code stattfindet. Damit ist Function Calling eine zentrale Grundlage für KI-Agenten.
Abzugrenzen ist Function Calling von der reinen Texterzeugung. Ohne Werkzeuge verarbeitet ein Modell die Eingabe — den Prompt — und erzeugt in einem Schritt der Inferenz das wahrscheinlichste Fortsetzungsmuster als Text. Function Calling erweitert diesen Ablauf um eine Zwischenstufe: Das Modell entscheidet, ob ein Werkzeug gebraucht wird, und formuliert den Aufruf. Der Kern bleibt derselbe wahrscheinlichkeitsbasierte Mechanismus, doch die Fähigkeit, strukturierte Aufrufe zu erzeugen, wird gezielt antrainiert. Deshalb beherrschen nicht alle Modelle Function Calling gleich gut — es ist eine erlernte Kompetenz, keine selbstverständliche Eigenschaft jedes Sprachmodells.
Wie funktioniert Function Calling technisch?
Entwickler beschreiben dem Modell die verfügbaren Funktionen samt ihrer Parameter — etwa „Termin anlegen“ mit den Feldern Datum und Uhrzeit oder „Wetter abfragen“ mit dem Ort. Diese Beschreibungen werden meist als strukturiertes Schema übergeben. Erkennt das Modell in einer Anfrage den Bedarf, gibt es nicht direkt eine Textantwort aus, sondern einen strukturierten Aufruf mit den passenden Werten. Die Anwendung führt die Funktion aus und reicht das Ergebnis an das Modell zurück, das daraus die endgültige Antwort formuliert.
Der entscheidende Schritt ist, dass das Sprachmodell selbst entscheidet, wann und mit welchen Argumenten ein Werkzeug sinnvoll ist. Die großen Anbieter beschreiben dieses Muster nahezu deckungsgleich: OpenAI in seinem Function-Calling-Leitfaden, Google für die Gemini-API und Anthropic unter dem Begriff Tool Use für Claude. In allen Fällen liefert das Modell strukturierte Aufrufe, nicht die Ausführung selbst — die bleibt beim aufrufenden Programm.
Damit die erzeugten Parameter verlässlich weiterverarbeitet werden können, geben Function-Calling-Schnittstellen die Argumente in einem klar definierten Format aus, häufig als JSON über eine API. Moderne Modelle können auch mehrere Werkzeuge nacheinander aufrufen und deren Ergebnisse kombinieren, um mehrstufige Aufgaben eigenständig zu bearbeiten.
Warum ist Function Calling wichtig?
Function Calling verwandelt einen Gesprächspartner in einen handlungsfähigen Assistenten. Das Modell kann rechnen lassen, tagesaktuelle Daten abrufen, in Systeme schreiben oder Suchen anstoßen — Dinge, die ihm allein verwehrt bleiben, weil sein Wissen am Wissensstichtag endet. Damit werden Anwendungen möglich, die weit über das Beantworten von Fragen hinausgehen.
Für Unternehmen ist Function Calling die Brücke zwischen KI und bestehenden Systemen: Ein Assistent kann Verfügbarkeiten im Warenwirtschaftssystem prüfen, einen Datensatz im CRM anlegen oder eine Berechnung mit garantiert korrektem Ergebnis ausführen. Es ist zugleich ein Baustein der Workflow-Automatisierung, weil sich wiederkehrende Abläufe an definierte Werkzeuge delegieren lassen.
Nicht zuletzt erhöht Function Calling die Zuverlässigkeit. Statt eine Zahl zu „halluzinieren“, ruft das Modell einen Rechner auf; statt einen Preis zu raten, fragt es die Datenbank. Es verlagert kritische Schritte aus der wahrscheinlichkeitsbasierten Textgenerierung in deterministischen Code — ein wichtiger Schritt gegen die Halluzination.
Dieser Zugewinn an Verlässlichkeit ist der Grund, warum Function Calling zum Standard moderner KI-Anwendungen geworden ist. Wo ein reines Sprachmodell nur eine plausibel klingende Auskunft liefern könnte, verankert Function Calling die Antwort in echten Daten — ein Prinzip, das dem Grounding verwandt ist, bei dem Aussagen an belegbare Quellen gebunden werden. Für Unternehmen bedeutet das: Ein Assistent kann nicht nur klug klingen, sondern nachprüfbar korrekte Ergebnisse liefern, weil die entscheidenden Schritte außerhalb der Sprachgenerierung ablaufen. Genau diese Kombination aus sprachlicher Flexibilität und deterministischer Ausführung macht die Technik so wirkungsvoll.
Function Calling in der Praxis und im Kontext
In der Praxis ist Function Calling die technische Basis vieler KI-Chatbots für Websites und komplexer Multi-Agenten-Systeme, in denen mehrere spezialisierte Agenten Werkzeuge nutzen und Ergebnisse austauschen. Ein typisches Beispiel ist ein Buchungsassistent, der freie Termine abfragt, einen Slot reserviert und eine Bestätigung verschickt — jeder Schritt ein Funktionsaufruf.
Function Calling wird oft mit verwandten Techniken kombiniert. Retrieval-Augmented Generation reichert die Antwort mit abgerufenem Wissen an, während das Model Context Protocol einen offenen Standard bietet, um Werkzeuge und Datenquellen einheitlich anzubinden. Ein guter System-Prompt und durchdachtes Prompt Engineering helfen dem Modell, die richtigen Werkzeuge zur richtigen Zeit zu wählen. Zusammen bilden diese Bausteine das Fundament agentischer Anwendungen.
Ein typischer Ablauf Schritt für Schritt
Ein konkreter Ablauf macht das Prinzip greifbar. Stellt ein Nutzer die Frage „Ist morgen um 15 Uhr ein Termin frei?“, erkennt das Modell — etwa in Diensten wie ChatGPT, Claude oder Google Gemini —, dass es die Antwort nicht aus seinem trainierten Wissen kennt. Es erzeugt daraufhin einen Funktionsaufruf, zum Beispiel an eine Funktion „freie_termine_abfragen“ mit dem Parameter Datum. Die Anwendung führt diese Abfrage im Kalendersystem aus und gibt das Ergebnis zurück.
Erst mit diesem Ergebnis formuliert das Modell die endgültige, natürlichsprachliche Antwort. Sind mehrere Schritte nötig — Termin prüfen, reservieren, Bestätigung senden —, kann das Modell die Funktionen nacheinander aufrufen und Zwischenergebnisse berücksichtigen. Dabei spielt das Kontextfenster eine Rolle: Es begrenzt, wie viele Funktionsdefinitionen, Zwischenergebnisse und Gesprächsverläufe das Modell gleichzeitig überblicken kann. Jeder Aufruf verursacht zudem Latenz, weshalb die Zahl der Schritte bewusst gestaltet werden sollte.
Function Calling in der Unternehmenspraxis
In Unternehmen ist Function Calling selten Selbstzweck, sondern dient konkreten Abläufen. Ein Kundenservice-Assistent ruft den Bestellstatus ab, ein Vertriebs-Bot legt einen Datensatz an, ein interner Assistent durchsucht Dokumente. Der Wert entsteht dort, wo wiederkehrende, klar umrissene Aufgaben zuverlässig automatisiert werden — ein Baustein, der eng mit generativer KI und deren Einbettung in bestehende Systeme verknüpft ist.
Für den produktiven Betrieb sind neben der Funktion selbst betriebliche Fragen zu klären: Wie werden Rate-Limits der genutzten Schnittstellen eingehalten, wie werden Fehler abgefangen, und wie lässt sich nachvollziehen, welche Aufrufe das Modell ausgelöst hat? Ein durchdachtes Monitoring ist hier so wichtig wie die Fachlogik. Bewährt hat sich, Funktionen eng zu schneiden, ihre Beschreibungen präzise zu halten und die erzeugten Parameter vor der Ausführung strikt zu validieren — so bleibt das System auch dann beherrschbar, wenn die Zahl der Werkzeuge wächst.
Typische Fehler und Grenzen
Ein häufiger Fehler sind unklare oder mehrdeutige Funktionsbeschreibungen: Weiß das Modell nicht genau, wofür ein Werkzeug gedacht ist, ruft es das falsche auf oder erzeugt unpassende Parameter. Ebenso riskant ist das Ausführen sicherheitskritischer Aktionen ohne Kontrolle — ein Modell sollte nicht ungeprüft löschen, bezahlen oder versenden dürfen. Hier sind Guardrails und, bei sensiblen Schritten, ein Mensch in der Schleife unverzichtbar.
Eine Sicherheitsgrenze betrifft die Prompt Injection: Manipulierte Eingaben können versuchen, das Modell zu ungewollten Funktionsaufrufen zu verleiten. Deshalb müssen Berechtigungen eng gefasst und Aufrufe validiert werden. Hinzu kommt, dass die Fähigkeit zum korrekten Function Calling je nach Modell schwankt und die Ausführung stets im aufrufenden System abgesichert werden muss. Function Calling ist damit ein mächtiges Werkzeug, das ohne saubere Schemata, Rechtekontrolle und Validierung aber neue Fehlerquellen schafft, statt sie zu beseitigen.