Aus dem Kurs: Retrieval-Augmented Generation (RAG) in KI-Systemen nutzen

Erhalten Sie Zugriff auf diesen Kurs – mit einer kostenlosen Probeversion

Werden Sie noch heute Mitglied und erhalten Sie Zugriff auf mehr als 24.600 Kurse von Branchenfachleuten.

Wie Kontext funktioniert

Wie Kontext funktioniert

Der ganz wesentliche Teil, um Wissen in eine generative Anwendung zu bekommen, ist der Kontext und der Kontext oder das sogenannte Kontextfenster, Context Window, umfasst den System Prompt, den Gesprächsverlauf, Werkzeuge, Funktionen, Tools, die man, wenn man zum Beispiel eine Art von agentischem Verhalten umsetzen möchte, zusätzlich definiert und die entsprechenden Aufrufe und Antworten bezüglich dieser Tools, die in diesem Rahmen dann Teil des Gesprächsverlaufs werden. Wenn man in einer Umgebung wie dem Playground von OpenAI ist oder entsprechende Umgebungen von Azure oder Google, dann kann man das Ganze auch ausprobieren und betrachten. Hier könnte ich beispielsweise jetzt bei der Systemnachricht sowas schreiben wie: »Du bist ein Experte für Kaffee.« Das wäre jetzt die Systemnachricht, die das Verhalten meines Bots beschreibt und kann dann diesen Kaffeeexperten hier eine entsprechende Funktion geben. Ich kann ja mal eine generieren, sowas wie: Fragen zum Preis eines Espressos ohne…

Inhalt