LangChain

Was ist LangChain?

LangChain ist ein Open-Source-Entwicklungsframework für Anwendungen mit großen Sprachmodellen und AI-Agenten, das die Python- sowie JavaScript/TypeScript-Ökosysteme unterstützt. Entwickler können über eine einheitliche Schnittstelle verschiedene Modelle, Tools, Suchsysteme, strukturierte Ausgaben und Middleware verbinden, um Chat-Assistenten, RAG-basierte Dokumentenfragesysteme, Forschungsagenten, Datenanalyse-Tools sowie Anwendungen zur Automatisierung von Geschäftsprozessen zu erstellen.

Der aktuelle LangChain-Produktstack sollte in drei Ebenen unterteilt werden:LangChain Es handelt sich um ein High-Level-Agent-System sowie einen Anwendungsentwicklungsrahmen.LangGraph Es handelt sich um eine unterliegende Orchestrierungs- und Ausführungsumgebung für Zustandsbasierte, langlaufende und wiederherstellbare Agenten.LangSmith Es handelt sich um eine kommerzielle Plattform zur Verfolgung, Bewertung, Überwachung und Bereitstellung. Open-Source-Bibliotheken sind kostenlos – doch das bedeutet nicht, dass sowohl LangSmith als auch die Aufrufe der Modelle kostenlos sind.

Kernfunktionen von LangChain

Einheitliche Modell-Schnittstelle

LangChain verringert durch standardisierte Nachrichten, Toolaufrufe, fließende Ausgaben und strukturierte Antworten die Wiederholung von Code beim Wechsel zwischen Anbietern wie OpenAI, Anthropic, Google, AWS, Azure sowie lokalen Modellen. Die Fähigkeiten, Parameter und Rückgabeformate der verschiedenen Modelle weichen weiterhin voneinander ab; daher müssen vor dem Umstieg Toolaufrufe, Bilder, Kontexte und strukturierte Ausgaben getestet werden.

KI-Agenten und Tools

Der Agent verwendet ein Modell, um zu entscheiden, wann Suchfunktionen, Datenbanken, Dateien, Code oder Business-API-Tools aufgerufen werden sollen, und fährt anschließend auf der Grundlage der Ergebnisse dieser Tools mit seiner Analyse fort. Entwickler können die Parameter der Tools, die Fehlerbehandlung sowie das Format der zurückgegebenen Daten definieren.

Wenn ein Tool tatsächliche Ausführungsbefugnisse hat, sollten Mindestberechtigungen, Zeitlimits, Wiederholungsversuche, Idempotenz sowie manuelle Freigabe angewandt werden.

Middleware

Middleware kann Logik vor und nach den Aufrufen des Modells, den Aufrufen der Tools sowie bei Zustandsänderungen im Lebenszyklus eines Agents einfügen. Dadurch können dynamische Anweisungen, Modellrouten, Zusammenfassungen, das Filtern sensibler Informationen, Wiederholungsversuche, menschliche Einmischung sowie Aufrufbeschränkungen umgesetzt werden. So müssen solche Funktionen nicht in jedem Tool separat implementiert werden – was die Schaffung einer einheitlichen Steuerungsebene ermöglicht.

RAG und Dokumentensuche

Die LangChain-Ökosystem bietet Komponenten für das Laden von Dokumenten, die Aufteilung von Texten, die Erstellung von Embeddings, Vector Stores, Retriever sowie Generierungsfunktionen, mit denen Ergebnisse der Suche in privaten Datenquellen an Modelle bereitgestellt werden können. Die Qualität von RAG hängt von der Analyse, Aufteilung, Indizierung, Filterung und Bewertung ab – es ist nicht so, dass eine Verbindung zu einer Vektordatenbank automatisch zu zuverlässigen Ergebnissen führt.

Das formelle System sollte die Quell-Metadaten speichern und Verweise überprüfen.

LangGraph-Zustandsorchestrierung

LangGraph repräsentiert Knoten und Zustandswechsel in Form von Graphen und unterstützt Persistenz, fließende Ausführung, Human-in-the-Loop-Verfahren, Speicherung von Informationen, Verzweigungen, Schleifen sowie Wiederherstellung nach Unterbrechungen. Er eignet sich für lange Aufgaben, Agenten, die einen klaren Zustand benötigen, sowie für die Koordination mehrerer Agenten.

Die Fähigkeit zur Erstellung von hochrangigen Agenten in LangChain läuft selbst auf LangGraph. Anfänger können zunächst LangChain verwenden; erst wenn eine direkte Steuerung auf der unteren Ebene erforderlich ist, sollte LangGraph genutzt werden.

LangSmith-Beobachtung und Bewertung

LangSmith kann einen vollständigen Trace aufzeichnen, einschließlich Modellanfragen, Toolaufrufe, Verzögerungen, Tokens und Fehlern; zudem unterstützt es Datensätze, Online/Offline-Bewertung, manuelle Annotation, Prompt Playground, Überwachung und Insights.

Es wird nicht vorgeschrieben, dass die Anwendung unbedingt LangChain verwenden muss; es reicht aus, das Tracking-SDK zu integrieren, um auch Agenten zu überwachen, die in anderen Frameworks geschrieben wurden.

LangSmith Deployment

Deployment bietet für langfristig laufende Agenten eine Host-Infrastruktur, fließende Zwischenschritte, APIs für Zustand und Gedächtnis, zeitgesteuerte Aufgaben, Authentifizierung sowie Unterstützung für MCP Server. Plus beinhaltet eine kostenlose Serverless Small-Deployment-Möglichkeit; zusätzliche Serverless- oder Dedicated-Instanzen werden nach dem Ressourcenverbrauch abgerechnet.

Enterprise kann eine selbst gehostete oder hybride Bereitstellung wählen.

Open Source und Lizenzen

Das Kernrepository von LangChain für Python wird unter der MIT-Lizenz bereitgestellt, und auch Kernbibliotheken wie LangGraph sind auf dem offiziellen GitHub verfügbar. Die LangSmith-Cloudplattform, die Deployment-Funktionen sowie einige Unternehmensdienste gehören zu kommerziellen Produkten.

Jedes Modell, jede Vektordatenbank sowie jedes Integrationspaket unterliegt außerdem eigenen Lizenzen und Dienstleistungsbedingungen.

Vergleich der LangChain-Produktstacks

LangSmith-Preise und Pakete

LangSmith verwendet ein Modell von „Grundgebühr pro Sitzplatz + Abrechnung nach Nutzung“. LCU steht für Berechnungsressourcen, LSU steht für Überwachungs- oder Speicherressourcen.

Der derzeitige Grundpreis auf der offiziellen Website beträgt 1,50 US-Dollar pro LCU und 1 US-Dollar pro LSU.

Nach Ablauf der kostenlosen Trace-Option wird nach Verbrauch abgerechnet. Die eingesetzten Ressourcen werden derzeit in LCU/LSU umgerechnet, wobei dies auf Grundlage von vCPU, Speicher und Datenbankverbrauch erfolgt – die Abrechnung erfolgt dabei sekundengenau.

Die Kosten für Model-Token werden in der Regel weiterhin vom Anbieter des Modells erhoben.

Es gibt viele Preisfaktoren; das Produktionsbudget sollte mit dem Rechner auf der offiziellen Website berechnet und der tatsächliche Verlauf überwacht werden.

Einführung in LangChain

1. Sprache auswählen:Verwenden Sie für jedes Projekt Python oder TypeScript, um separate virtuelle Umgebungen zu erstellen und Abhängigkeiten zu sichern.
2. Installation des Kernpakets:Installieren Sie LangChain sowie die entsprechenden Integrationspakete der Modellanbieter und speichern Sie den API-Schlüssel in einer Umgebungsvariable.
3. Modell erstellen:Initialisieren Sie das Chat-Modell und testen Sie zunächst normale Nachrichten, fließende Antworten sowie strukturierte Ausgaben.
4. Definierungswerkzeug:Geben Sie der Funktion einen klaren Namen, eine Beschreibung sowie ein Parameter-Schema an und beschränken Sie die Berechtigungen für gefährliche Operationen.
5. Agent erstellen:Konfigurieren Sie Systemanweisungen, Tools, Middleware und Stoppsbedingungen sowie überprüfen Sie die Auswahl der Tools mithilfe von Testaufgaben.
6. RAG nach Bedarf hinzufügen:Dokumente verarbeiten, Indizes erstellen und einen Retriever konfigurieren sowie ein Bewertungsset mit Standardantworten anlegen.
7. Komplexe Zustände mit LangGraph:Wenn Schleifen, Wiederherstellung, Speicherung und Freigabe erforderlich sind, sollte der Prozess als explizites Zustandsdiagramm dargestellt werden.
8. Anbindung an LangSmith:Tracing aktivieren, Versionen von Prompt, Modell und Tool vergleichen, Qualität und Kosten überprüfen und anschließend bereitstellen.

LangChain-Anleitung

Erstellung wiederverwendbarer professioneller Workflows

1. Wählen Sie ein real existierendes Projekt mit niedrigem Risiko als Vorlage aus;
2. Festlegung der einheitlichen Modell-Schnittstelle sowie der Reihenfolge der Verwendung von AI-Agenten, Tools und Middleware.
3. Erfassen von Umgebung, Modellen, Hinweisen und Fehlbedingungen;
4. Manuelle Freigabe für Schreib-, Bereitstellungs- und Löschvorgänge einrichten;
5. Vergleichen Sie Geschwindigkeit, Kosten, Testbestehensrate und Anzahl der Nacharbeiten;
6. Erst nach Überprüfung der Stabilität auf Team- oder Produktionsumgebung ausweiten;

Für welche Benutzer geeignet

• Entwickler, die schnell Modelle, Tools und Such-basierte KI-Anwendungen erstellen müssen;
• Engineering-Team zur Entwicklung von Agenten für langfristige Aufgaben, mit Wiederherstellungsfähigkeit und menschlicher Intervention;
• Organisationen, die eine systematische Erfassung, Bewertung und Überwachung von LLM-Anwendungen benötigen;
• Produktteams, die eine relativ einheitliche Schnittstelle zwischen verschiedenen Modellanbietern beibehalten möchten;
• Unternehmen, die Produktionsagenten in einer gehosteten, selbst gehosteten oder hybriden Umgebung bereitstellen müssen.

Vorteile und Bedenken

• Der Vorteil von LangChain ist seine ausgereifte Ökosystemstruktur, die umfassende Integration von Modellen und Daten sowie reichhaltige Dokumentations- und Community-Ressourcen. Zudem bietet es einen vollständigen Produktstack, der den gesamten Prozess vom Entwickeln über die Orchestrierung bis hin zur Evaluierung und Bereitstellung abdeckt.
• High-Level-APIs eignen sich für einen schnellen Einstieg, während LangGraph fortgeschrittenen Nutzern eine tiefergehende Steuerung bietet.
• Die Abstraktion der Rahmenschicht erhöht außerdem die Abhängigkeiten und die Komplexität bei der Fehlersuche.
• Die Paketversion sollte festgelegt werden, die Migrationsdokumentation sollte gelesen werden, und man sollte vermeiden, einfache Modelle durch übermäßige Verfeinerung zu nutzen, nur um ein Framework einzusetzen.
• Die Ausgaben des Agents sind unzuverlässig, und RAG übersieht ebenfalls Fehler.
• Das Produktionsystem muss Bewertungssätze, Nachverfolgbarkeit, Berechtigungen sowie manuelle Sicherheitsmaßnahmen bereitstellen.
• Die von LangSmith gesammelten Spuren können Benutzerdaten enthalten; vor der Verarbeitung sollten Desensibilisierung und Datenverwaltung eingestellt werden.

Häufige Fragen

Ist LangChain kostenlos?

Die Kernbibliotheken von LangChain und LangGraph sind kostenlos und open source. LangSmith bietet ein kostenloses Entwickler-Paket an; für Teamnutzung, Bereitstellung sowie übermäßigen Gebrauch werden Gebühren erhoben.

Die Model-API wird separat berechnet.

Was ist der Unterschied zwischen LangChain und LangGraph?

LangChain bietet hochwertigere Schnittstellen für Agenten, Modelle, Tools und Middleware; LangGraph ist für die statebasierte und wiederherstellbare untere Orchestrierung zuständig.

Beide können kombiniert verwendet werden.

Muss LangSmith zusammen mit LangChain verwendet werden?

Das ist nicht notwendig. LangSmith kann LLM-Anwendungen, die mit anderen Frameworks oder benutzerdefiniertem Code erstellt wurden, verfolgen und bewerten.

Unterstützt LangChain JavaScript?

Unterstützung für die Python- sowie JavaScript/TypeScript-Ökosysteme. Die Abdeckung der Integration verschiedener Sprachen sowie das Tempo der Veröffentlichungen können leicht unterschiedlich sein.

Ist LangChain Open Source?

Der Kernrahmen ist open source und unterliegt der MIT-Lizenz. Die LangSmith-Cloudplattform sowie die Unternehmenshosting-Dienste gehören zu kommerziellen Dienstleistungen.