Dify

Was ist Dify?

Dify ist eine Plattform zur Entwicklung von generativen KI-Anwendungen für Entwickler und Geschäftsteams. Nutzer können in einer visuellen Benutzeroberfläche verschiedene große Sprachmodelle verbinden, Prompte erstellen, Chat-Assistenten sowie mehrschrittige Workflows konfigurieren, Unternehmensdaten importieren, um ein RAG-Wissensspeicher zu erstellen, und anschließend die Anwendung als Webseite oder API veröffentlichen.

Es vereint Modellaufrufe, Wissensabfrage, Agentenwerkzeuge, Protokollüberwachung, Bewertung und Betriebsanalyse auf einer einzigen Plattform – ideal zur schnellen Überprüfung von AI-Produkten. Zudem kann es über die Community-Version oder die Enterprise-Version auf eigener Infrastruktur eingesetzt werden.

Kernfunktionen

• Verschiedene Anwendungsarten:Es werden Chatbots, Textgenerierung, Agenten, Chatflows und Workflows unterstützt; man kann je nach Bedarf an Dialogerinnerung, Werkzeugauswahl oder deterministischen Abläufen wählen.
• Visualisierung von Workflows:Komplexe Logik wird mithilfe von LLMs, Wissensabfragen, bedingten Anweisungen, Iterationen, Code, HTTP, Vorlagen und Ausgabenodes gesteuert, wobei jedes Ergebnis nachvollziehbar ist.
• RAG-Wissensdatenbank:Dateien importieren oder externe Datensätze verbinden, um Analyse, Segmentierung, Vektorisierung, Abruf und Neuanordnung durchzuführen; der Knowledge Pipeline kann standardisierte Verarbeitungsprozesse wiederverwenden.
• Modellverwaltung:Über Plugins werden OpenAI, Anthropic, Gemini, DeepSeek, Tongyi sowie lokale Modelle verbunden; Es werden Inferenz-, Embedding- und Reranking-Dienste konfiguriert, und es wird ein Multi-Key-Load-Balancing unterstützt.
• Agenten und Tools:Der Agent kann je nach Ziel Plug-in-Tools, einen MCP-Server, OpenAPI-Dienste oder veröffentlichte Workflows auswählen und auf der Grundlage der Ergebnisse weiterhin schließen.
• Trigger und Automatisierung:Externe Ereignisse, Pläne oder Plugin-Trigger können Workflows starten und eignen sich dazu, KI-Verarbeitung in Geschäftsprozesse zu integrieren.
• Veröffentlichung und API:Die Anwendung kann als gehostete Web-App, eingebettete Seite oder Backend-API veröffentlicht werden und bietet Schnittstellen für Dialoge, Dateien, Workflows und Protokolle.
• Überwachung und Betrieb:Überprüfen Sie die Aufrufprotokolle, Tokens, Verzögerungen, Rückmeldungen und Fehler sowie verbinden Sie sich mit externen Überwachungsplattformen wie Langfuse, LangSmith usw.

Preise für Dify Cloud

Die Nachrichtenpunkte werden für einige von den Anbietern bereitgestellte Modelle verwendet; je nach Modell wird bei jeder Antwort eine unterschiedliche Anzahl an Punkten abgezogen. Wenn die Punktzahl aufgebraucht ist, kann man seine eigene API-Key verwenden.

Die Kosten für Tokens von Modellanbietern, Embedding, Reranking, Vektordatenbanken, Objektspeicher sowie Serverkosten können zusätzlich anfallen.

Wenn Professional die Grenzen für Speicher oder Plätze erreicht hat, ist in der Regel ein Upgrade notwendig, anstatt einfach Ressourcen einzeln zu kaufen.

Community-Version, Lizenzen und Bereitstellung

Die Dify Community Edition kann über Docker selbst gehostet werden. Der Hauptrepository wird unter der Dify Open Source License mit zusätzlichen Bedingungen bereitgestellt; die Grundlage bildet dabei Apache 2.0. Die zusätzlichen Bestimmungen beschränken sich hauptsächlich auf den unbefugten Einsatz des Codes zur Betriebung von mehreren Nutzern in einem SaaS-Modell ähnlich wie Dify, sowie auf das Entfernen der Markenidentifikationen im Frontend.

Daher bedeutet „quellcodebasiert und kostenloser interne Einsatz“ nicht, dass jedes Geschäftsmodell bedingungslos genutzt werden kann; wenn man Plattformdienste an externe Kunden anbieten oder das Markenimage ändern möchte, sollte man die geltende Lizenz lesen und eine Genehmigung einholen.

Selbstverwaltung erfordert die Wartung von Komponenten wie Web, API, Worker, Datenbanken, Redis, Vektorlagern, Plugin-Deamonen und Dateispeichern. Kostenlose Software befreit nicht von den Kosten für Modellaufrufe, GPU, Backups, Sicherheitsupdates und Betriebsaufwand.

Die Unternehmensversion bietet kommerzielle Lizenzen, professionelle Unterstützung sowie eine umfassendere Governance.

Dify-Anleitung

Eine grundlegende Aufgabe erledigen

1. Klare Definition der im Dify zu erledigenden Codeaufgaben, des Repository-Bereichs und der Akzeptanzkriterien;
2. Verbinden oder importieren Sie das Testprojekt und erstellen Sie zunächst eine Sicherungskopie der aktuellen Branch.
3. Erst werden Pläne mit verschiedenen Anwendungsarten erstellt, anschließend werden die zu ändernden Dateien überprüft;
4. Verwenden Sie visuelle Workflows, um kleine Änderungen durchzuführen;
5. Ausführen von Tests, statischen Überprüfungen und der Kompilierung – unüberprüfter Code wird nicht direkt akzeptiert;
6. Manuelle Überprüfung von Berechtigungen, Schlüsseln, Abhängigkeiten und Fehlerbehandlung vor der Kombination;

Erstellung wiederverwendbarer professioneller Workflows

1. Wählen Sie ein real existierendes Projekt mit niedrigem Risiko als Vorlage aus;
2. Fixierung der Reihenfolge der Verwendung verschiedener Anwendungsarten, Visualisierung von Workflows und des RAG-Wissensspeichers;
3. Erfassen von Umgebung, Modellen, Hinweisen und Fehlbedingungen;
4. Manuelle Freigabe für Schreib-, Bereitstellungs- und Löschvorgänge einrichten;
5. Vergleichen Sie Geschwindigkeit, Kosten, Testbestehensrate und Anzahl der Nacharbeiten;
6. Erst nach Überprüfung der Stabilität auf Team- oder Produktionsumgebung ausweiten;

Für welche Benutzer geeignet

• Team für die schnelle Entwicklung von Anwendungen für Firmen-Fragen/Antworten, Kundenservice, Inhalte sowie Datenverarbeitung
• Entwickler, die zwischen mehreren Modellen wechseln und eine RAG-Wissensdatenbank erstellen müssen
• Ein AI-Produktteam, das Vertriebsmitarbeiter bei der Konfiguration von Workflows einbeziehen möchte
• Unternehmen, die Privatisierung sowie eine gute Verwaltung von Protokollen und Berechtigungen benötigen

Sicherheit und Beschränkungen

• Antworten aus der Wissensdatenbank können weiterhin fehlerhafte Abschnitte enthalten, Informationen auslassen oder unbegründete Schlussfolgerungen ziehen. Es sollten Strategien zur Rückrufung, Neuanschichtung, Zitierung und Ablehnung von Antworten bewertet werden.
• Code, HTTP, Plugins und MCP in Workflows können auf externe Systeme zugreifen; es müssen Schlüssel mit minimalem Berechtigungsgrad verwendet werden, das Netzwerk sowie die Tools müssen eingeschränkt werden, und Schreib-, Lösch-, Zahlungs- sowie Versandvorgänge müssen genehmigt werden.
• Plug-ins können über den Marketplace, GitHub oder lokale Pakete installiert werden. Der Administrator sollte die Rechte zur Installation und zum Debuggen einschränken, Versionen sperren und den Code überprüfen.
• Selbstverwaltete Teams müssen Images und Abhängigkeiten rechtzeitig aktualisieren, Datenbanken sowie Dateien sichern, und die Standardinstallation nicht direkt im öffentlichen Internet zugänglich machen.

Häufige Fragen

Ist Dify kostenlos?

Cloud bietet eine kostenlose Sandbox-Lösung an; die Community Edition kann kostenlos selbst gehostet werden; Modelle, Server und Wartung sind jedoch nicht kostenlos.

Ist Dify vollständig open source?

Der Quellcode ist öffentlich, wird jedoch unter einer speziellen Lizenz mit kommerziellen Beschränkungen bereitgestellt und gehört nicht zum standardmäßigen Apache 2.0-Projekt ohne zusätzliche Bedingungen.

Kann Dify auf lokale Modelle zugreifen?

Dienste wie Ollama und vLLM können über Model-Plugins oder kompatible APIs verbunden werden; die tatsächlichen Leistungen hängen vom verwendeten Modell und der Hardware ab.