Tabby

Was ist Tabby?

Tabby ist ein open-source, selbst gehosteter AI-Programmierassistent, der von TabbyML entwickelt wurde. Er kann als private Alternative zu Cloud-Tools wie GitHub Copilot dienen. Teams können Modelle und Serverdienste auf lokalen Servern, in privaten Clouds oder in eigenen Infrastrukturen betreiben.

Es handelt sich nicht um ein einzelnes großes Sprachmodell, sondern um ein umfassendes System, das Modellservices, Code-Contexte, eine Verwaltungsoberfläche, APIs sowie Editor-Plugins umfasst. Die tatsächliche Leistung hängt von den ausgewählten Kompletterungsmodellen, Chat-Modellen, eingebetteten Modellen sowie von der Konfiguration der Hardware und des Codepools ab.

Hauptfunktionen

• Im Editor wird eine Echtzeit-Vervollständigung mehrerer Codezeilen bereitgestellt.
• Antworten auf Entwicklungsfragen im Zusammenhang mit dem Codepool und Bereitstellung des entsprechenden Kontexts.
• Durch Chat im Code erklären, ändern und Code erzeugen.
• Suchen Sie in dem Code-Explorer nach Repositorien und überprüfen Sie die Symbolbeziehungen.
• Verbindung zu Git-Repositorys, Entwicklungsdokumentation und anderen Kontextquellen.
• Konfigurieren Sie separat die Vervollständigungs-, Chat- und Einbettungsmodelle.
• Unterstützung für lokale Modelle sowie verschiedene OpenAI-kompatible Modellanschlüsse.
• Bereitstellung von Funktionen zur Verwaltung von Benutzern sowie deren Zugriff und Nutzung für das Team.
• Über OpenAPI wird eine Verbindung zu einer Cloud-basierten IDE oder zu einer internen Entwicklungsplattform hergestellt.
• Einsatz mit Docker, Linux-Exekutabeln und verschiedenen Cloud-Plattformen.
• Verbindet VS Code, JetBrains, Vim und andere Editor.

Kernkomponenten

Code-Vervollständigung

Tabby generiert Echtzeit-Vorschläge auf der Grundlage des aktuellen Dokuments, des Codes in der Nähe des Cursors sowie des Kontexts des Projekts. Es wird besonders auf eine schnelle, verzögerungsfreie Autocompletion sowie auf die Möglichkeit zur Stornierung von Anfragen geachtet. Zudem werden durch Caching und Tree-sitter-Code-Tags der Kontext der Vorschläge optimiert.

• Vervollständigen Sie eine einzige Zeile oder mehrere aufeinanderfolgende Zeilen Code.
• Prädiktionsfunktionenkörper, bedingte Branchen und Wiederholungsmuster.
• Beachten Sie den Namens- und Kodierungsstil des aktuellen Dokuments.
• Setzen Sie die Aktualisierung der Vorschläge fort, solange der Entwickler sie annimmt oder ablehnt.
• Über ein IDE-Plugin im bestehenden Bearbeitungsprozess verwenden.
• Es wird den Administratoren gestattet, ein spezielles Code-Vervollständigungsmodell auszuwählen.

Vorschläge zur Verbesserung der Qualität

• Wählen Sie das Fill-in-the-Middle-Modell, das die Zielsprache unterstützt.
• Zuerst soll eine niedrige Verzögerung gewährleistet werden, anschließend die Größe der Modellparameter erhöht werden.
• Stellen Sie sicher, dass Dateinamen, Funktionsnamen und Kommentare die Absicht klar vermitteln.
• Verkleinern Sie übermäßig große Funktionen, um zu vermeiden, dass der Kontext mit irrelevantem Code gefüllt wird.
• Testen Sie getrennt voneinander die Akzeptanzrate der gängigen Sprachen und Frameworks.
• Integrieren Sie die generierte Code in die Formatierungs-, statischen Prüf- und Testprozesse.

Answer Engine und Code-Frage-Antwort

Die Answer Engine ermöglicht es Entwicklern, direkt nach der Struktur, der Implementierung und der Verwendungsmethode eines Codepools zu fragen. Das System liest die entsprechenden Dateien oder Quellen im Kontext und erstellt Antworten mit Hinweisen auf die Quelle, wodurch das Wechseln zwischen Repositorys, Dokumentationen und Tickets reduziert wird.

• Erklären Sie die Aufgaben eines Moduls oder einer Funktion.
• Suchen Sie nach den Aufrufstellen der Schnittstelle und den Abhängigkeiten.
• Erstellen Sie eine neue Datenbank-Migration auf der Grundlage der vorhandenen Migrationsdateien.
• Zusammenfassung der Frameworks und Konventionen, die im Codepool verwendet werden.
• Beantworten Sie Konfigurationsfragen unter Verwendung der Entwicklungsdokumentation.
• Für neue Mitglieder wird eine Code-Navigation sowie Unterstützung bei der Einarbeitung bereitgestellt.

Innenchat

Die interne Chat-Funktion platziert natursprachliche Anweisungen zusammen mit dem aktuell ausgewählten Code am selben Bearbeitungsort. Sie eignet sich zur Erklärung, Umstrukturierung, Erstellung von Tests oder Hinzufügen von Kommentaren, wobei alle Änderungen zunächst im Vergleich angezeigt und anschließend angenommen werden sollten.

• Erklären Sie die Logik und die Grenzbedingungen des ausgewählten Codes.
• Wiederholten Code umstrukturieren oder die Lesbarkeit verbessern.
• Erstellen von Unit-Tests und Testdaten.
• Sprache, Framework oder API-Aufrufmethode ändern.
• Ergänzung von Dokumentationsstrings, Typen und Fehlerbehandlung.
• Anpassen des Teilkodens gemäß den Projektvorgaben.

Context-Provider

Der Kontextanbieter dient dazu, Code-Repositorys, Entwicklungsdokumentationen sowie weitere Teamwissen in Tabby zu integrieren. Der abgerufte Kontext verbessert die Zielgenauigkeit von Fragen zum Code, erweitert aber auch den Umfang der zu verwalternden Berechtigungen und Indizes.

• Importieren aus GitHub, GitLab oder einem allgemeinen Git-Repository.
• Sammeln von Entwicklerdokumentationen und internen technischen Anleitungen.
• Für verschiedene Projekte unabhängige Kontexte erstellen.
• Lassen Sie die Antworten Code und Dokumente zitieren, anstatt sich nur auf das Modellgedächtnis zu verlassen.
• Steuerung der sichtbaren Lager nach Teamrechten.
• Regelmäßig synchronisieren und veraltete Daten entfernen.

Liste der Kontextsicherheit

• Indexieren Sie keine Schlüssel, Zertifikate, Produktkonfigurationen und Kundendaten.
• Setzen Sie für das Lager minimale Leseberechtigungen fest.
• Bestätigen, dass verschiedene Teams nicht in die privaten Projekte der anderen einsehen können.
• Der Zugriff wird unverzüglich entzogen, sobald ein Mitarbeiter ausscheidet oder ein Projekt beendet ist.
• Regelmäßig neu synchronisieren und historische sensible Inhalte löschen.
• Einstellen einer Allowlist für Domainnamen zur Abfrage externer Dokumente.

Unterstützte Editor

Auf der offiziellen Website werden VS Code, Neovim, IntelliJ IDEA, Eclipse, Android Studio sowie mehrere JetBrains IDEs aufgeführt. Die Funktionsreife der verschiedenen Erweiterungen sowie die erforderlichen Versionen können unterschiedlich sein; vor der Installation sollten die entsprechenden Dokumentationen zu den Erweiterungen geprüft werden.

Modell- und Hardwareauswahl

Tabby konfiguriert die Modelle für die Vervollständigung, das Chatten und das Einbetten getrennt voneinander. Das Vervollständigungsmodell hat die höchsten Anforderungen an die Verzögerung, das Chatten-Modell legt mehr Wert auf die Qualität der Schlussfolgerungen sowie des Kontexts, während das Einbettungsmodell für die Suche in Code und Dokumenten zuständig ist.

Der offizielle Modellkatalog empfiehlt für Modelle mit 7B bis 13B Parametern die Verwendung von GPUs der V100-, A100-Serie oder neuerer Modelle der 30/40-Serie. Die benötigte GPU-Geschwindigkeit hängt außerdem von der Quantisierung, der Länge des Kontexts, der Parallelisierung sowie der Architektur des Modells ab. Vor der Einführung sollte in einem echten Projekt eine Belastungstests durchgeführt werden.

Docker-Deployment-Leitfaden

1. Vorbereitung eines Linux-Servers, von Docker sowie von persistierenden Festplatten.
2. Wenn eine NVIDIA-GPU erforderlich ist, müssen die Treiber sowie das Container-Toolkit installiert werden.
3. Wählen Sie aus dem offiziellen Modellkatalog Modelle für Ergänzungen, Chats und Einbettungen aus.
4. Erstellen Sie einen separaten Datenordner und legen Sie die richtigen Zugriffsrechte fest.
5. Starten Sie den Tabby Server mit dem offiziellen Container-Image.
6. Kopieren Sie die Service-Ports und Datenträger und geben Sie das laufende Gerät an.
7. Wechseln Sie zur Zugriffsverwaltungsoberfläche, um Administrator- und Sicherheitszugriffskonfigurationen zu erstellen.
8. Installieren Sie den IDE-Plugin und geben Sie die Server-Adresse sowie das Token ein.
9. Überprüfen Sie die Ergebnisse der Autocomplete-, Chat- und Indexfunktionen mit dem Testrepository.
10. Konfigurieren Sie einen Reverse-Proxy, TLS, Backups, Protokollierung und Überwachung.

Überprüfung der Produktivumgebung

• Exponieren Sie die unverschlüsselten Management-Ports nicht direkt im öffentlichen Netzwerk.
• Verwenden Sie TLS, starke Passwörter und kontrollierte Netzwerkeingänge.
• Speichern Sie den Modell-Cache, die Indizes und die Datenbank in einer persistenten Speicherung.
• Beschränken Sie die Rechte der Container und scannen Sie Images sowie Abhängigkeiten auf Schwachstellen.
• Protokollieren Sie den GPU-Gedächtnisbedarf, die Anfragedauer und die Fehlerrate.
• Erstellen Sie vor dem Upgrade eine Sicherung und testen Sie den Datenbank-Transfer.
• Vorbereiten Sie einen Rollback-Plan für Ausfälle und unzureichende Kapazitäten.

Unabhängige Installation von Linux

Neben Docker stellt der Hersteller auch eigenständige Linux-Exekutable bereit, die für die Nutzung mit CPU, CUDA und Vulkan konzipiert sind. Für die Verwendung von CUDA ist in der Regel CUDA 11 oder eine neuere Version erforderlich; bei Nicht-NVIDIA-GPUs kann die Vulkan-Version getestet werden.

1. Wählen Sie aus der offiziellen Release die Linux-Comprimierungsdatei, die zum Hardware-Setup passt.
2. Für die CPU-Umgebung wird eine CPU-basierte Konfiguration gewählt, für die NVIDIA-Umgebung eine mit CUDA kompatible Konfiguration.
3. Wenn weitere GPUs benötigt werden, prüfen Sie die Anforderungen an die Vulkan-Kompilierung und Treiber.
4. Entpacken Sie die Datei und geben Sie Tabby sowie den Modell-Dienstprogrammen Ausführungsrechte.
5. Legen Sie das Vervollständigungsmodell, das Chat-Modell, die Ports sowie die Dienste zur Aktivierung der Geräte fest.
6. Überprüfen Sie die Protokolle und accessieren Sie die Verwaltungsebene von der lokalen Maschine aus.
7. Nach Abschluss der Authentifizierung sowie der Konfiguration von Netzwerk und Persistenz wird die Nutzung für das Team freigegeben.

externe Modell-API

Tabby kann über eine mit OpenAI kompatible Schnittstelle mit einigen externen Chat-Modell-Diensten verbunden werden, doch die Code-Vervollständigung nutzt nicht unbedingt dieselbe Schnittstelle. So bietet beispielsweise die offizielle Dokumentation zu den Hugging Face Inference Providers keine kompatible API für FIM-Vervollständigungsmodelle, weshalb weiterhin lokale Modelle benötigt werden.

• Überprüfen Sie, welche der Schnittstellen vom Anbieter für Chats, Autocomplete oder Einbetten unterstützt werden.
• Gehen Sie nicht davon aus, dass OpenAI alle Tabby-Funktionen unterstützt, nur weil es kompatibel ist.
• Speichern Sie den API-Schlüssel in der sicheren Konfiguration des Servers.
• Überprüfen, ob der Code an Drittländer übermittelt wird.
• Legen Sie ein Budget, Geschwindigkeitsbeschränkungen und Fallback-Mechanismen fest.
• Überprüfen Sie die Richtlinien des Modellanbieters bezüglich der Datenspeicherung und -ausbildung.

Teammanagement und Unternehmensfunktionen

Tabby bietet drei Lizenztypen an: Community, Team und Enterprise. Sicherer Zugang, Answer Engine sowie ein Code-Viewer gehören zu den grundlegenden Funktionen. Funktionen wie Nutzungsrapporte, Telemetrie-Strategien, Authentifizierungsdomänen sowie Single Sign-On sind hingegen eher Bestandteile der kostenpflichtigen Pakete.

Pakete und Preise

Stand dem 20. August 2026 zeigt die offizielle Preisseite, dass Community kostenlos ist, Team 19 US-Dollar pro Benutzer und Monat kostet, während für Enterprise ein Verkaufskontakt aufzusuchen ist, um eine individuelle jährliche Abrechnung zu vereinbaren. Neben der Softwarelizenz müssen auch die Kosten für Modelle, GPU, Speicher, Netzwerk und Wartung berücksichtigt werden.

Kosten für Tabby Cloud und Pochi

Auf der offiziellen Preisseite wird die Abrechnung nach Verbrauch für Tabby Cloud separat aufgeführt. Es wird erklärt, dass Pochi nach den Kosten der verwendeten großen Modell-Token abgerechnet wird, wobei monatlich ein Betrag von 20 US-Dollar als Bonus gewährt wird. Die Cloud-basierte Tab Completion ist derzeit immer kostenlos, doch bei sehr hohem Verbrauch kann es notwendig sein, eine Kreditkarte anzubinden, um Missbrauch zu verhindern.

Pochi ist ein Agenten-Programmierprodukt von TabbyML und unterliegt nicht derselben Abrechnung wie die selbst gehosteten Tabby-Lizenzen. Bei der Auswahl sollte man die Rechnungen für die Cloud-Modelle, die Teamlizenzen sowie die lokale Infrastruktur getrennt prüfen.

Tatsächliche Kosten der Selbstverwaltung

Für welche Anwendungsszenarien geeignet

• Es wird gehofft, dass der Code nicht standardmäßig an öffentliche AI-Dienste gesendet wird.
• Unternehmen, die einen Programmier-Assistenten im Intranet oder in einer privaten Cloud bereitstellen müssen.
• Organisationen, die über eine GPU verfügen und die Kosten für das Modell sowie die Inferenz kontrollieren möchten.
• Teams, die eine Verbindung zwischen privaten Codebibliotheken und internen Entwicklungsdokumentationen benötigen.
• Es wird erwartet, dass ein Team entsteht, das die AI-Erlebnisse mehrerer Editor-Plattformen zentral verwaltet.
• Entwickler, die Modelle zur Code-Vervollständigung, zur Suche und zur Optimierung von Prompts erforschen.
• Kleine Teams von bis zu 5 Personen verwenden die kostenlose Community-Version.
• Plattformen, die eine OpenAPI-Anbindung an Cloud-IDEs oder interne Tools benötigen.

Fälle, in denen eine direkte Verwendung nicht geeignet ist

• Privatnutzer ohne Server, Modelle und Wartungskapazitäten.
• Es wird erwartet, dass die Top-Cloud-Modelle ohne Konfiguration nach dem Herunterladen des Plugins verwendet werden können.
• Teams, die sich die Kosten für GPU, Strom oder externe APIs nicht leisten können.
• Es wird verlangt, dass der Code ohne Überprüfung und Testen online gestellt werden kann.
• Es wird eine Unternehmens-SSO benötigt, aber es wird keine Enterprise-Lizenz erworben.
• Es wird verlangt, dass alle Unternehmenskatalogcodes als Projekte unter der Apache 2.0-Lizenz bereitgestellt werden.
• Ein Umfeld, das vollständig offline sein soll, aber dennoch auf externe Modelle und die Extraktion von Dokumenten angewiesen ist.

Vorteile des Produkts

• Die Kerndienste sind open source, die Deployment-Architektur und der Code sind überprüfbar.
• Unterstützung bei der Steuerung von Code- und Datendaten lokal, im Intranet und in privaten Clouds.
• Es ist keine Verpflichtung, externe Datenbanken oder Cloud-Dienste zu nutzen.
• Für die Ergänzung, das Chatten und die Einbettung von Modellen kann jeweils separat gewählt werden.
• Konsumenten-GPUs können ebenfalls mit kleinen Modellen eingesetzt werden.
• IDE, Modelldienste und Kontextsuche bilden eine vollständige Kette.
• Unterstützung für Code-Fragen, Inline-Chat und Code-Editor.
• Der Kontextanbieter kann das Team-Repository mit Dokumenten verbinden.
• OpenAPI erleichtert den Zugang zu bestehender Entwicklungsinfrastruktur.
• Das Community-Programm eignet sich für kleine Teams zur kostenlosen Testnutzung.

Einsatzbeschränkungen und Hinweise

• Selbstverwaltung bedeutet nicht Kostenlosigkeit – die Ausgaben für GPU und Wartung können hoch sein.
• Die Fähigkeit kleiner Modelle, komplexe Code zu verstehen, ist möglicherweise geringer als die von großen Cloud-Modellen.
• Die Verzögerung bei der Ergänzung wird durch das Modell, den Arbeitsspeicher, die Parallelisierung und das Netzwerk beeinflusst.
• Der Code-Index kann Schlüssel, persönliche Daten und Geschäftsgeheimnisse enthalten.
• Die externe Chat-API sendet den entsprechenden Code an Drittanbieter.
• Die Erstellung von Code kann Sicherheitslücken, fehlerhafte Abhängigkeiten und Lizenzrisiken mit sich bringen.
• Die Funktionen sowie das Update-Rhythmus der verschiedenen IDE-Plugins sind nicht immer identisch.
• Das Team kann bis zu 50 Benutzer umfassen; bei größerer Größe muss Enterprise geprüft werden.
• SSO gehört zur Kategorie Enterprise und nicht zu Community oder Team.
• Die Gewichte der Modelle haben jeweils ihre eigenen Lizenzen; man darf sich nicht nur auf die Tabby-Code-Lizenz beziehen.
• Der Unternehmenskatalog verwendet eine eigene Geschäftslicenz.
• Vor dem Upgrade muss die Kompatibilität der Konfiguration, der Indizes und der Datenbank überprüft werden.

Code-Sicherheit und -Governance

• Der generierte Code muss einer manuellen Überprüfung sowie automatisierten Tests unterzogen werden.
• Ausführung von Schwachstellen- und Lizenzscans für abhängige Pakete.
• Es ist verboten, Schlüssel und Produktions-Zertifikate in den Kontext der Anweisungen einzufügen.
• Setzen Sie minimale Berechtigungen für Administrator:innen, Lagermitarbeiter:innen und gewöhnliche Entwickler:innen fest.
• Protokollieren Sie das Modell, die Prompt-Version und die Quelle der Codeänderungen.
• Für Lager mit hohem Risiko werden nicht genehmigte externe Modellrouten deaktiviert.
• Einführung von Prozessen für falsche Empfehlungen, Datenlecks und Reaktionen auf Dienstunterbrechungen.
• Regelmäßige Prüfung der Telemetrie-Strategien, der Logdatei-Speicherung und der Benutzerkonten.

GitHub und Open-Source-Lizenzen

Das offizielle Tabby-Repository wird von TabbyML verwaltet. Derzeit wird hauptsächlich die Apache License 2.0 verwendet. In der Lizenz für das Repository ist ausdrücklich festgelegt, dass für die Unternehmensfunktionen die jeweiligen Lizenzbedingungen dieser Funktionen gelten, während Drittkomponenten weiterhin den ursprünglichen Lizenzbedingungen unterliegen.

Die Codes des Unternehmenskatalogs können zu Entwicklungs- und Testzwecken kopiert und geändert werden, doch für den produktiven Einsatz ist eine gültige Tabby Enterprise-Lizenz sowie die richtige Anzahl an Lizenzen erforderlich. Daher sollte Tabby als Produkt mit offener Kernstruktur beschrieben werden – nicht als Produkt, bei dem alle Funktionen unter derselben Open-Source-Lizenz liegen.

Grundlegende Informationen

Empfehlungswert

4,7 / 5. Tabby bietet eine vollständige, selbstverwaltete Lösung – von Modellservices über die Abrufung von Code bis hin zu IDE-Plugins – und eignet sich für Teams, die Wert auf Datenkontrolle und Konfigurierbarkeit legen. Allerdings müssen die Grenzen der Unternehmenslizenzen, die Hardwarekosten sowie die anfallenden Wartungskosten sorgfältig abgewogen werden.

Häufige Fragen

Kann Tabby kostenlos verwendet werden?

Ja. Das Community-Programm bietet bis zu 5 Benutzern kostenlose Nutzung, doch die Kosten für Server, GPU, Speicher und Wartung müssen weiterhin selbst getragen werden.

Was ist der Unterschied zwischen Tabby und GitHub Copilot?

Tabby betont den offenen Kern, die Selbstverwaltung sowie die Konfigurierbarkeit der Modelle, während Copilot hauptsächlich ein cloudbasiertes Serviceangebot ist. Beide unterscheiden sich in Bezug auf die Qualität der Modelle, das Verwaltungserlebnis und die Kostenstruktur.

Ist ein GPU unbedingt notwendig?

Nicht unbedingt – kleine Modelle können auf CPU oder Apple Silicon laufen, doch eine Echtzeit-Verarbeitung setzt in der Regel eine GPU mit geringer Latenz voraus. Vor der gleichzeitigen Nutzung durch das Team sollten Belastungstests durchgeführt werden.

Kann man externe große Modelle anschließen?

Es ist möglich, einige mit OpenAI kompatible Chat-Schnittstellen anzuschließen, doch die Kompatibilität bei der Erweiterung und Einbettung dieser Schnittstellen variiert. Man darf nicht davon ausgehen, dass eine API alle Modellelemente gleichzeitig unterstützt.

Wie viel kostet das Team-Paket?

Stand zum Prüfungsdatum 19 US-Dollar pro Benutzer und Monat, maximal 50 Benutzer. Preise und Leistungen können sich ändern; es gelten die Angaben auf der offiziellen Abonnementsseite.

Unterstützt Tabby SSO?

Unterstützt, aber auf der offiziellen Preisseite wird die Mehrfachanmeldefunktion als Enterprise-Funktion aufgeführt. Community und Team beinhalten diese Funktion nicht.

Bietet Tabby eine API an?

Verfügbar. Die offiziellen Dokumente enthalten OpenAPI-Referenzen, die für IDEs, Cloud-Entwicklungsumgebungen und die Integration in interne Plattformen genutzt werden können.

Ist Tabby vollständig open source?

Nicht alle Verzeichnisse verwenden denselben Open-Source-Lizenztyp. Der Kerncode basiert hauptsächlich auf Apache 2.0, während für Unternehmensverzeichnisse die Tabby Enterprise License verwendet wird.