Blueprints | Mozilla.ai
Kostenloser Mehrwert
KI-Agenten AI Agent

Blueprints | Mozilla.ai

Blueprints | Mozilla.ai – ein intelligentes Tool, das sich auf KI-Agenten konzentriert.

Tags:

Was ist Mozilla.ai Blueprints?

Mozilla.ai Blueprints ist eine von Mozilla.ai verwaltete Sammlung von Open-Source-AI-Werkflüssen, die Entwicklern dabei hilft, Modelle, Open-Source-Bibliotheken, Konfigurationen, die Kommandozeile sowie Demo-Oberflächen zu kombinieren, um lauffähige Projekte zu erstellen. Sie richtet sich an Entwickler, die gerade mit AI-Anwendungen in Berührung kommen, sowie an Entwicklerteams, die bestimmte technische Entscheidungen untersuchen möchten.

Blueprints ist weder eine einheitliche Chat-App noch eine Plattform zur Verwaltung von Modellen oder eine kommerzielle API. Die Website dient hauptsächlich dazu, Informationen zu finden und zu vermitteln; jeder Workflow wird in einem eigenen GitHub-Repo gehostet. Die Benutzer müssen die Anwendungen entsprechend den Anweisungen im lokalen Umfeld, in Containern, Codespaces, Colab oder in Demonstrationsumgebungen ausführen.

Das Kernkonzept von Blueprint

  • Kann direkt verwendet werden: Es wird ein vollständiger Ablauf von der Installation und Konfiguration bis zu den Ergebnissen der Ausführung bereitgestellt, anstatt nur Konzeptcode zu liefern.
  • Erweiterbar: Entwickler können Modelle, Anweisungen, Datensätze, die Benutzeroberfläche sowie Verarbeitungskomponenten ersetzen.
  • Vorlagenbasiertes Vorgehen: Projekte sollten möglichst einheitliche Verzeichnisse, Konfigurationen, Befehlszeilenaufrufe, Dokumentationen und Testverfahren verwenden.
  • Gemeinschaftsgetrieben: Nutzer können Forken, Fragen einreichen, Beiträge zur Fehlerbehebung leisten oder neue Workflows anbieten.
  • Offene Quellen haben Vorrang: Es werden vorrangig transparente, überprüfbare Modelle und Tools verwendet, um die Abhängigkeit von geschlossenen Diensten zu verringern.
  • Praxisorientiert: Jeder Blueprint konzentriert sich auf spezifische Aufgaben wie Dokumente, Sprache, visuelle Elemente, Empfehlungen oder Feinabstimmungen.

Was bietet Blueprints Hub?

BestandteileHauptinhaltNutzerwertHinweise
Blueprint-VerzeichnisWorkflows nach Anwendungsfällen, Datentypen, Modellen, Werkzeugen und Tags durchsuchenSchnell verfügbare Referenzprojekte findenDer Katalog ist kein einheitlich verwaltetes Produkt.
Seite mit Details zur Workflow-StrukturZeit, Komplexität, Zustand, Lizenzen, Werkzeuge, Systemanforderungen und technische AbwägungenBevor man herunterlädt, die Kosten und Schwierigkeiten bewerten.Die Informationen sollten mit der aktuellen README des Lagers abgeglichen werden.
GitHub-RepositoryCode, Konfiguration, Tests, Dokumentation, Probleme und BeitragshistorieDownloadbar, audierbar, anpassbar und eigenständig einsetzbarJegliche Lagerlizenz kann unterschiedlich sein.
Hosted DemoEinige Projekte bieten eine Online-Experience.Es ist nicht notwendig, eine vollständige Installation durchzuführen, um die Wirkung zu beobachten.Ressourcen sind begrenzt und gleichbedeutend mit nicht-produktiven Dienstleistungen.
Verzeichnis von Tools und ModellenEinführung in Open-Source-Modelle, Bibliotheken und Ausführungskomponenten für WorkflowsVerständnis von Abhängigkeiten und ErsatzoptionenDie Genehmigung für die Modellgewichte muss separat überprüft werden.
Ressourcen- und TechnologieauswahlAnwendungsfälle, Forschungskontext, Vergleich von Lösungsansätzen und AbwägungenVerstehen, warum eine bestimmte Architektur gewählt wirdDer Hersteller empfiehlt, seine eigenen Referenztests nicht zu ersetzen.
Blueprint TemplateEinheitliches Startvorlage für Python-ProjekteVerringerung der strukturellen Planungsarbeiten für neue ProjekteEs ist notwendig, die Geschäftscode- und Dokumente selbst anzufügen.

Repräsentative Open-Source-Werkflows

BlueprintHaupteingabeHauptausgabeSchlüsseltechnologiefelder
Document to PodcastDokument oder TextPodcast-Audio im Dialogformat für zwei PersonenTextreinigung, Erstellung lokaler LLM-Skripte und Text-zu-Stimme-Übersetzung
Structured Document Q&ADokumente in PDF, HTML, TXT, DOCX oder Markdown usw.Frage-Antwort basierend auf InformationenDokumentanalyse, Segmentierung, Auswahl relevanter Kapitel und lokale Erstellung
Speech to TextMP3, MP4, M4A, WAV, WebM usw. als AudiodateienText, JSON-Timestamp oder SRT-UntertitelSprachmodelle, Whisper-kompatible Modelle und lokale API
Speech to Text FinetuneEigene Sprachdaten oder Common Voice-DatenSpracherkennungsmodelle für bestimmte Bereiche oder SprachenErstellung von Datensätzen, Whisper-Tuning und Modellvergleich
Federated FinetuningLokale Daten mehrerer DatenbesitzerModell nach kooperativer FeinabstimmungFlower-Federated Learning und der Trainingsprozess ohne Austausch der ursprünglichen Daten
BYOTAInhalt der Mastodon-ZeitlinieLokale Suche, Gruppierung und EmpfehlungsergebnisseLokale Einbettung, erklärbare Sortierung und persönliche Kontrolle
WASM AgentsAufgaben und Tools im BrowserPython-Proxy, der auf der Webseite läuftPyodide und WebAssembly
OpenStreetMap CV WorkflowKarten und visuelle DatenPotenzielle KartenelementeZielerkennung, Segmentierung und Zusammenarbeit bei offenen Karten

Hauptfunktionen

End-to-End-Referenzimplementierung

Jeder Blueprint verbindet mehrere Open-Source-Komponenten zu einem vollständigen Ablauf – in der Regel umfasst er die Verarbeitung von Eingaben, die Auswertung des Modells, die Umwandlung der Ausgaben sowie eine Benutzeroberfläche. Im Vergleich zu Tutorials, die nur einige Zeilen Beispielcode enthalten, eignet sich ein Blueprint besser dazu, zu verstehen, wie die Komponenten zusammenarbeiten.

Lokale KI und Dateneinschränkungen

Mehrere Workflows geben der Priorität, dass Modelle und Daten auf dem eigenen Gerät des Benutzers ausgeführt werden – beispielsweise Dokumenten-Podcasts, Dokumenten-Fragen-und-Antwort-Systeme sowie Algorithmen für persönliche Zeitlinien. Ob eine vollständig offline-Arbeit möglich ist, hängt vom jeweiligen Repository, der Herunterladung der Modelle, der Telemetrie, den externen Datenquellen sowie davon ab, ob der Benutzer Cloud-Dienste aktiviert hat.

Modelle und Tools sind austauschbar.

Blueprints betont die Anpassbarkeit – Entwickler können Konfigurationen oder Code ändern, um Sprachmodelle, Sprachmodell-Modelle, Prompts, Embedding-Methoden und Benutzeroberflächen zu ersetzen. Nach dem Ersetzen müssen Schnittstellen, Lizenzen, Hardware, Leistung, Ausgabequalität und Sicherheitsgrenzen erneut überprüft werden.

Anzeigefenster und Befehlszeile

Die offiziellen Anforderungen sehen vor, dass Blueprint Demonstrationen in Form von Streamlit, Gradio oder Jupyter Notebook bereitstellt sowie eine Unterstützung per Kommandozeile bietet. Die verschiedenen Eingangspunkte dienen dem Erlebnis, der Entwicklung und der Automatisierung – doch nicht alle Repositorien bieten dieselben Befehle.

Konfiguration und Projektstruktur

Workflows geben in der Regel Modelle, Daten, Anweisungen sowie Ausführungsparameter über Konfigurationsdateien preis und nutzen pyproject.toml zur Verwaltung der Abhängigkeiten eines Python-Projekts. Eine einheitliche Struktur verringert die Lesekomplexität, doch Entwickler sollten für Produktivprojekte trotzdem Versionen festlegen und eine Liste der Abhängigkeiten erstellen.

Tests, Codequalität und Dokumentation

Das Blueprint-Template enthält Unit-Tests, Prüfungen vor dem Veröffentlichungsvorgang, automatisierte Workflows sowie eine MkDocs-Dokumentationsstruktur. Das Template kann lediglich einen Ausgangspunkt für die Qualitätssicherung bieten; Abdeckungsgrad, Integrationstests, Sicherheitsscans sowie Produktüberwachung müssen weiterhin vom Projektbetreuer ergänzt werden.

Technische Entscheidungen und Abwägungen

Auf einigen Detailseiten wird erklärt, warum für das ausgewählte Modell, die Bibliotheken und die Architektur entschieden wurde, sowie welche Optionen verworfen wurden und welche bekannten Kompromisse es gibt. Auf dieser Grundlage können Entwickler beurteilen, ob lokale Privatsphäre, Geschwindigkeit, Qualität und Hardwarekosten ihren Anforderungen entsprechen.

Blueprint-Template-Struktur

Datei oder VerzeichnisVerwendungNotwendiger GradEmpfehlungen zur Verwendung
READMEErklärung des Ziels, schneller Start, Prinzipien, Voraussetzungen und FehlerbehebungMussHinzufügen von Architekturdiagrammen, echten Beispielen und bekannten Einschränkungen
pyproject.tomlKonfiguration von Projekten, Abhängigkeiten, Befehlen und ToolsMussDen Kompatibilitätsbereich festlegen und unbeschränkte Abhängigkeiten vermeiden
src-VerzeichnisPlatzierung wiederverwendbaren Kern-Python-CodesMussBusinesslogik von der Benutzeroberfläche trennen
Demo-VerzeichnisPräsentationsanwendungen wie Streamlit oder GradioDemonstration oder Notebook – mindestens eine davon.Lassen Sie die Entwicklungs-Demo nicht direkt im öffentlichen Netzwerk zugänglich sein.
KonfigurationsdateiZentrale Einstellung von Modellen, Pfaden, Hinweisen und LaufparameternMussSchlüsselverwaltung über Umgebungsvariablen oder Sicherheitsverwaltungsdienste
CLIWorkflow über die Terminal ausführenMussAngebote für wiederholbare Parameter und klare Abbruchcodes
tests-VerzeichnisEinheiten- und anschließende IntegrationstestsVorlagen zur Verfügung stellenHinzufügen von repräsentativen Daten und Fehlszenarien
docs und mkdocs.ymlProjektdokumentationsseiteEmpfehlungenSynchronisierte Wartung von Installation, Architektur, Erweiterung und Sicherheitsanleitungen
DockerfileContainerisierte Demonstration und BereitstellungEmpfehlungenFestes Basis-Image erstellen und Schwachstellen scannen
Colab NotebookSchnelle Experimente in der CloudEmpfehlungenEs wird klar sein, dass die Daten in eine Umgebung Dritter gelangen.

Ausführen der vorhandenen Blueprint-Tutorials

  1. Wählen Sie im Hub Workflows nach Aufgabe, Eingabetyp, Komplexität, Status und Hardwarevoraussetzungen aus.
  2. Öffnen Sie das entsprechende Lager und lesen Sie den README, die Lizenz, die Modellkarte sowie die bekannten Probleme vollständig durch.
  3. Überprüfen Sie die Anforderungen an das Betriebssystem, die Python-Version, den Arbeitsspeicher, die Festplatte, die GPU, Docker sowie externe Konten.
  4. Forken oder das Repository herunterladen, um Abhängigkeiten in einer isolierten virtuellen Umgebung, einem Container oder einem Codespace zu installieren.
  5. Nutzen Sie ein unempfindliches Mindestmuster für den offiziellen Schnellstart und führen Sie nicht von Anfang an Produktionsdaten ein.
  6. Überprüfen Sie die Ausgabe, die Protokolle, den Cache, den Download der Modelle sowie die Speicherorte der lokalen Dateien.
  7. Ändern Sie die Einstellungen und testen Sie nacheinander das Modell, die Anzeigen, die Sprache, die Leistung sowie den Ressourcenverbrauch.
  8. Nach dem Test im Lager wird entschieden, ob der Code in die eigene Anwendung integriert werden soll.

Projekte mit einem Template erstellen

  1. Erstellen Sie einen neuen Repository aus dem offiziellen Blueprint-Template und definieren Sie einen klaren, eindeutigen Anwendungsfall.
  2. Ändern Sie die Namen der Beispielpakete, der Projektüberschriften sowie des Platzhaltekontents und geben Sie die tatsächliche Python-Version sowie die Hardwareanforderungen an.
  3. Implementieren Sie den Kernworkflow im src-Verzeichnis und trennen Sie die Logik für Modellaufrufe, Datenverarbeitung und Ausgabe klar voneinander.
  4. Durch die Exponierung von Modellen, Pfaden und einstellbaren Parametern über Konfigurationsdateien wird verhindert, dass Anmeldeinformationen in den Code geschrieben werden.
  5. Bieten Sie eine ausführbare CLI an und fügen Sie Streamlit-, Gradio-Präsentationen oder Notebooks hinzu.
  6. Schreiben Sie Tests für normale, abweichende, Grenz- und Offline-Szenarien sowie führen Sie Prüfungen vor dem Commit durch.
  7. Verbessern Sie die README, die Architekturdiagramme, die Installation, die Beispiele, die Lizenzbedingungen sowie die Beschreibungen zu Risiken und Fehlerbehebung.
  8. Nach der Wiederholten Installation in mehreren sauberen Umgebungen soll es anschließend der Blueprints-Community zur Überprüfung vorgelegt werden.

Workflow für Dokumenten-Podcasts

  1. Wählen Sie ein Eingabedokument ohne sensible Informationen und mit klaren Rechten aus, um zunächst den extrahierbaren Text zu überprüfen.
  2. Installieren Sie gemäß den Anweisungen des Lagerhauses die lokalen Modelle, die Text-zu-Stimme-Komponenten sowie die für die Demonstration erforderlichen Komponenten.
  3. Lassen Sie die Vorbereitungs Schritte den Text extrahieren und bereinigen, um zu überprüfen, ob Überschriften, Anmerkungen und Tabellen verloren gegangen sind.
  4. Kleine lokale Sprachmodelle wandeln den Inhalt in ein Doppelgesprächsskript um.
  5. Man prüft manuell, ob im Skript Fakten falsch wiedergegeben werden, Fehler bei der Zuordnung gemacht werden oder wichtige Einschränkungen weggelassen werden.
  6. Verwenden Sie Modelle zur Text-zu-Stimme-Umwandlung, um Audiodateien verschiedener Sprecher zu erzeugen und die Aussprache zu überprüfen.
  7. Speichern Sie Skripte, Konfigurationen, Modellversionen und Audio, damit die Ergebnisse wiederholt erzeugt werden können.

Lokaler Dokumenten-Frage-Antwort-Workflow

  1. Bestimmen Sie die unterstützten PDF-, Web-, Text-, Word- oder Markdown-Dateien und löschen Sie sensible Kopien.
  2. Analysieren Sie das Dokument und teilen Sie es nach Überschriften oder Struktur auf; prüfen Sie, ob für das Scannen des PDFs OCR erforderlich ist.
  3. Für jeden Abschnitt werden der Dokumentennamen, die Kapitel, die Seitenzahl sowie weitere nachvollziehbare Metadaten gespeichert.
  4. Nach Eingabe der Frage lässt der Prozess das am besten passende Kapitel auswählen oder eine Suche durchführen.
  5. Beschränken Sie das Modell darauf, nur auf den ausgewählten Inhalt zu antworten, und behalten Sie die Quellenposition im Interface bei.
  6. Fragen mit bekannten Antworten dienen zur Überprüfung der Genauigkeit, bei Ausweichantworten, in Dokumentübergreifenden und langen Texten.
  7. Zur Nutzung muss Zugriffskontrolle, Auditing, Verschlüsselung sowie Aktualisierungsmechanismen hinzugefügt werden.

Prozess der Spracherkennung und Feinabstimmung

  1. Wählen Sie die grundlegende Transkription oder das Blueprint für Modell-Anpassung aus und überprüfen Sie die Bedingungen bezüglich CPU, GPU und Festplatte.
  2. Vorbereiten Sie audiovisuelle Materialien mit rechtlicher Genehmigung, genaue Transkripte, Sprachlabels sowie Trainings- und Validierungsdatensätze.
  3. Erstelle zunächst mit dem vorhandenen Modell eine Baseline für die Fehlerrate, die Geschwindigkeit und den Ressourcenverbrauch.
  4. Reinigen Sie Audio- und Textdaten, um zu vermeiden, dass persönliche sensible Informationen sowie fehlerhafte Beschriftungen in das Training gelangen.
  5. In der Konfiguration werden das Modell, der Datenpfad, die Anzahl der Durchläufe sowie der Speicherort festgelegt.
  6. Führen Sie das Training oder die lokale Transkription aus und vergleichen Sie die Ergebnisse auf einem noch nicht gesehenen Testdatensatz.
  7. Erst nach der Erfassung von Modellen, Datensätzen, Lizenzen, Metriken und Einschränkungen sollten die Gewichte veröffentlicht werden.

Für welche Benutzer geeignet

  • Einstieg für Entwickler in KI: Lernen Sie anhand vollständiger Projekte, wie Modelle, Daten, Benutzeroberflächen und Konfigurationen miteinander verbunden werden.
  • Anwendungsentwickler: Beginnen Sie mit ausführbarem Code, um Modelle zu ersetzen und neue Produktideen zu überprüfen.
  • Forscher: Vergleich der praktischen Vorteile und Nachteile lokaler Modelle, federativen Lernens sowie sprachlicher und visueller Ansätze.
  • Lehrkräfte und Schüler: Nutzen Sie Blueprint als Grundlage für Open-Source-Kurse, Experimente oder Projektarbeiten im Bereich KI.
  • Team für Datenschutzfragen: Erforschung von Methoden zur lokalen Verarbeitung von Dokumenten, Sprachdaten und Empfehlungsdaten.
  • Open-Source-Pfleger: Beiträge zur Fehlerbehebung, Dokumentation, Anpassung neuer Modelle oder vollständige neue Blueprints.
  • Prototypenteam: Schnell die Machbarkeit des Workflows überprüfen, bevor eine Umgestaltung für die Produktionsumgebung entschieden wird.

Typische Anwendungsszenarien

  • Forschungsmaterialien, Sitzungsprotokolle oder Lernnotizen in lokale Podcasts umwandeln.
  • Erstellung eines persönlichen Dokumenten-Frage-Antwort-Hilfsprogramms, das keine Daten an Drittanbieter-APIs sendet.
  • Die Aufnahme in Text umwandeln, mit Zeitstempeln als JSON oder SRT-Untertitel.
  • Anpassung des Whisper-Klasse-Spracherkennungsmodells mit eigenen Sprachdaten.
  • Ermöglichen Sie es mehreren Datenbesitzern, federated Fine-Tuning ohne Zentralisierung der Rohdaten durchzuführen.
  • Experimente mit einem Python-Proxy über WebAssembly im Browser ausführen.
  • Untersuchung von von Nutzern gesteuerten, lokal berechneten Empfehlungen für soziale Zeitlinien.
  • Veröffentlichen Sie mit einem einheitlichen Template neue Open-Source-AI-Werkflows in der Community.

Vorteile des Produkts

  • Von einem einzelnen Modellbeispiel zur vollständigen Prozesskette aus Eingabe, Verarbeitung, Schlussfolgerung, Benutzeroberfläche und Ausgabe.
  • Der Projektcode ist öffentlich, was die Auswahl von Auditing-Techniken, Abhängigkeiten sowie die tatsächliche Umsetzung erleichtert.
  • Einheitliche Vorlagen verringern die Unterschiede in Verzeichnissen und Dokumenten zwischen verschiedenen Workflows.
  • Mehrere Anwendungsfälle werden vorzugsweise lokal ausgeführt, was die Datenkontrolle und Offline-Experimente erleichtert.
  • Es werden verschiedene Möglichkeiten bereitgestellt, darunter Hosted Demo, Codespaces, Colab, Docker oder lokale Ausführung.
  • Es umfasst verschiedene Bereiche wie Text, Sprache, visuelle Inhalte, Empfehlungen, Agenten und federatives Lernen.
  • Es wird die Ersetzung von Modellen, Konfigurationen und Komponenten gefördert, um Entwickler nicht an einen einzigen Anbieter zu binden.
  • Das Template folgt der Apache-2.0-Lizenz und enthält die Infrastruktur für Tests, Dokumentation sowie Richtlinien für Beiträge.

Einsatzbeschränkungen und Hinweise

  • Ein Blueprint ist in der Regel eine Referenzimplementierung oder ein Prototyp und entspricht nicht einem produktionsreifen Produkt mit SLAs, Sicherheitsaudits und Wartung.
  • Die Anforderungen an Python, Speicher, Festplatte, GPU und System variieren stark je nach Projekt.
  • Einige Hosted-Demo-Ressourcen sind begrenzt; Geschwindigkeit, Modellgröße und Verfügbarkeit spiegeln nicht die Ergebnisse im lokalen Umfeld wider.
  • Für den lokalen Betrieb kann es dennoch notwendig sein, über das Internet Modelle, Datensätze, Container sowie Python-Abhängigkeiten herunterzuladen.
  • Die Website gibt an, dass Open-Source-Tools Vorrang haben, erlaubt es aber auch, Modelle oder Tools in Betracht zu ziehen, die nicht vollständig den OSI-Standards entsprechen, sofern sie einen deutlichen Nutzen bieten.
  • Die Rechte bezüglich der Code-Lizenz, der Modellgewichte, der Datensätze, der Schriftarten, der Klänge sowie des Ausgabeinhalts müssen separat überprüft werden.
  • LLM-, Sprach- und Visualisierungsmodelle erzeugen Fehler, Vorurteile, Halluzinationen und unvorhersehbare Ausgaben.
  • Nach dem Fork muss man selbst für Updates der Abhängigkeiten, Sicherheitspatches, Modelle sowie Kompatibilität sorgen.
  • CPU-Kompatibilität ist nur eine Empfehlung – nicht jeder Blueprint kann auf einem normalen Computer schnell ausgeführt werden.
  • Die direkte Freigabe der Präsentieroberfläche im öffentlichen Internet kann ohne Authentifizierung, Bandbreitenbeschränkung, Isolierung und Sicherheitsheader auskommen.

Kosten und Betriebskosten

Für den Mozilla.ai Blueprints Hub, den offenen Code sowie die Blueprint-Vorlagen gibt es keine kostenpflichtigen Abonnements. Die Nutzer können den Code unter Berücksichtigung der jeweiligen Open-Source-Lizenzen erhalten. Dass der Code kostenlos zur Verfügung steht, bedeutet jedoch nicht, dass die Betriebskosten null sind. Für den Download der Modelle, die Nutzung von GPUs, Cloud-Rechnern, Speicherplatz, Bandbreite sowie Wartung können weiterhin Kosten anfallen.

KostenpostenIst Hub gebührenpflichtig?Mögliche tatsächliche KostenSteuerungsmethoden
Surfen und LesenKostenlosNetzwerkverkehr und ZeitZuerst nach Komplexität und Hardware filtern
Code herunterladenKostenlosGit-Hosting und lokale SpeicherungNur die benötigten Lager und Versionen herunterladen.
Lokaler CPU-BetriebKeine PlattformgebührenStrom, Speicher, Festplatte und WartezeitVerwenden Sie kleine Modelle und quantifizierte Versionen.
Lokaler GPU-AusführungKeine PlattformgebührenWartung von Hardware, Stromversorgung und AntriebenErst einmal werden mit kleinen Datenmengen Kapazitätsprüfungen durchgeführt.
Codespaces oder Cloud-GPUBlueprint ist kostenlosKosten für GitHub oder Cloud-DienstleisterBudget, Zeitüberschreitung und automatische Schließung einstellen
ColabEinige Szenen können kostenlos ausprobiert werden.Bezahlte Recheneinheiten oder RessourcenbeschränkungenVerlassen Sie sich nicht auf kostenlose Ressourcen, um Produktionsaufgaben zu erledigen.
Modelle und DatenViele sind kostenlos verfügbarSpezielle Lizenzen, Kosten für Herunterladen und SpeichernÜberprüfung der Modellkarten und Datensätze einzeln
ProduktionswartungNicht von Hub bereitgestelltEntwicklung, Sicherheit, Überwachung, Backup und SupportDen Prototyp in einen kontrollierten Dienst umstrukturieren

Plattform und Funktionsweise

MethodeUnterstützungszustandPassende SzenarienHinweise
WindowsTemplate-UnterstützungLokale Entwicklung und DemonstrationKonkrete Abhängigkeiten können zusätzliche Tools erfordern.
macOSTemplate-UnterstützungLokale Entwicklung und Experimente mit Apple SiliconDie Kompatibilität des Modell-Backends muss projektweise überprüft werden.
LinuxTemplate-UnterstützungEntwicklung, Container und ServerbetriebOft ist es die am vollständigsten ausgestattete Umgebung für Open-Source-AI.
PythonDas Template erfordert 3.10 oder höher.Die Hauptsprache der meisten WorkflowsKonkrete Lager könnten Anforderungen an die Version erhöhen.
DockerEinige Projekte bieten anIsolierung von Abhängigkeiten und WiederholungsversucheDie Spiegelung muss weiterhin festgelegt werden sowie Sicherheitslücken gesucht werden.
GitHub CodespacesTeilweise ProjektunterstützungEntwicklungsumgebung ohne lokale InstallationEs können Kosten anfallen, wenn es verwendet wird.
Google ColabTeilweise ProjektunterstützungGPU-Experimente und UnterrichtDie Daten werden in eine Cloud-Umgebung Dritter übertragen.
Hosted DemoEinige Projekte bieten anSchnelle ErfahrungRessourcen, Privatsphäre und Stabilität sind begrenzt.
WebAssemblySpezielle Blueprint-UnterstützungProxy im Browser oder Python-ExperimenteDie Kompatibilität der Browser-Ressourcen und -Pakete ist begrenzt.
PyPIZu den empfohlenen OptionenInstallation wiederverwendbarer PaketeNicht jeder Blueprint wurde veröffentlicht.

Daten, Privatsphäre und Sicherheit

Blueprints legt Wert auf lokale Priorität und Kontrollierbarkeit, doch die Grenzen der Privatsphäre werden durch die jeweiligen Arbeitsabläufe, Konfigurationen und Bereitstellungsweisen bestimmt. Sobald Hosted Demo, Colab, externe Modellbibliotheken, Cloud-Speicher oder Drittanbieter-APIs aktiviert werden, können Daten das lokale Gerät verlassen.

Offener Quellcode kann überprüft werden, was aber nicht automatisch bedeutet, dass es keine Schwachstellen, bösartige Abhängigkeiten oder unsichere Standardwerte gibt. Vor der Bereitstellung sollten Quellcode, Abhängigkeitsbäume, Modelldateien, Container, Netzwerkanfragen, Telemetriedaten, Cache sowie Ausgabeverzeichnisse überprüft werden.

  • Zunächst werden fiktive oder maskierte Beispiele verwendet, um zu überprüfen, welche Daten der Workflow lesen, schreiben und senden wird.
  • Der Download von Modellen und Datensätzen sollte den Kanal, die Version, die Prüfsumme sowie die Lizenz dokumentieren.
  • Schlüssel, Token und Datenbankpasswörter dürfen nicht in Repositorien, Notebooks oder Konfigurationsbeispiele geschrieben werden.
  • Für die Bereitstellung der Demonstrationsoberfläche im öffentlichen Netzwerk sind Authentifizierung, Limitierung des Datenverkehrs, Eingabenüberprüfung sowie Trennung der Dateien erforderlich.
  • Legen Sie Grenzen für Größe, Format, Pfad und Verarbeitung bei hochgeladenen Dateien fest, um bösartige Dokumente zu verhindern.
  • Bei der Erstellung von Audiodaten, Texten und visuellen Ergebnissen sollten die Modelle, Einstellungen sowie Protokolle der manuellen Überprüfung aufbewahrt werden.
  • Federated Learning verringert den Datentransfer im ursprünglichen Datensatz, doch Gradienten, Aktualisierungen und Modelle können immer noch Informationen preisgeben.
  • Nach dem Forken des Projekts sollten Prozesse für die Aktualisierung von Abhängigkeiten, statische Überprüfungen, das Scannen von Geheimnissen sowie die Behebung von Sicherheitslücken aktiviert werden.

APIs, SDKs und Open Source

Der Blueprints Hub verfügt selbst nicht über eine einheitliche Reasoning-API oder ein offizielles SDK. Jeder Workflow wird mit eigenen Python-Paketen, CLI-Tools, Demo-Anwendungen oder lokalen, kompatiblen Schnittstellen ausgeführt. Beispielsweise kann der Blueprint für die Spracherkennung einen lokalen, mit OpenAI kompatiblen Speech-Dienst starten – doch das bedeutet nicht, dass der Hub eine gehostete API bereitstellt.

Das Blueprint-Template ist im offiziellen GitHub-Repositorium von Mozilla.ai verfügbar, wird unter der Apache-2.0-Lizenz bereitgestellt und enthält Python-Projekte, Demonstrationen, Dokumentationen, Tests sowie Dateien für Beiträge. Die offiziellen Blueprints sind in der Regel auch mit offenem Quellcode verfügbar, wobei die Lizenzbedingungen für jedes Repository, jedes Modell, jedes Datensatz sowie die abhängigen Komponenten separat geprüft werden müssen.

Grenzen der Open-Source-Lizenz

ObjektOffen source oder offener ZustandHäufige LizenzenRichtige Verständnis
Inhalt von Blueprints HubÖffentliche AnsichtDie Bedingungen für den Inhalt der Website müssen separat überprüft werden.Öffentlich zugänglich zu sein bedeutet nicht, dass der gesamte Inhalt beliebig kopiert werden kann.
Blueprint-Template-CodeOpen SourceApache-2.0Es kann gemäß der Lizenz verwendet, modifiziert und verteilt werden.
Jeder Blueprint-CodeOffiziell wird angegeben, dass es sich um Open Source handelt.Häufig Apache-2.0, kann aber auch anders seinGemäß der Zulassung des entsprechenden Lagers.
Drittanbieter-Python-AbhängigkeitenJeder entscheidet für sich.MIT, Apache, BSD, GPL usw. können nebeneinander existieren.Überprüfen Sie bei der Verteilung die Lizenzkompatibilität.
ModellgewichteVielleicht offene Gewichte oder Open-Source-KIEs können Lizenzbedingungen für das Modell selbst bestehen.Dass der Code offen ist, bedeutet nicht, dass das Modell unbegrenzt für kommerzielle Zwecke genutzt werden kann.
TrainingsdatensatzMöglicherweise geöffnetDie Bedingungen für Datensätze, die Einwilligungen sowie die Anforderungen bezüglich der Privatsphäre variieren.Es ist notwendig, die Berechtigungen für das Neutraining und die Neuveröffentlichung zu überprüfen.
Ergebnis erzeugenWird gemeinsam durch das Modell, die Eingaben und den Zweck bestimmt.Es gibt keine einheitliche Genehmigungsentscheidung.Prüfung der Rechte an Modellen und Materialien vor der kommerziellen Nutzung

Produktionskontrollliste

  • Klären, ob Blueprint nur ein Prototyp, ein internes Werkzeug oder ein formeller Dienstleistung für Kunden ist.
  • Festlegen von Code-Commitments, Abhängigkeiten, Modellen, Daten und Container-Versionen sowie Beibehaltung einer nachvollziehbaren Liste.
  • Echte Referenzwerte für Qualität, Verzögerung, Speicher, Durchsatz, Fehlerrate und Kosten festlegen.
  • Zusätzliche Zertifizierung, Autorisierung, Tenant-Isolation, Auditing, Verschlüsselung und Löschung sensibler Daten.
  • Entwickeln Sie klare Strategien für Modellfehler, Inhaltssicherheit, Urheberrechte und manuelle Aktualisierungen.
  • Ersetzen des Präsentationsservers, Hinzufügen von Warteschlangen, Limitierung der Nutzung, Überwachung, Backup und Katastrophenwiederherstellung.
  • Überprüfen Sie jede Lizenz, Signatur, Offenlegung des Quellcodes sowie die kommerziellen Bedingungen für das Modell.
  • Einführung von Prozessen für Updates, Sicherheitsmitteilungen, Fehlerbehebung und Rollback.
  • Lassen Sie die Zielnutzer Tests zur Nutzbarkeit und Barrierefreiheit durchführen, anstatt nur die technische Funktionsfähigkeit zu überprüfen.

Grundlegende Informationen

FelderInhalt
Name des ToolsMozilla.ai Blueprints
Entwicklung und WartungMozilla.ai und die Open-Source-Community
Arten von WerkzeugenOffenes AI-Workflow-Zentrum, Entwicklungsvorlagen und Lernressourcen
HauptnutzerEntwickler, Lerner, Forscher und AI-Experimentatoren
HauptbereicheText, Sprache, Visuelles, Agenten, Empfehlungen und federatives Lernen
PreismusterHub und Code sind kostenlos; Betriebs- und Wartungskosten sind selbst zu tragen.
AnmeldeanforderungenDas Durchblättern erfordert keine Anmeldung; Fork, Beiträge sowie einige Hosting-Dienste können ein Konto bei Drittanbietern erfordern.
HauptplattformenWindows, macOS, Linux sowie einige Cloud- oder Browserumgebungen
Basische Python-VersionTemplate listet Python 3.10 oder neuer auf
Einheitliche APIKein
Einheitliches SDKNein; die einzelnen Projekte bieten Python-Pakete, eine CLI oder lokale Schnittstellen.
Offizieller GitHubJa
Template-LizenzApache-2.0
Ob Open SourceJa; Die spezifischen Lager und Abhängigkeiten müssen einzeln überprüft werden.

Empfehlungswert

Der Gesamtbewertungswert beträgt 4,6 von 5 Punkten. Mozilla.ai Blueprints eignet sich für Entwickler, die verstehen möchten, wie lokale KI-, Sprach-, Dokumenten- und Federlern-Prozesse mit vollständigem, anpassbaren Code funktionieren. Zudem verkürzt es erheblich die Zeit für die Erprobung von Prototypen.

Es handelt sich nicht um eine wartungsfreie Produktplattform; die Reifegrad der Projekte sowie die erforderlichen Ressourcen variieren. Zudem weist das Open-Source-Stack komplexe Abhängigkeiten und Lizenzbedingungen auf. Vor der Verwendung in geschäftlichen Zwecken müssen Aspekte wie Sicherheit, Leistung, Qualität, Lizenzierung sowie Wartung überprüft und optimiert werden.

Häufige Fragen

Ist Mozilla.ai Blueprints ein Online-AI-Tool?

Es handelt sich hauptsächlich um einen Open-Source-Katalog für Workflows und Entwicklungsressourcen, nicht um eine einzelne Online-Anwendung. Einige Blueprinte bieten gehostete Demos an, doch für die eigentliche Nutzung muss in der Regel der Code selbst ausgeführt werden.

Sind die Blueprints kostenlos?

Hub und öffentliche Repositorien erheben keine Abonnementsgebühren; der Code kann unter Verwendung einer Lizenz erhalten werden. Für Rechenleistung, Cloud-Dienste, Speicherung, Modelle und Wartung können jedoch weiterhin Kosten anfallen.

Ist Programmierkenntnisse erforderlich?

Es sind Kenntnisse in Python, der Terminal-Schnittstelle sowie im Umgang mit Abhängigkeitsverwaltung erforderlich. Hostete Demos oder Notebooks können die Einstiegshürde senken, doch die Anpassung und Bereitstellung bleiben Entwicklungsaufgaben.

Kann es auf einem normalen Computer laufen?

Einige Projekte erhalten vorrangige Unterstützung für CPU und lokale Geräte, während andere Trainings-, Visualisierungs- oder Workflows mit großen Modellen mehr Speicher, Festplattenspeicher oder GPU benötigen. Es sollten die spezifischen Anforderungen des jeweiligen Projekts geprüft werden.

Sind alle Blueprints vollständig offline?

Viele Projekte unterstützen die lokale Verarbeitung, doch das Herunterladen von Modellen, Datenquellen, gehostete Demos, Colab oder optionale APIs können weiterhin eine Netzverbindung erfordern. Ob eine vollständige Offline-Funktion möglich ist, hängt von der Konfiguration und den Netzwerkanfragen ab.

Wozu dient das Blueprint-Template?

Es bietet einheitliche Python-Pakete, Beispiele, Tests, Dokumentation, Prüfungen vor dem Veröffentlichung sowie eine Projektkonfigurationsstruktur, um Entwicklern dabei zu helfen, neue Blueprints zu erstellen. Die Geschäftslogik muss jedoch weiterhin selbst implementiert werden.

Wird eine einheitliche API bereitgestellt?

Nein. Jedes Projekt läuft über seine eigene CLI, Python-Code, Demo-Anwendung oder lokale Schnittstelle – der Hub bietet keine einheitliche API für die Verarbeitung von Daten.

Sind die Blueprints offen zugänglich?

Ja. Offiziell wird angegeben, dass jede Blueprint-Datei auf einer Open-Source-Basis bereitgestellt wird, wobei für die Templates die Lizenz Apache-2.0 gilt. Dennoch müssen die spezifischen Lizenzen für die jeweiligen Repositorien, Modelle und Daten überprüft werden.

Kann es für kommerzielle Zwecke verwendet werden?

Ob das möglich ist, hängt von allen Lizenzen ab, die für den verwendeten Code, die Modelle, die Datensätze sowie die Eingabedaten gelten. Man kann nicht allein auf die Apache-2.0-Lizenz des Templates schließen, dass der gesamte Workflow unbegrenzt für kommerzielle Zwecke genutzt werden kann.

Eignet es sich für eine direkte Einsetzung in der Produktion?

In der Regel sollte die Demonstrationsversion nicht direkt eingesetzt werden. Für den produktiven Einsatz sind zusätzliche Zertifizierungen, Berechtigungen, Trennung der Eingaben, Limitierungen, Überwachung, Backups, Sicherheitsprüfungen sowie Service-Level-Vorgaben erforderlich.

Wie kann man neue Blueprints beitragen?

Man kann mit den offiziellen Vorlagen beginnen, die eine standardisierte Codestruktur, Konfigurationen, eine CLI, Beispiele oder Notebooks sowie eine vollständige README-Dokumentation und Lizenzbedingungen bieten. Anschließend kann man über den Einreichungsprozess des Hubs um Aufnahme bitten.

Können chinesische Nutzer es verwenden?

Die Website und die Dokumente sind hauptsächlich auf Englisch, doch einige Modelle und Sprachdaten unterstützen mehrere Sprachen. Die Qualität in Chinesisch hängt vom gewählten Modell, den Daten, der Worttrennung, der Schriftart sowie den Sprachressourcen ab.

©️ Urheberrechtshinweis: Sofern nicht anders angegeben, liegen die Urheberrechte an allen Artikeln auf dieser Website beiTeilen von AI-ToolsAlle Urheberrechte liegen bei uns. Ohne Genehmigung darf keine Person, kein Medienunternehmen, keine Website oder irgendeine Gruppe den Inhalt dieser Website kopieren, nachahmen oder auf andere Weise verbreiten. Ebenso ist es nicht gestattet, Spiegelseiten auf Servern zu erstellen, die nicht uns gehören. Andernfalls behalten wir uns das Recht vor, rechtliche Schritte gegen die Verantwortlichen einzuleiten.

Ähnliche Tools wie Blueprints | Mozilla.ai