Retell AI

Was ist Retell AI?

Retell AI ist eine Plattform für KI-gestützte Sprach- und Chat-Assistenten, die sich an Entwickler und Unternehmen richtet. Sie verbindet große Sprachmodelle, Spracherkennung, Sprachsynthese sowie Telefonleitungen mit Geschäftstools, um automatisierte Assistenten zu erstellen, die Anrufe entgegennehmen oder online chatten können.

Benutzer können entweder mithilfe einer visualisierten Conversation Flow-Struktur feste Abläufe festlegen oder LLM-Agenten, die durch Anweisungen gesteuert werden, zur Bearbeitung offener Dialoge nutzen. Die Plattform bietet zudem Funktionen für die Telefonverwaltung, Tests, Bereitstellung, Überwachung sowie Analyse nach den Gesprächen – ideal, um schnell von einem Prototypen zu einem vollwertigen Geschäftsmodell überzugehen.

Hauptfunktionen von Retell AI

• Erstellen eines AI-Stimmenagenten zur Abwicklung von eingehenden und ausgehenden Anrufen;
• Erstellen Sie einen AI-Chat-Agenten, der über Textkanäle automatische Antworten liefert;
• Verwenden Sie Conversation Flow, um Knoten, Verzweigungen und Umleitungen visuell zu organisieren;
• Konfiguration des LLM-Agenten über Prompt-Sätze, Wissensdatenbanken und benutzerdefinierte Funktionen;
• Verbindung mit Twilio, Telnyx, eigenen SIP-Leitungen oder von der Plattform bereitgestellten Nummern;
• Webhooks, REST-API sowie die Möglichkeit zur Anbindung eigener Großmodelle werden bereitgestellt;
• Aufzeichnungen, Transkripte, Verzögerungsdaten sowie Anrufprotokolle speichern und nach den Anrufen analysieren;
• Die Leistung der Agenten wird durch Simulationstests und AI-basierte Qualitätsanalysen in Massen überprüft.

Sprachintelligenz-Agenten und Telefonfunktionen

Retell AI unterstützt den Kauf und die Verknüpfung von Telefonnummern und erlaubt es Unternehmen, eigene Leitungen bei einem Anbieter zu nutzen. Das intelligente System kann Anrufe entgegennehmen, gruppenweise oder einzeln Anrufe tätigen und bei erfüllten Bedingungen an einen menschlichen Mitarbeiter weiterleiten.

Die Echtzeit-Unterhaltung berücksichtigt eingestreute Kommentare, Pausen, Hintergrundgeräusche sowie Verzögerungen bei der Antwort. Entwickler können außerdem während des Gesprächs den Zustand des intelligenteren Systems aktualisieren, Tools auslösen oder das Gespräch gemäß den Geschäftsregeln beenden.

Conversation Flow und LLM Agent

Conversation Flow eignet sich für Geschäftsprozesse mit klar definierten Schritten wie Terminvereinbarungen, Identitätsüberprüfungen und Datenerhebung. Für jeden Knotenpunkt können Dialoginhalte, bedingte Umleitungen, Funktionsaufrufe sowie eine Überleitung an einen Menschen festgelegt werden, wodurch kritische Abläufe leichter überprüft werden können.

LLM-Agenten eignen sich besser für Nutzer, die vielfältige Fragen stellen und Antworten, die im Kontext der Frage gestellt werden müssen. Das Team kann globale Anweisungen, Sprache, Stimme, Modelle, Wissensdatenbanken sowie Sicherheitsregeln festlegen. Zudem können verschiedene Versionen veröffentlicht werden, wobei die Änderungsverläufe aufgezeichnet bleiben.

Wissensdatenbanken, Tools und Geschäftsintegration

Eine Wissensdatenbank kann Agenten mit Informationen zu Produkten, Richtlinien und häufig gestellten Fragen versorgen. Bei Daten zu Lagerbeständen, Bestellungen, Kalendern oder CRM-Daten können externe Systeme über Funktionen und Webhooks aufgerufen werden, anstatt dass das Modell Antworten aus dem Nichts erzeugt.

• Abfragen des Status von Kunden, Bestellungen, Versicherungspolicen oder Serviceanfragen;
• Lesen der verfügbaren Terminzeiten sowie Erstellen, Ändern oder Stornieren von Terminen;
• Potenzielle Kundeninformationen sammeln und in das CRM eintragen;
• Nach den Regeln SMS, E-Mails oder nachfolgende Aufgaben senden;
• Komplexe, sensible oder weniger zuverlässige Probleme sollten an Menschen weitergeleitet werden.

Testen, Analyse und Qualitätsmanagement

Die Plattform protokolliert die Ergebnisse der Anrufe, die Transkripte, die Kosten sowie die Verzögerungen in den einzelnen Schritten. Dadurch lässt sich leicht feststellen, wo Probleme mit Modellen oder der Sprachsynthese vorliegen. Nach dem Anruf können strukturierte Felder, Klassifizierungsresultate sowie benutzerdefinierte Kennzahlen extrahiert werden.

Simulationsprüfungen ermöglichen es, mehreren simulierten Benutzern, in vorgegebenen Szenarien mit dem Agenten zu kommunizieren, um Grenzkonditionen, Rückfallmuster bei den Eingaben sowie Toolaufrufe zu überprüfen. Auch nach der offiziellen Einführung sollten regelmäßig echte Gespräche überprüft werden – man darf sich nicht ausschließlich auf automatische Bewertungen verlassen.

Für welche Anwendungsfälle eignet sich Retell AI?

Retell AI-Preis

Retell AI verwendet ein Modell, bei dem es sowohl eine Abrechnung nach Verbrauch als auch individuelle Anpassungen für Unternehmen gibt. Neukunden erhalten einen kostenlosen Betrag von 10 Dollar. Der Preis für Sprachintelligenzen liegt im Bereich von 0,07 bis 0,31 Dollar pro Minute; der endgültige Preis hängt von den großen Modellen, der Sprachfunktion, den Telefonfunktionen sowie den zusätzlichen Funktionen ab.

20 gleichzeitige Verbindungen stellen die derzeit offiziell angegebene kostenlose Kapazität für mehrere gleichzeitige Anfragen dar. Eine Erhöhung der Anzahl der gleichzeitigen Verbindungen ist nach Bedarf möglich. Dienstleistungen für Unternehmen, spezieller Support sowie Vertragsbedingungen können zusätzlich berechnet werden. Die endgültigen Konditionen richten sich nach den Angaben in der Konsole sowie in dem Verkaufsangebot.

Wie setzen sich die Kosten für Sprachanrufe zusammen?

Im Beispiel der offiziellen Rechner beträgt die Gesamtkosten für eine Kombination mit eigenem Telefonanschluss 0,11 US-Dollar pro Minute, wovon 0,04 US-Dollar auf das große Modell, 0,055 US-Dollar auf die Infrastruktur und 0,015 US-Dollar auf die Sprachsynthese entfallen. Dieses Beispiel stellt nicht den festen Preis für alle Agenten dar.

Anleitung zur Verwendung von Retell AI

Erstellen des ersten Telefon-Intelligenz-Agenten

1. Registrieren Sie ein Konto und erstellen Sie einen neuen Voice Agent – wählen Sie dabei entweder Conversation Flow oder LLM Agent aus.
2. Einstellen von Rolle, Zielen, Erstsatz, Sprache, Stimme und zulässigem Geschäftsbereich;
3. Hinzufügen von Wissensdatenbanken, Funktionen, manueller Weiterleitung und Fehlertoleranzregeln;
4. Simulieren Sie auf der Testoberfläche normale Probleme, Unterbrechungen, Stille und fehlerhafte Eingaben;
5. Binden Sie eine Plattform-Nummer oder eine eigene Telefonleitung an und veröffentlichen Sie anschließend die überprüfte Version;
6. Starten Sie mit geringem Datenverkehr und überprüfen Sie die Transkription, die Kosten, die Verzögerungen sowie die Ursachen für Fehler.

Anbindung an das Geschäftssystem

1. Bestellabfragen, Kalenderfunktionen oder CRM-Operationen in als autorisiertes Serviceinterface verpackt;
2. In Agenten werden Funktionsnamen, Parameter, Rückgabewerte und Aufrufbedingungen definiert;
3. Konfigurieren von Webhooks zur Empfangung von Ereignissen wie Beginn und Ende von Anrufen sowie Analyseergebnisse;
4. Zweite Überprüfung der wichtigen Felder wie Identität, Betrag, Adresse und Datum;
5. Verwenden Sie ein Testkonto, um Zeitüberschreitungen, wiederholte Aufrufe sowie Fehlschläge bei externen Diensten zu überprüfen;
6. Beschränken Sie die Rechte der Tools und führen Sie Audit-Protokolle, um schrittweise echte Daten freizugeben.

Qualitäts- und Kostendurchkontrolle

1. Erstellen Sie klare Bewertungskriterien für erfolgreiche Anrufe, Weiterleitung an einen Menschen, Ablehnungen und Misserfolge.
2. Erstellung eines Testsets, das verschiedene Akzente, Störgeräusche, abweichende Anfragen sowie Angriffssignale abdeckt;
3. Verwenden Sie Simulationstests, um alte und neue Versionen zu vergleichen, um eine direkte Veröffentlichung der überarbeiteten Version zu vermeiden;
4. Sehen Sie die einzelnen Kosten pro Minute für Modell, Sprache, Telefonie und zusätzliche Funktionen;
5. Zufällige Überprüfung der echten Aufnahmen und Transkripte, Korrektur der Wissensdatenbank, Prompte und Tool-Einstellungen;
6. Legen Sie Verbrauchs-, Konkurrenz- und Alarmeinstellungen fest sowie führen Sie regelmäßig die Löschung unnötiger Daten durch.

Vorteile von Retell AI

• Sprache, Chatten, Telefonie, Tests und Analyse sind auf derselben Plattform zusammengefasst.
• Gleichzeitig werden visuelle Prozessdarstellungen sowie offene LLM-Agenten bereitgestellt;
• Unterstützung von eigenen Telefonanbietern, SIP sowie verschiedenen Modellen und Stimmenanbietern;
• APIs, Webhooks und Funktionswerkzeuge eignen sich zur Einbettung in bestehende Geschäftsunternehmen;
• Anruflisten, Verzögerungsanalyse und Simulationstests tragen zur kontinuierlichen Optimierung bei;
• Mit der kostenlosen Gebühr und 20 parallelen Verbindungen ist eine Testung in kleinem Umfang möglich.

Einsatzbeschränkungen und Hinweise

• Der offiziell angegebene Mindestpreis pro Minute ist nicht der Gesamtkostenbetrag – Modelle, Telefonkosten und Zusatzleistungen werden hinzugerechnet.
• Spracherkennung und Modelle können falsch hören, falsch antworten oder Werkzeuge fehlerhaft ausführen;
• In hochriskanten Bereichen wie Medizin, Recht und Finanzen dürfen KI-Systeme keine professionellen Entscheidungen eigenständig treffen.
• Außengesprächs-Marketing, automatische Anrufe, Aufnahmen und SMS müssen den Gesetzen des Landes entsprechen, in dem sich der Nutzer befindet.
• Bevor Bestellungen, Zahlungen und CRM-Systeme miteinander verbunden werden, müssen Authentifizierung sowie Kontrollen bezüglich der minimalen Berechtigungen durchgeführt werden.
• Nach dem Update der Wissensdatenbank muss sie erneut getestet werden, um das Verwenden veralteter Richtlinien zu vermeiden;
• Preise, Modelle und verfügbare Regionen können sich ändern; es sollten stets die aktuellen Informationen in der Konsole herangezogen werden.

Sicherheit, Privatsphäre und Konformität

Der offizielle Vergleich umfasst derzeit Schutzzäune, die Verarbeitung von PII, die Möglichkeit, Aufnahmen oder Transkripte auszuschließen, die Anpassung der Datenspeicherung sowie Funktionen im Zusammenhang mit HIPAA. Die Enterprise-Version bietet zudem anpassbare MSA-, DPA- oder BAA-Vereinbarungen, RBAC, SSO sowie spezielle, stabile Server als Governance-Optionen.

• Teilen Sie der KI zu Beginn des Gesprächs Ihre Identität mit und holen Sie gemäß den geltenden Gesetzen die Zustimmung zur Aufzeichnung ein;
• Sammeln Sie nur die für die Erledigung der Aufgabe notwendigen Daten und vermeiden Sie es, vollständige, sensible Zugangsdaten mündlich weiterzugeben;
• Legen Sie klare Aufbewahrungsfristen für die Transkription, Aufnahme und Analyse der Felder fest;
• Die Parameter der Funktionen müssen auf der Serverseite überprüft werden – man kann dem direkten Ausgabeergebnis des Modells nicht trauen.
• Es werden Prüfprozesse für Löschung, Export, Änderung von Berechtigungen und manuelle Übernahme eingerichtet.

Ob bestimmte regulatorische Anforderungen erfüllt sind, hängt vom Vertrag, der Konfiguration, dem Standort sowie den tatsächlichen Arbeitsabläufen ab. Es darf nicht allein auf die Angaben zur Konformität auf der Produktseite zurückgegriffen werden. Vor der offiziellen Verarbeitung von regulierten Daten sollten die Rechts- und Sicherheitsteams die Vereinbarungen sowie den Datenfluss überprüfen.

Erklärungen zu API, SDK und Open Source

Retell AI bietet REST-APIs und Webhooks an, mit denen Agenten, Telefonnummern, Wissensdatenbanken sowie Ergebnisse von Anrufen erstellt und verwaltet werden können. Zudem stehen TypeScript-, Python-Server-SDKs sowie JavaScript-Client-SDKs zur Verfügung, um die Integration in den Backend-Bereich oder in Webseiten zu erleichtern.

Die offizielle GitHub-Organisation hat Projekte wie das TypeScript SDK, das Python SDK und das Web Client SDK veröffentlicht. Die Tatsache, dass die SDKs unter Open Source lizenziert sind, bedeutet nicht, dass die Kern-Voice-Plattform, die Konsole sowie die Hosted-Dienste von Retell AI ebenfalls Open-Source-Produkte sind.

Häufige Fragen

Ist Retell AI kostenlos?

Neue Konten erhalten derzeit einen kostenlosen Betrag von 10 US-Dollar für Prototypen und Tests. Nach Ablauf dieses Betrags wird nach den tatsächlich genutzten Sprachminuten, der Anzahl der Nachrichten sowie den ausgewählten Komponenten abgerechnet.

Wie viel kostet es pro Minute, mit Retell AI zu arbeiten?

Der offiziell angegebene Preisbereich für Sprachintelligenz-Agenten liegt bei 0,07 bis 0,31 US-Dollar pro Minute. Der tatsächliche Preis setzt sich aus den Infrastrukturkosten, den Kosten für die Sprachverarbeitung, den großen Modellen, den Telefonleitungen sowie den optionalen Funktionen zusammen.

Wie viele gleichzeitige Anrufe werden unterstützt?

Das Pay-as-you-go-Angebot umfasst derzeit 20 kostenlose gleichzeitige Verbindungen; weitere können beantragt werden. Für große Umfange oder besondere Anforderungen an die Stabilität können unternehmensspezifische Lösungen besprochen werden.

Kann man eigene Twilio- oder SIP-Dienste verwenden?

Ja, die Plattform unterstützt sowohl eigene Telefonanbieter als auch SIP-Verbindungen. Retell erhebt keine Gebühren für eigene Telefonleitungen, doch der Anbieter berechnet weiterhin eigene Gebühren.

Ist Retell AI Open Source?

Die Kernplattform ist kein Open-Source-Produkt. GitHub stellt mehrere SDKs öffentlich zur Verfügung, die Entwickler gemäß den Lizenzen der jeweiligen Repositorien integrieren können.