Deepfake Detection Platform for Enterprise

Was ist identifAI?

IdentifAI ist eine unternehmensgerechte Plattform zur Erkennung von Deepfakes, die von IdentifAI Labs S.P.A. in Italien entwickelt wurde. Sie dient dazu festzustellen, ob Bilder, Videos und Audiodateien eher von Menschen erstellt wurden oder durch künstliche Intelligenz erzeugt bzw. manipuliert wurden.

Das Produkt betrachtet die Erhebung von Medienbeweisen als ein ständig sich veränderndes Problem im Bereich der Netzwerksecurity und bietet Webseitenanalyse, REST API, einen entfernten MCP Server, Videoconferenz-Agenten sowie Möglichkeiten für den Unternehmenseinsatz. Die Ergebnisse der Überprüfung dienen zur Risikobewertung und zur manuellen Überprüfung; sie stellen jedoch keine endgültige Bestätigung der Echtheit des Inhalts, der Identität der Personen oder rechtlicher Fakten dar.

Hauptfunktionen

• Bilderkennung: Laden Sie eine Datei hoch oder geben Sie eine zugängliche Bild-URL ein, um die Kategorie Mensch oder Maschine, einen Zuverlässigkeitswert, die Ergebnisse der verschiedenen Modelle sowie eine heuristische Gesamtbewertung zu erhalten.
• Video-Prüfung: Es werden 5, 10 oder 30 Frames ausgewählt, um sie einzeln zu analysieren. Es ist möglich, eine Strategie für die Auswahl der Schlüsselframes festzulegen, sowie Prüfungen auf Gesichtsersatz, Manipulationen, Tonspuren und unsichere Inhalte durchzuführen. Anschließend werden die Ergebnisse zusammengefasst.
• Spracherkennung: Analyse von Aufnahmen oder Online-Audio, um Anzeichen für synthetische Stimmen und Stimmenklonierung zu erkennen – geeignet für Call Centers, Telefonautorisierungen und Audio-Überprüfungen.
• Erkennung von Angriffen auf Gesichter und Identitäten: Die REVELIO FACE-Serie ist gegen Foto-Manipulationen, synthetisierte Avatare, Eingriffe über die Kamera sowie die Fälschung von Identitäten gerichtet und kann in Prozesse zur Identitätsüberprüfung und Kontoeinrichtung integriert werden.
• Fälschungen und Wärmekarten: Es ist möglich, zusätzlich die Spuren traditioneller Bearbeitungen oder Zusammensetzungen zu überprüfen, und mit Wärmebildern die als künstlich erzeugt eingestuften Bereiche im Bild anzuzeigen; diese zusätzlichen Analysen führen zu einem höheren Verbrauch von Credits.
• Echtzeit-Konferenz-Agent: Analysiert kontinuierlich die Bilder und Töne von Videokonferenzen. Durch die Konfiguration über ein zentrales Portal, die Überwachung sowie das Anzeigen von Berichten hilft er dabei, Betrüger aufzudecken.
• Künstliche Korrektur und Überwachung: Die API ermöglicht es, die Ergebnisse anhand des Datei-Hash-Werts zu überschreiben, Geschäftsreferenznummern zuzuweisen, Ergebnisse in Batches abzurufen sowie den verbleibenden Credit zu überprüfen.

Drei Arten von Überprüfungsmodellen

Das Video wird in Bildframes und optionale Tonspuren aufgeteilt. Jedes dieser Komponenten wird von einem eigenen Modell analysiert, bevor ein heuristischer Motor eine Gesamtbewertung erstellt. Die alten Modelle können weiterhin zur Unterstützung der früheren Generatoren verwendet werden, dürfen jedoch nicht mit den Fähigkeiten des aktuellen Hauptmodells verwechselt werden.

Wie versteht man Leistungsindikatoren?

Diese Indikatoren stammen aus Referenzdaten mit akademischen und privaten Beispielen und stellen nicht dar, dass unter allen Bedingungen – unabhängig von Quelle, neuem Generator oder Komprimierungsbedingungen – ähnliche Leistungen erzielt werden können. Unternehmen sollten ihre eigenen echten Beispiele verwenden, um Fehlalarme, Auslassungen und Schwellenwerte zu überprüfen, bevor sie automatische Aktionen einleiten.

Verwendung im Webbrowser

1. Registrieren Sie ein Konto, verifizieren Sie Ihre E-Mail-Adresse und melden Sie sich an, um zunächst Ihren aktuellen Credit-Saldo sowie die Modelle zu überprüfen, die für Ihr Konto verfügbar sind.
2. Man kann Bilder, Videos oder Audiodateien hochladen, sowie Links zu Medieninhalten einreichen. Es sollte versucht werden, Materialien zu verwenden, die der ursprünglichen Datei möglichst nahekommen und über die eine legale Verarbeitungsmöglichkeit besteht.
3. Wählen Sie das gewünschte Analysemodell sowie zusätzliche Optionen wie Gesichter, Manipulationen, Wärmebilder, Tonspuren oder unsichere Inhalte aus.
4. Nach Bestätigung der Auswahl wird die Aufgabe eingereicht. Man wartet darauf, dass die asynchrone Analyse abgeschlossen ist, um anschließend die Gesamtbewertung, die Modellbewertung, die Videoframes sowie die verfügbaren Heatmaps anzusehen.
5. Verbinden Sie die Ergebnisse mit Geschäftsdaten, Identitätsprüfungen, Metadaten sowie manueller Überprüfung. Lehnen Sie Kunden nicht allein aufgrund einer Zahl ab, nehmen Sie Inhalte nicht einfach entfernen oder erklären Sie etwas für Betrug, ohne weitere Überlegungen anzustellen.

Wie eine REST API funktioniert

Die API verwendet den Anfrage-Header X-Api-Key zur Authentifizierung. Nach dem Hochladen von Dateien oder Medienadressen wird eine Aufgabenerkennung zurückgegeben, wobei der Client anschließend die entsprechende Ergebnis-API abruft; auch Konten mit spezieller Berechtigung können Webhook-Verbindungen nutzen, um Benachrichtigungen zu erhalten.

1. Erstellen oder zurücksetzen Sie den API-Schlüssel im Account-Menü und speichern Sie den Schlüssel ausschließlich auf der Serverseite oder in einem sicheren Schlüsselsystem.
2. Rufen Sie je nach Medientyp die entsprechenden Schnittstellen für das Hochladen von Bildern, Videos oder Audiodateien auf und fügen Sie die Geschäftsreferenznummer sowie die notwendigen Analyseoptionen hinzu.
3. Speichern Sie die Identifikation der zurückgegebenen Aufgabe und abfragen Sie sie über die Ergebnis-API. Bei einem unvollendeten Status wird ein Warteintervall verwendet, um Lesebeschränkungen zu vermeiden.
4. Analyse der Modellergebnisse und heuristische Beurteilungen, Dokumentation der Modellversion, Parameter, Zeitpunkte sowie der Ergebnisse der manuellen Überprüfung zur Zwecken der Prüfung.
5. Überwachen von Krediten, Fehlerraten und wiederholten Einreichungen; ein erzwungener Cache-Reset führt zur erneuten Verarbeitung derselben Datei und kann zusätzliche Kosten verursachen.

Eingabe, Ausgabe und Dateilimits

Die Beschreibungen der wichtigsten Felder der Video- und Audio-Schnittstellen sowie einige Beispiele für Fehler weisen Uneinheiten hinsichtlich der maximal zulässigen Dateigröße auf. Die tatsächlichen Beschränkungen richten sich nach den Einstellungen des jeweiligen Kontos sowie den Ergebnissen der Schnittstelle-Überprüfung. Bei großen Dateien oder in MCP-Szenarien ist es sinnvoll, stattdessen die Medienadresse zu verwenden – dadurch wird die durch die Base64-Kodierung verursachte Vergrößerung der Dateigröße verringert.

Anforderungen an die Qualität der eingereichten Materialien

• Die Bilder sollten möglichst dem Originaldokument entsprechen; es sollten keine Screenshots, erneute Komprimierungen, Filter auf sozialen Plattformen sowie übermäßige Überlagerungen verwendet werden.
• Bildmodelle eignen sich derzeit nicht zur zuverlässigen Erkennung von aufgenommenen Papierdokumenten; für die Prüfung von Ausweisen oder Belegen sind spezielle Manipulationsverfahren sowie weitere Überprüfungsinstrumente erforderlich.
• Die Sprachaufnahme sollte hauptsächlich aus klarer menschlicher Stimme bestehen; Musik, lauter Verkehrslärm sowie sehr kurze Abschnitte sollten vermieden werden. Auch verschiedene Sprecher sowie Aufnahmegeräte können die Qualität der Aufnahme beeinflussen.
• Video-Frame-Auswahl bezieht sich nur auf die Analyse von Beispielbildern; kurz auftretende gefälschte Abschnitte könnten dabei übersehen werden. Bei hochriskanten Anwendungen sollte die Anzahl der Frames erhöht werden und Strategien für Tonspuren sowie Schlüsselbilder angewandt werden.

Kredit und Geschwindigkeitsbeschränkung

• Jedes Bild oder jeder analysierte Videoframe verbraucht in der Regel 1 Credit; zusätzliche Anfragen wie die Erkennung von Gesichtern, Manipulationen oder Thermogrammen können die Kosten pro Aufgabe erhöhen.
• Im Dashboard kann man den Saldo, den gesamten Verbrauch sowie die Möglichkeit zum Aufladen des Kontos einsehen. Der genaue Preis pro Credit sowie die Vorteile der jeweiligen Pakete sind jedoch nicht öffentlich zugänglich.
• Die Standardbeschränkung für die Lese-Schnittstelle beträgt 2 Mal pro Sekunde bzw. 60 Mal pro Minute; die Beschränkung für die Sendeschnittstelle beträgt 1 Mal pro Sekunde bzw. 30 Mal pro Minute.
• Bei Überschreiten der Grenzen wird der Fehler 429 zurückgegeben. Der Client sollte einen exponentiellen Rücksetzmechanismus verwenden; für eine höhere Durchsatzrate oder individuelle Beschränkungen ist es notwendig, sich mit dem Verkauf zu kontaktieren.

Preise und Abonnements

Pay-Service wird von einem Drittanbieter-Marktplatz abgewickelt; Rückerstattungen, Verlängerungen und Zahlungsbedingungen können je nach Kaufweg und Unternehmensvereinbarung unterschiedlich sein. Personen, die den Vorschriften der EU-Konsumentenrichtlinien unterliegen, können ihr Widerrufsrecht innerhalb von 14 Tagen nach Annahme der Bedingungen ausüben, müssen jedoch vor dem Einsatz des Services die Bedingungen des jeweiligen Anbieters sowie die Handhabung des bereits in Anspruch genommenen Betrags klären.

Entfernter MCP-Server

identifAI bietet remote Server für MCP-kompatible Agenten an, die das Klassifizieren von Bildern, Videos und Audiodateien sowie das Abfragen von Credit-Informationen in 17 Tools zusammenfasst. Die Aufgabenübermittlung erfolgt weiterhin asynchron, wobei die Agenten mit der zurückgegebenen Aufgabenidentifikation weiterhin nach neuen Aufträgen fragen können.

• Bildwerkzeuge: 6 Stück – Einreichen von Dateien oder Adressen, Einzel- und Massenergebnisse, Heatmaps sowie manuelle Bearbeitung.
• 5 Video-Tools: Einreichen von Dateien oder Adressen, Einzel- und Massenergebnisse sowie manuelle Überarbeitung.
• 5 Audio-Tools: Einreichen von Dateien oder Adressen, Einzel- und Massenergebnisse sowie manuelle Überarbeitung.
• Benutzerwerkzeug 1: Abfrage des verbleibenden Credits.
• Die API-Key wird als Parameter bei jedem Aufruf des Tools übergeben; der entfernte MCP-Dienst gibt an, dass die Key nicht gespeichert oder im Cache abgelegt wird. In der Produktivumgebung sollte man weiterhin vermeiden, die Key direkt in normale Kommunikationen einzufügen.

Unternehmens-Agent und Bereitstellung

• Der Konferenz-Agent analysiert Live-Bilder und Sprache, um dem Vorstand, für die Fernautorisierung, die Kundenkommunikation sowie Regierungsbesprechungen zusätzliche Anzeichen für Identitätsrisiken zu liefern.
• Das zentrale Portal dient zur Konfiguration der Überwachung, zur Echtzeit-Überwachung sowie zum Anzeigen von Berichten. Dennoch muss die Organisation Verfahren für die Bestätigung von Alarmen sowie für das Management von Upgrades und Störungen festlegen.
• Atlas basiert auf Kubernetes und unterstützt Cloud-, On-Premise-Unternehmensumgebungen sowie hybride Umgebungen. Er legt Wert auf automatisierte Wartung, modulare Erweiterbarkeit sowie Umgebungsportabilität.
• Lokale Implementierungskompatibilität bedeutet nicht, dass alle Pakete standardmäßig enthalten sind; Kapazität, Modellaktualisierungen, Hardware, Support sowie Datengrenzen müssen im Dienstleistungsvertrag festgelegt werden.

Privatsphäre, Keine Aufbewahrung und Datenspeicherung

• Das Produkt betrachtet das Nichtaufbewahren von Daten als eine Unternehmensfähigkeit und gibt an, dass die Überprüfung ohne langfristige Speicherung der ursprünglichen Medien durchgeführt werden kann.
• Die API bietet Funktionen wie Cache von doppelten Dateien, optionaler Speicherung von Dateien, historische Analyse, Herunterladen von Beispielen sowie Überwrite der Ergebnisse anhand des Datei-Hash-Werts. Daher hängt der genaue Umfang der Datenlöschung von den Einstellungen des Kontos, der Endpunkte sowie des Tenant ab.
• Die Datenschutzrichtlinien beziehen sich auf Konten, Kontaktdaten, berufliche Informationen, die Nutzung der Plattform, Systemprotokolle, Wartungsarbeiten sowie Gerätedaten; die Konten werden zwei Tage nach Ablauf des Geschäftsabkommens deaktiviert und in der Regel innerhalb der folgenden 30 Tage gelöscht oder anonymisiert.
• Verträge, Rechnungen, Bankunterlagen sowie geschäftliche Korrespondenzen können gesetzlich bis zu 10 Jahre aufbewahrt werden. Auch Streitigkeiten, Sicherheitsaspekte sowie rechtliche Verpflichtungen führen zu einer längeren Aufbewahrungsfrist.
• Personendaten können von Hosting-, E-Mail-, Cloud- und Fachdienstleistern verarbeitet werden; es wird garantiert, dass sie nicht außerhalb der Europäischen Wirtschaftszone und der EU übertragen werden.

Die Bestimmungen gewähren identifAI außerdem eine exklusive, weltweite und kostenlose Lizenz für die Verwendung der Ergebnisse zur Verbesserung der Dienste sowie zur Sicherstellung der Sicherheit der Plattform. Vor der Verarbeitung sensibler Identitätsdaten müssen in den Unternehmensvereinbarungen, DPA-Verträgen sowie in den technischen Konfigurationen die ursprünglichen Medien, die Zwischenspeicherungen, die Ergebnisse, die Verbesserungen der Modelle, die Protokolle sowie die Löschzeiten klar festgelegt werden – anstatt sich allein auf den Grundsatz „keine Datenspeicherung“ zu verlassen.

Sicherheit, Rechte und Pflichten

• IdentifAI Labs S.P.A. verfügt über die ISO 27001-Zertifizierung und setzt bei der Unternehmensimplementierung GDPR, Zugriffskontrollen sowie sicheres Design ein.
• Die Nutzer müssen das Recht haben, Material hochzuladen, und die Anforderungen bezüglich Privatsphäre, Persönlichkeitsrechten, Urheberrechten und Datenschutz einhalten; die Medienprüfung entbindet den Dienstleister nicht von seiner rechtlichen Verantwortung.
• Der Benutzer behält das Recht auf Eingabe von Inhalten sowie die Kontrolle über die Ausgabe, doch das Ergebnis kann fehlerhaft, unvollständig oder nicht den Erwartungen entsprechen; der Nutzer muss daher die Genauigkeit und den konkreten Einsatz bewerten.
• Umkehrentwicklung, Crawling, Umgehen von Sicherheitsmaßnahmen oder Limiten, Erstellung falscher Mehrfachkonten sowie andere unbefugte Nutzung sind verboten.

Open Source und Client-Zustand

Die Plattformen, Detektionsalgorithmen, Modelle sowie Konferenz-Agenten von identifAI sind keine vollständig offenen Quellcode-Produkte. Die Bedingungen beschränken ausdrücklich das Kopieren, Ändern und Veröffentlichen der entsprechenden Software und Algorithmen. Auf dem offiziellen GitHub gibt es derzeit nur das Repository der Unternehmenswebseite; es wurden weder verifizierbare Produkt-SDKs, Modellgewichte noch eine offene Lizenz für den MCP Server gefunden.

Die derzeit bestätigten vollständigen Kanäle sind Webseiten, REST API, entfernte MCP-Server, Unternehmensagenten sowie Deployment-Lösungen. Offizielle iOS-, Android- oder Chrome-Store-Clienten, die von IdentifAI Labs S.P.A. veröffentlicht wurden, sind nicht bestätigt.

Geeignet für Nutzer und typische Szenarien

• KYC und Identitätsmanagement-Team: Überprüfung von synthetischen Selfies, Face-Swap-Techniken sowie Kamera-Manipulationen, in Kombination mit Signalen zu Risiken im Zusammenhang mit lebenden Personen, Ausweisdokumenten und Konten.
• Bank- und Unternehmenssicherheit: Überprüfung auf Stimmenklonierung oder Identitätsbetrug in Anrufen mit hohem Risiko, Videokonferenzen und Zahlungsaufträgen.
• Versicherung und Schadensregulierung: Analyse der von Kunden hochgeladenen Fotos, Videos und Audiodateien, wobei für manipulierte Dateien sowie traditionelle Fälschungen spezielle Optionen sowie eine manuelle Überprüfung erforderlich sind.
• Medien und Plattformen: Überprüfen Sie vor der Veröffentlichung oder Verteilung verdächtige Inhalte in großen Mengen und integrieren Sie Beschwerden wegen Fehlalarme sowie redaktionelle Entscheidungen in den Prozess.
• Entwickler von Agenten: Nutzen Sie MCP, um schnell multimodale Erkennungsfunktionen hinzuzufügen, oder nutzen Sie die REST-API für detailliertere Parameter, Callbacks und Auditsicherungen.

Häufige Fragen

Kann identifAI mit hundertprozentiger Sicherheit feststellen, ob der Inhalt echt ist?

Das ist nicht möglich. Das Ergebnis ist eine Risikobewertung des Modells für künstliche oder menschliche Kategorien, und diese kann durch neue Generatoren, Kompression, Rauschen sowie die Qualität der Beispiele beeinflusst werden. Entscheidungen bezüglich hohem Risiko müssen mit weiteren Beweisen sowie einer manuellen Überprüfung abgeglichen werden.

Welche Medien werden von identifAI unterstützt?

Derzeit werden Bilder, Videos sowie Aufnahmen mit gesprochener Stimme unterstützt; außerdem wird eine Echtzeit-Überwachung von Videokonferenzen angeboten. Die Texterkennung gehört derzeit nicht zu den Kernfunktionen.

Gibt es eine kostenlose Version von identifAI?

Die Bedingungen erlauben es, einige Funktionen kostenlos zu nutzen, doch es werden keine einheitlichen Angaben zu den kostenlosen Credits, der Gültigkeitsdauer oder dem Umfang der verfügbaren Modelle gemacht. Nach der Registrierung sollte man den Kontostand überprüfen; Unternehmen, die diese Funktionen nutzen möchten, müssen sich an den Verkauf wenden.

Wie gibt eine API Ergebnisse zurück?

Nach dem Einreichen der Dateien oder Adressen wird zunächst die Aufgabenerkennung zurückgegeben, anschließend wird über die Ergebnis-API nachgefragt; nach der Autorisierung kann auch ein Webhook verwendet werden. Der Rückgabinhalt umfasst die Punktzahlen der einzelnen Modelle sowie eine heuristische Gesamtbewertung.

Wird die hochgeladene Datei dauerhaft gespeichert?

Das Produkt betont die Kein-Daten-Verbleib-Prinzip, doch die Plattform verfügt auch über Caching-Funktionen, Optionen zur Speicherung sowie Historiefunktionen. Das tatsächliche Verhalten hängt vom Konto- und Dienstleistungsvertrag ab; bei sensiblen Materialien sollten zunächst die genauen Einstellungen sowie die Löschbedingungen überprüft werden.

Ist identifAI Open Source?

Die Kernplattformen, Algorithmen und Modelle sind keine als Open Source verfügbaren Produkte. Auf der offiziellen GitHub-Seite werden weder die Quellcodes des Produkts noch das SDK veröffentlicht, und für den entfernten MCP-Server wird ebenfalls keine überprüfbare Lizenz bereitgestellt.

Zusammenfassung

Der Wert von identifAI liegt darin, visuelle Erkennung, Spracherkennung sowie die Erkennung von Fälschungen in Echtzeit in einer einzigen Unternehmensplattform zu bündeln – und gleichzeitig Webseiten, REST-APIs, MCP sowie verschiedene Deployment-Möglichkeiten anzubieten. Vor dem Kauf oder der Inbetriebnahme sollten eigene Beispiele verwendet werden, um Fehlalarme und übersehene Fälle zu bewerten. Zudem müssen Kreditlimits, Durchsatzraten, Speicherbereiche sowie vertragliche Verpflichtungen geklärt werden – außerdem sollte eine Möglichkeit zur manuellen Überprüfung vorhanden sein.