Wohin Ihre Daten gehen, wenn ein KI-Agent antwortet

Wo Ihre Daten gespeichert werden

Team Two läuft auf AWS in Stockholm (eu-north-1). Die Daten Ihres Workspace, darunter Dokumente, deren Suchindex, Unterhaltungen, Agentenkonfigurationen und Audit-Logs, werden dort gespeichert und im Ruhezustand verschlüsselt. Verbindungen werden bei der Übertragung verschlüsselt.

Was passiert, wenn ein Agent antwortet

Um eine Antwort zu erzeugen, sendet ein Agent eine Anfrage an ein Sprachmodell. Diese Anfrage enthält die Anweisungen des Agenten, den jüngsten Gesprächsverlauf und die aus Ihren Dokumenten abgerufenen Passagen. Wenn Sie ein Cloud-Modell von Anthropic oder OpenAI nutzen, wird diese Anfrage von dem jeweiligen Anbieter in den Vereinigten Staaten verarbeitet.

Auch einige andere Schritte beziehen externe Dienste ein:

• Beim Hochladen werden Dokumente von einem Modellanbieter in Embeddings umgewandelt, eine numerische Darstellung, die für die Suche verwendet wird.
• Wenn ein Agent das Websuche-Tool nutzt, geht die Suchanfrage an einen Anbieter für Websuche.
• Die Abrechnung läuft über Stripe.

Jeder dieser Anbieter ist mit seiner Tätigkeit und seinem Standort auf unserer Seite zu Unterauftragsverarbeitern aufgeführt.

Wie diese Übermittlungen abgesichert sind

Übermittlungen an Anbieter außerhalb der EU stützen sich auf die Standardvertragsklauseln der Europäischen Kommission und, sofern der Anbieter zertifiziert ist, auf das EU-US Data Privacy Framework. Wir verwenden Ihre Daten nicht zum Training von Modellen, und unsere Verträge mit den Anbietern betreffen die API-Nutzung, bei der Ihre Eingaben auch nicht zum Training ihrer Modelle verwendet werden.

Für Ihre eigene Compliance-Dokumentation schließen wir einen Auftragsverarbeitungsvertrag ab, in dem Sie der Verantwortliche sind und wir der Auftragsverarbeiter. Eine Zusammenfassung finden Sie auf der Seite zu Unterauftragsverarbeitern. Den vollständigen AVV erhalten Sie auf Anfrage.

Optionen, wenn bestimmte Daten nie übertragen werden sollen

Für manche Unternehmen oder manche Arten von Arbeit reicht die obige Antwort nicht aus. Team Two bietet Ihnen drei Stellschrauben:

1. Ein lokales Modell betreiben. Team Two kann ein Modell nutzen, das Sie selbst mit vLLM hosten. Anfragen an dieses Modell bleiben innerhalb Ihrer eigenen Infrastruktur.
2. Eigene Schlüssel verwenden. Verbinden Sie Ihr eigenes Anthropic- oder OpenAI-Konto, sodass Modellaufrufe unter Ihrem eigenen Vertrag mit diesem Anbieter laufen.
3. Eine Richtlinie festlegen. Mit den Gateway-Einstellungen können Sie Cloud-Modelle untersagen, sie nur für bestimmte Agenten zulassen oder sensible Arbeit zwingend auf ein lokales Modell leiten.

Sie können diese Optionen kombinieren. Eine verbreitete Konfiguration ist ein Cloud-Modell für allgemeine Fragen und ein lokales Modell für Agenten, die mit HR- oder Finanzdaten arbeiten.

Was wir jeden KI-Anbieter fragen würden

Ob Sie sich für Team Two entscheiden oder nicht: Diese Fragen trennen ehrliche Antworten von Marketing:

• Wo werden meine Daten im Ruhezustand gespeichert?
• Welche Modellanbieter erhalten meine Prompts, und in welchem Land?
• Gibt es eine veröffentlichte Liste der Unterauftragsverarbeiter, und wie werde ich über Änderungen informiert?
• Kann ich ein lokales Modell oder mein eigenes Anbieterkonto nutzen?
• Werden meine Daten für Training verwendet, von Ihnen oder von Ihren Anbietern?

Wenn ein Anbieter sagt, dass nichts jemals die EU verlässt, aber ein in den USA gehostetes Frontier-Modell nutzt, bitten Sie ihn, zu erklären, wie das gehen soll.