Wer hat die Kontrolle? So funktionieren Berechtigungen, wenn KI-Agenten für Ihr Team handeln

Die Regel: Ein Agent handelt als die Person, für die er arbeitet

Wenn jemand einen Agenten um Hilfe bittet, arbeitet der Agent im Auftrag dieser Person. Er kann sehen, was sie sehen kann. Er kann nicht mehr sehen, nur weil er eine KI ist oder weil ein Admin ihn konfiguriert hat.

Das gilt auch, wenn ein Agent Arbeit an Spezial-Agenten übergibt. Jeder Spezial-Agent trägt dieselbe Identität und dieselben Berechtigungen wie die ursprüngliche Person. Delegation ist nie ein Weg, die Zugriffskontrolle zu umgehen.

Was Agenten sehen können

Dokumente, Agenten, Chats und andere Ressourcen in Team Two haben eine Eigentümerin oder einen Eigentümer und eine Sichtbarkeitsstufe:

• Privat: nur die Eigentümerin oder der Eigentümer und alle, mit denen die Ressource ausdrücklich geteilt wird.
• Team: die Mitglieder des Teams der Eigentümerin oder des Eigentümers.
• Workspace: alle im Workspace Ihres Unternehmens.

Ressourcen können außerdem mit bestimmten Personen oder Teams geteilt werden, mit Lese- oder Bearbeitungsrechten. Wenn ein Agent Ihre Wissensdatenbank durchsucht, durchsucht er nur Dokumente, die die anfragende Person lesen darf.

Agenten, die mit einem größeren Kreis geteilt sind, lassen sich stattdessen so einstellen, dass sie aus den Dokumenten ihrer Eigentümerin oder ihres Eigentümers antworten. Das ist sinnvoll für einen Richtlinien-Agenten, der allen dieselbe Antwort aus demselben freigegebenen Handbuch geben soll. Sie legen das pro Agent fest, und es ist in seinen Einstellungen sichtbar.

Chats sind standardmäßig privat, auch gegenüber Admins

Eine Unterhaltung gehört der Person, die sie begonnen hat. Admins können Agenten, Benutzer und Einstellungen verwalten, aber sie können die Chats anderer nicht öffnen, sofern diese nicht mit ihnen geteilt wurden. Eine Person kann eine Unterhaltung teilen, damit eine Kollegin oder ein Kollege sie verfolgen kann, mit oder ohne die Möglichkeit, selbst zu schreiben.

Diese Entscheidung haben wir bewusst getroffen. Menschen fragen Agenten Dinge, die sie nicht in einem öffentlichen Kanal posten würden. Wäre jede Unterhaltung für Admins lesbar, würden die Leute das Tool für nichts Ernsthaftes mehr nutzen.

Was Agenten tun können

Ein Agent kann nur die Tools nutzen, die ihm zugewiesen wurden. Sie entscheiden pro Agent, welche Integrationen und Tools er hat. Ein Agent mit Tools, die nur lesen, kann in Ihren Systemen nichts verändern. Tools, die externe Zugangsdaten verwenden, etwa eine Jira- oder Notion-Verbindung, erhalten diese Zugangsdaten erst in dem Moment, in dem sie ausgeführt werden. Die Zugangsdaten werden verschlüsselt gespeichert und dem Modell nie angezeigt.

Außerdem gibt es Grenzen dafür, wie viel Arbeit eine einzelne Anfrage auslösen kann: wie viele Tool-Schritte ein Agent ausführen darf, wie viele Spezial-Agenten gleichzeitig laufen dürfen und wie lange jeder laufen darf. Datei-Tools sind auf den eigenen Workspace des Agenten beschränkt.

Wer was ändern kann

Team Two kennt drei Rollen: Admin, Manager und Mitglied. Admins verwalten den Workspace, die Benutzer und die Einstellungen. Manager und Mitglieder arbeiten mit Agenten und Ressourcen entsprechend ihren Berechtigungen. Rollenänderungen sind abgesichert, damit ein Workspace nicht versehentlich seinen letzten Admin verliert.

Wie Sie das überprüfen können

• Audit-Log: Jede Änderung über die Plattform, etwa das Anlegen eines Agenten, das Ändern einer Freigabe oder das Aktualisieren von Einstellungen, wird mit Person und Zeitpunkt protokolliert.
• Live-Ansicht: Während ein Agent arbeitet, sehen Sie, welcher Agent ausgewählt wurde, welches Wissen er durchsucht hat und welche Tools er aufgerufen hat, samt Ergebnissen.
• Verbrauch: Der Token-Verbrauch wird pro Agent erfasst und pro Benutzer und Team zusammengefasst, sodass Admins sehen, wo KI genutzt wird, ohne die Unterhaltungen anderer zu lesen.

Was Agenten nicht tun

• Sie sehen keine Dokumente, die die anfragende Person nicht sehen kann.
• Sie nutzen keine Tools, die ihnen nicht zugewiesen wurden.
• Spezial-Agenten erstellen keine eigenen weiteren Agenten.
• Ihre Daten werden nicht zum Training von KI-Modellen verwendet.

Sicherheitsteams haben meist weitere Fragen zu Hosting, Verschlüsselung und Modellanbietern. Diese beantworten wir auf unserer Seite Sicherheit und im Artikel wohin Ihre Daten gehen. Wenn Ihre Prüfung mehr braucht, sprechen Sie mit uns.