Die KI-Plattform Claude von Anthropic erhält eine neue Funktion namens «Smart Reports», die es Unternehmens-Administratoren erlaubt, die Nutzung von Claude durch ihre Mitarbeitenden zu überwachen. Auf der Oberfläche scheint dies eine vernünftige Massnahme zur Kostenkontrolle zu sein, schliesslich können KI-Dienste Gebrauch unterliegen und sollten optimiert werden.
Allerdings eröffnet diese Funktion auch Überwachungs-Möglichkeiten, die über einfache Kostenanalysen hinausgehen. Vorgesetzte könnten theoretisch einsehen, an welchen Aufgaben Mitarbeitende arbeiten, was sie zu Claude eingeben und wie intensiv einzelne Personen die KI nutzen. Dies kann als Leistungsbewertung verwendet werden, ein bisher in dieser Form nicht möglicher Einblick.
Für KMU entsteht hier eine komplexe Situation. Einerseits kann unkontrollierte KI-Nutzung zu erheblichen Kosten führen. Ein Mitarbeiter, der stundenlang komplexe KI-Anfragen stellt, kann monatlich bedeutende Summen verursachen. Andererseits haben Mitarbeitende ein berechtigtes Interesse daran, dass ihre Arbeit nicht überwacht wird wie mit Keyloggern oder Bildschirm-Überwachung.
Unternehmen sollten sich fragen, wie sie mit dieser Spannung umgehen. Empfohlen wird ein transparenter Ansatz: Mitarbeitenden deutlich machen, dass Claude-Nutzung nachverfolgbar ist, gleichzeitig aber klare Richtlinien etablieren, die festlegen, was genau überwacht wird und zu welchem Zweck. Die Daten sollten aggregiert werden, nicht auf individueller Ebene, und sollten nur für Kostenoptimierung genutzt werden, nicht als Basis für Bewertungen.
IT-Dienstleister können ihre Kunden bei dieser Balance unterstützen, indem sie klar formulierte Policies entwickeln und technische Grenzen setzen, die Überwachung auf notwendige Aspekte beschränken.