So nennt man KI-Tools, die Mitarbeitende ohne Wissen oder Freigabe des Unternehmens nutzen, oft mit privaten Konten. Das Problem ist selten die Absicht, sondern dass Firmendaten dabei unkontrolliert in fremde Dienste gelangen. Die Lösung ist meist kein Verbot, sondern ein gutes freigegebenes Werkzeug plus klare Regeln.

Ein Angriff, bei dem versteckte Anweisungen in Texten stecken, die eine KI verarbeitet – etwa in einer E-Mail, einem PDF oder auf einer Webseite. Liest ein KI-Assistent das Dokument, kann er die Anweisung für einen Auftrag halten. Deshalb bekommen Agenten bei uns nur eng gefasste Rechte, und wir testen gezielt auf solche Tricks.

Red-Teaming heißt, ein System aus Sicht eines Angreifers zu prüfen. Bei KI versuchen wir, Assistenten und Agenten zu Dingen zu bringen, die sie nicht tun sollen: vertrauliche Daten herausgeben, Regeln umgehen, unerlaubte Aktionen auslösen. Was wir finden, wird behoben, bevor es jemand anderes findet.

Copilot arbeitet innerhalb eures Microsoft-365-Tenants und hält sich an die bestehenden Berechtigungen. Genau da liegt der Punkt: Er zeigt alles, was eine Person sehen darf. Sind die Rechte sauber, ist Copilot gut beherrschbar. Deshalb steht bei uns vor jeder Einführung eine Rechteprüfung.

Ein Verbot verlagert die Nutzung meist nur ins Private. Sinnvoller ist ein freigegebenes Werkzeug, das gut funktioniert, dazu klare Regeln und Schulung. Für sehr sensible Bereiche kann ein Verbot trotzdem richtig sein – das entscheiden wir mit euch, nicht pauschal.

KI-Sicherheit baut darauf auf. Firewall, Backup, Zwei-Faktor-Anmeldung und Awareness bleiben die Grundlage. Dazu kommen die Fragen, die mit KI neu entstehen: Welche Daten sieht ein Assistent, was darf ein Agent, und wie hält beides einem gezielten Angriff stand?