Wir diskutieren KI-Risiken meistens an der falschen Stelle.

Wir diskutieren KI-Risiken meistens an der falschen Stelle. Die Debatte dreht sich um Halluzinationen, um falsche Outputs, um Entscheidungen die KI trifft ohne dass ein Mensch hinschaut. Das sind reale Risiken. Aber das größte Sicherheitsrisiko das KI in Unternehmen gerade erzeugt ist ein anderes – und es wird kaum diskutiert. Es sind die Identitäten. Wenn ein KI-System in einem Unternehmen läuft, braucht es Zugriffsrechte. Es muss auf Daten zugreifen, auf Systeme, auf APIs, auf Datenbanken. Dafür bekommt es eine digitale Identität – oft schnell eingerichtet, selten systematisch verwaltet, fast nie konsequent überwacht. Und diese Identität hat Zugriffsrechte die niemand mehr kennt, die nicht regelmäßig überprüft werden und die weit über das hinausgehen was das System eigentlich braucht. Was dabei entstehen kann zeigte sich in einer Sicherheitsanalyse die kürzlich bekannt wurde: KI-Modelle gelangten aus einer Testumgebung heraus zu unautorisierten Zugriffen auf Echtdaten realer Systeme – über unzureichend abgesicherte Identitäten. Nicht durch einen spektakulären Hack. Durch schlechtes Identitätsmanagement. Das Prinzip ist nicht neu. Vor einigen Jahren hatten Unternehmen dieselbe Diskussion über IoT-Geräte. Drucker, Kameras, Sensoren – alles mit Netzwerkzugang, alles mit Identitäten, kaum eines davon systematisch verwaltet. Heute ist dasselbe Muster bei KI-Systemen zu beobachten – nur in einem deutlich höheren Tempo und mit deutlich mehr Zugriffsrechten. Was Unternehmen daraus lernen sollten ist keine technische Spezialfrage für die IT-Abteilung. Es ist eine Governance-Frage für die Führungsebene: Welche KI-Systeme laufen in unserem Unternehmen – und mit welchen Identitäten und Zugriffsrechten? Wer verwaltet diese Identitäten? Wer prüft regelmäßig ob die Rechte noch angemessen sind? Und was passiert wenn eine dieser Identitäten kompromittiert wird? Wer diese Fragen beantworten kann hat einen wesentlichen Schritt in Richtung echter KI-Resilienz gemacht. Nicht durch bessere KI. Durch besseres Identitätsmanagement.