Ein Aspekt, der in der Diskussion um die Nutzung von KI-Agents häufig ausgeblendet wird, betrifft die Menschen, die mit diesen Systemen arbeiten sollen. Insbesondere jüngere IT-Administrierende oder Personen, die kurzfristig Verantwortung für einen bestehenden Technologiestack übernehmen, sind hier einem besonderen Risiko ausgesetzt. Sie treffen auf komplexe Systeme, ohne deren Entstehung, Historie oder architektonische Designentscheidungen im Detail zu kennen. In dieser Situation wirken automatisierte Antworten einer KI-Lösung nicht nur hilfreich, sondern auch alternativlos.
Wenn dann Empfehlungen von Suchmaschinen oder KI-Systemen kommen, entsteht schnell ein trügerisches Sicherheitsgefühl. Die Antwort wirkt fundiert, konsistent und technisch korrekt formuliert. Ohne eigenes Tiefenverständnis fehlt jedoch die Möglichkeit, diese Antwort einzuordnen, zu relativieren oder zu hinterfragen. Vertrauen ersetzt Prüfung. Und das nicht aus Bequemlichkeit, sondern aus Mangel an Orientierung.
Gerade erleben die sog. Admin-Agents einen Hype, der der Seinesgleichen sucht. Die Komplexität der einzelnen Cloudlösungen von Microsoft spiegelt sich auch in den Adminportalen der jeweiligen Dienste wider. Administrator:innen, die im Regelbetrieb stark eingebunden sind, fehlt schlichtweg die Zeit, sich fortzubilden und mit den neuesten Errungenschaften vertraut zu machen. Die Hoffnung, Funktionen besser und vor allem schneller in die Nutzung zu bringen, liegt ganz auf den Admin-Agents, die in immer mehr Adminportalen zur Verfügung stehen. Sie sollen helfen, Antworten auf wichtige administrative Fragestellungen zu finden und Standardaufgaben zu automatisieren.
Automatisierung verschiebt Risiken, sie beseitigt sie nicht
Automatisierte Systeme werden häufig als Mittel zur Risikoreduktion verstanden. Sie sollen menschliche Fehler vermeiden, Prozesse standardisieren und Entscheidungen reproduzierbar machen. Was dabei übersehen wird, ist die Verschiebung des Risikos von der Ausführung zur Bewertung.
Wenn Menschen nicht mehr beurteilen können, ob eine empfohlene Maßnahme sinnvoll ist, wird die Automatisierung selbst zum Risikotreiber. Der Fehler entsteht nicht in der Handlung, sondern im fehlenden Innehalten davor. In solchen Situationen ist nicht die KI das größte Risiko für einen sicheren IT-Betrieb, sondern der Mensch, der ihr blind vertraut.
Verantwortung ohne Reife
Besonders kritisch wird diese Entwicklung, wenn Verantwortung schneller wächst als Erfahrung. In vielen Organisationen werden Menschen mit administrativen Aufgaben betraut, ohne dass ausreichend Zeit für Einarbeitung, Mentoring oder Wissensaufbau vorhanden ist. Automatisierte Systeme schließen diese Lücke scheinbar sofort.
Doch diese Abkürzung hat ihren Preis. Verantwortung verlangt Urteilsfähigkeit, und Urteilsfähigkeit entsteht nicht aus Empfehlungen, sondern aus Erfahrung. Wenn diese Reife fehlt, wird jede automatisierte Entscheidung zu einem potenziellen Risiko. Selbst dann, wenn sie formal korrekt ist.
Der Mensch als neues Unsicherheitsmoment
In klassischen IT-Risikobetrachtungen stand lange Zeit die Technik im Mittelpunkt. Fehlkonfigurationen, Ausfälle, Sicherheitslücken und Angriffe prägten die Bedrohungsszenarien. Heute verschiebt sich dieser Fokus.
In hochautomatisierten Umgebungen wird der Mensch zunehmend zum unsichersten Faktor. Nicht, weil er unzuverlässig wäre, sondern weil ihm die Grundlage fehlt, um Entscheidungen kritisch zu hinterfragen. Automatisierung verstärkt diese Entwicklung, wenn sie nicht von Ausbildung, Zeit und Vertrauen in menschliches Lernen begleitet wird.
Ein sicherer IT-Betrieb entsteht nicht durch perfekte Systeme, sondern durch kompetente Menschen, die wissen, wann sie Systemen nicht vertrauen dürfen.
Eine unbequeme Erkenntnis
Vielleicht liegt hier die unbequemste Erkenntnis der aktuellen Entwicklung. Je mehr Verantwortung an Systeme delegiert wird, desto größer wird die Verantwortung derjenigen, die diese Systeme bewerten sollen. Wenn diese Verantwortung nicht bewusst aufgebaut und begleitet wird, entsteht ein gefährliches Ungleichgewicht.
Admin-Agents können unterstützen, beschleunigen und entlasten. Sie können jedoch keine Reife ersetzen. Und sie können nicht verhindern, dass Menschen zu einem Risiko werden, wenn sie gezwungen sind, Entscheidungen zu treffen, für die ihnen das Fundament fehlt.
Eine letzte Frage
Wenn automatisierte Agents entscheiden, empfehlen und handeln,
wenn Wissen schwindet, Erfahrung fehlt und Verantwortung formal bestehen bleibt,
wenn Menschen Systemen vertrauen müssen, die sie nicht mehr vollständig verstehen,
dann stellt sich eine unbequeme Frage:
Wer trägt in Zukunft die Verantwortung für einen sicheren IT-Betrieb?
Die KI, die entscheidet, oder die Menschen, die gelernt haben, ihr nicht mehr zu widersprechen?
