Die unkontrollierte KI-Agenten werden ein 'digitales Großfeuer' auslösen... Was ist die von Rubric vorgeschlagene Lösung?

Mit der Einführung von Künstlicher Intelligenz (AI) durch Unternehmen zur Schaffung autonomer Arbeitsumgebungen werden die Kontrollrechte und das Sicherheitsmanagement von KI-Agenten zu einem zentralen Thema der digitalen Betriebsführung. Besonders hochentwickelte KI-Agenten sind in der Lage, im Namen des Benutzers Aufgaben auszuführen oder Geschäftsentscheidungen zu treffen. Wird die Sicherheit jedoch durchbrochen, kann dies zu dem schlimmsten Szenario führen, in dem das gesamte Organisationssystem unter Kontrolle gerät.

Rubrik Mitbegründer und CEO ( CEO ) Bipul Sinha ( betonte in einem kürzlichen Interview: „In einer Zeit, in der Agenten Geschäfte mit übermenschlicher Geschwindigkeit abwickeln, können innerhalb von nur 10 Minuten Schäden von bis zu 10-fach entstehen.“ Er wies darauf hin, dass die ‚Agentensteuerung‘, die von traditionellen Sicherheitsarchitekturen schwer zu kontrollieren ist, als neues Kontrollmittel aufkommt. Er erklärte: „KI-Agenten führen Geschäftsprozesse wie Menschen aus und imitieren manchmal sogar die Identität der Benutzer, weshalb sie die Eigenschaften von ‚superhuman‘ besitzen."

Um die Sicherheit der Agenten zu erhöhen, hat Rubrik eine neue Plattform namens ‚Rubrik Agent Cloud‘ eingeführt. Dieses System kann die Arten und den Aktionsbereich der AI-Agenten innerhalb der Organisation analysieren, Bedrohungsverhalten anhand vordefinierter Schutzmaßnahmen erkennen und bei Bedarf eine schnelle Rücknahme des Agenten ermöglichen. CEO Sinha erklärte: „Alle AI-Agenten sollten wie neue Mitarbeiter behandelt werden und müssen mit einem Verhaltenskodex, einem Überwachungssystem und einem Aussetzungsverfahren für den Fall von Problemen ausgestattet sein.“

Doch das eigentliche Problem der Proxy-Governance liegt in der Geschwindigkeit der großflächigen Ausbreitung. Wenn Proxys ohne ausreichende Sichtbarkeit und Kontrolle unkontrolliert verbreitet werden, kann dies dazu führen, dass kleine Ausfälle sich zu einer ‘digitalen Großbrandkatastrophe’ entwickeln, die das gesamte System lahmlegt. In diesem Zusammenhang empfiehlt CEO Sinha, dass Organisationen keine zu großen Automatisierungspläne aufstellen sollten, sondern sich darauf beschränken, nach der Pilotphase von 3-4 Kernarbeitsabläufen schrittweise den Umfang zu erweitern.

Sinha warnte: “Die Betriebsumgebung muss präzise KI verwenden; wenn keine Kostenmanagementfähigkeiten vorhanden sind, werden die Kosten für die Schlussfolgerung außer Kontrolle geraten und sprunghaft ansteigen.” Dies bedeutet, dass die Kostenstabilität als realer Faktor in der Strategie zur Verbreitung von KI-Agenten nicht ignoriert werden darf.

In der heutigen Zeit, in der KI-Technologie tief in die Gesamtstruktur von Unternehmen integriert ist, hat die von Rubrik vorgeschlagene Strategie der ‚Agentensteuerung‘ die bloßen Sicherheitsmaßnahmen übertroffen und wird zum zentralen Kontrollturm für die konkrete digitale Resilienz und Nachhaltigkeit der Organisation.