KI-Agenten schaffen eine neue Art von Mitarbeiterrisiko

Wichtige Erkenntnisse 

• KI-Agenten schaffen eine neue digitale Belegschaft und erhöhen rasant die Anzahl von nicht-menschlichen Identitäten, die Zugriff auf sensitive Daten haben.. 

• Da KI autonomer wird, verlagert sich die Sicherheit von der Kontrolle des Zugriffs auf die Kontrolle von Aktionen und Absichten. 

• Unternehmen benötigen eine datenzentrierte Sicherheitsebene, die Richtlinien durchsetzt, Risiken minimiert und eine sichere Einführung von KI ermöglicht. 

KI-Agenten: das neue digitale Mitarbeiterrisiko

Menschliches Versagen stellt traditionell das größte Risiko in der Cyber-Security dar, was zu Verstößen durch kompromittierte Identitäten und übermäßigen Zugriff auf sensitive Daten führt. Stellen Sie sich nun einen Mitarbeiter vor, der rund um die Uhr unbeaufsichtigt arbeitet, Zugriff auf private Datenspeicher hat und ohne Berechtigung handelt. Willkommen im Zeitalter des KI-Agenten – einer neuen Klasse von digitalem Mitarbeiter, der aktiv die interne Bedrohungslandschaft verändert. 

KI-Agenten transformieren aktiv, wie Risiken geschaffen werden. Sehen Sie sich zum Beispiel PocketOS an. Eines Morgens wachte der Gründer auf und stellte fest, dass Cursor, ein Codierungstool, das Unternehmen einschließlich der Datenbank und aller Backups gelöscht hatte. Es handelte nicht in böswilliger Absicht. Es hatte lediglich eine Diskrepanz bei der Durchführung einer Routineaufgabe gefunden und hatte sowohl die Initiative als auch die Autonomie, eine Entscheidung mit schwerwiegenden Folgen zu treffen. 

Die Absicherung von KI erfordert einen grundlegend anderen Ansatz, der zusätzliche Schutzvorkehrungen schafft, Transparenz über Datenzugriffe bietet und festlegt, ob eine Aktion überhaupt ausgeführt werden sollte. Um zunächst die Risiken zu verstehen, die von KI-Agenten ausgehen, ist es wichtig, ihr Verhalten in Unternehmensumgebungen genauer zu betrachten.

KI-Agenten handeln autonom auf Basis von Daten 

KI-Agenten sind intelligenter als frühere Modelle und autonomer. Mit Zugriff auf Unternehmensdatensysteme entscheiden sie, wie sie diese nutzen und welche Aktionen als Nächstes durchzuführen sind. Dies erhöht nicht nur die Geschwindigkeit der Risiken – es verändert, wie Risiken geschaffen werden. 

Wenn Aktionen mit Maschinengeschwindigkeit und in großem Maßstab ausgeführt werden, können selbst kleine Fehler oder Fehlkonfigurationen unverhältnismäßig große Auswirkungen haben. Deshalb reichen traditionelle, statische Kontrollen in einer KI-basierten Umgebung nicht aus.

KI-Agenten führen Aktionen ohne ausreichende Schutzmaßnahmen aus 

KI-Agenten führen Aufgaben zuverlässig aus. Aber sie verstehen Risiken oder Richtlinien nicht von Natur aus. Ohne durchgängige Schutzvorrichtungen handeln Agenten auf der Basis von unvollständigem oder falschem Kontext, besonders bei Interaktionen mit großen Mengen an Unternehmens- und externen Daten. 

Sich allein auf Modellschutzmaßnahmen zu verlassen, reicht nicht aus. Unternehmen benötigen Kontrollen auf Datenebene, die Richtlinien in Echtzeit für alle Identitäten und Systeme durchsetzen, unabhängig davon, wie sich Agenten verhalten. 

Ohne Datenzugriff können Sie das KI-Risiko nicht messen

Ohne die Sichtbarkeit des Datenzugriffs ist es unmöglich, das KI-Risiko vollständig zu messen – oder die potenziellen Auswirkungen der Aktionen eines Agenten zu verstehen. Der Schutz von Unternehmensdaten in der Zeit von Agentic KI bedeutet, von zugangsbasierten Fragen zu handlungsbasierten Fragen überzugehen. Mit anderen Worten: wie Daten verwendet werden und ob diese Aktionen in einem bestimmten Kontext angemessen sind.

Sicherheit muss sich vom Zugang zur Absicht weiterentwickeln

Agentic KI-Systeme arbeiten dynamisch, treffen Entscheidungen und handeln mit beispielloser Geschwindigkeit. Statische Richtlinien und vordefinierte Kontrollen genügen nicht länger. Die Sicherung von KI erfordert einen datenzentrierten Ansatz, der Datensensitivität, Berechtigungen, Identität und Aktivität verbindet, um zu bestimmen, ob eine Aktion erlaubt werden sollte. Ohne diesen Kontext können Unternehmen Risiken nicht zuverlässig bewerten oder riskantes Verhalten stoppen, bevor sensitive Daten offengelegt werden. Deshalb muss die Sicherheit näher an die Daten selbst rücken. 

Die Unternehmen, die in diesem neuen Zeitalter Erfolg haben, sind diejenigen, die dafür sorgen, dass die Einführung von KI sicher, konform und vertrauenswürdig ist.

 Hinweis: Dieser Blog wurde mit Hilfe von KI übersetzt und von unserem Team überprüft.