Ein praktischer Leitfaden zur sicheren Bereitstellung von generativer KI

In einer Zeit, in der die Popularität von KI – insbesondere generativer KI – weiter zunimmt, stehen Unternehmen vor neuen Herausforderungen, was den Schutz ihrer Daten und das Risikomanagement angeht.

Wir haben uns vor Kurzem mit Jeff Pollard, Sicherheits- und Risikoanalyst bei Forrester, über die Bedenken im Zusammenhang mit der sicheren Bereitstellung KI-gestützter Tools in Unternehmen unterhalten. Sehen Sie sich das vollständige Video hier an oder lesen Sie weiter, um alle Details zu erfahren.

Die Anwendungsfälle von KI verstehen

Die Funktionen für natürliche Sprache von generativer KI mögen zwar hilfreich für Endbenutzer sein, können jedoch auch zur Preisgabe von Geheimnissen und privaten Informationen führen, wie Jeff betonte. In der Vergangenheit mussten Bedrohungsakteure mit Hilfe von Code in ein System eindringen, aber mit generativer KI können Angreifer bereits auf sensible Informationen zugreifen, indem sie ganz einfach eine Frage stellen.

Sicherheit ist für das Geschäftsergebnis von entscheidender Bedeutung, und KI macht dies dringender denn je. Dieser Leitfaden zeigt Ihnen, wie Sie generative KI auf sichere Weise in Ihrem Unternehmen bereitstellen können, um die Effizienz zu steigern und gleichzeitig die Risiken zu verringern.

Um die sichere Einführung von generativer KI in Ihrem Unternehmen zu gewährleisten, ist es wichtig zu verstehen, wie Ihr Team sie zu nutzen gedenkt. Analysieren Entwickler den Code? Ist Ihr Marketingteam auf der Suche nach E-Mail-Tipps?

Jeder Anwendungsfall hat ein anderes Risikoprofil, und wenn Sie verstehen, was diese Anwendungsfälle sind, können Sie alle Sicherheitslücken identifizieren und herausfinden, wie böswillige Akteure sie ausnutzen könnten.

Dann können Sie Leitlinien für den Einsatz von generativer KI in Ihrem Unternehmen schaffen und festlegen, wer sie einsetzen kann und wie.

Auswirkungen von KI auf Geschäftsziele

Die Auswirkungen von KI gehen über den technologischen Fortschritt hinaus: Sie betreffen ebenfalls Geschäftsziele wie Umsatzwachstum und Kostensenkung. Sicherheitsverantwortliche müssen die Sicherheitsmaßnahmen an diesen Zielen ausrichten, um ein effektives Gleichgewicht zwischen Innovation und Risikominderung herzustellen.

Auch die Rolle der CISOs verändert sich. Diese Führungskräfte spielen eine wichtige Rolle bei der internen und externen Risikobewertung von Unternehmen, da Kunden und Lieferanten von den Unternehmen, mit denen sie Geschäfte machen, mehr Sicherheit fordern. Eine schlechte Sicherheitslage kann sich auf den Umsatz auswirken, da Kunden es vermeiden, mit Unternehmen Geschäfte zu machen, die ihre Daten in Gefahr bringen.

Die Auswirkungen von KI gehen über den technologischen Fortschritt hinaus: Sie betreffen ebenfalls Geschäftsziele wie Umsatzwachstum und Kostensenkung. Sicherheitsverantwortliche müssen die Sicherheitsmaßnahmen an diesen Zielen ausrichten, um ein effektives Gleichgewicht zwischen Innovation und Risikominderung herzustellen.

Evangelisierung der KI

Die Aufklärung von Sicherheitsexperten und Endbenutzern ist unerlässlich, um eine sichere KI-Nutzung zu gewährleisten.

Bringen Sie Ihren Mitarbeitern stattdessen bei, wie man KI richtig einsetzt, und erstellen Sie sichere KI-Richtlinien. Zusätzlich zu den Richtlinien und der Aufklärung müssen sich Unternehmen darauf konzentrieren, ihren Explosionsradius zu verkleinern – also alle Daten, auf die ein Angreifer oder Mitarbeiter zugreifen kann.

GenAI-Tools stützen sich auf die vorhandenen Berechtigungen eines Benutzers, um zu bestimmen, welche Dateien, E-Mails usw. für die Generierung von KI-Antworten verwendet werden. Bei übermäßigen Berechtigungen besteht ein reales Risiko, dass GenAI-Copilots sensible Daten ausspähen. Fast 99 % der Berechtigungen werden nicht genutzt, und mehr als die Hälfte davon sind hochriskant, wodurch ein enormer Explosionsradius des potenziellen Schadens entsteht, den ein Verstoß verursachen könnte.

Fachkräfte müssen mit Abteilungsleitern zusammenarbeiten und sie darin schulen, was es heißt, KI auf verantwortungsvolle Weise einzuführen. Das bedeutet auch, Berechtigungen richtig zu bemessen und Daten zu sichern, sodass Mitarbeiter nur auf die Informationen zugreifen können, die sie für ihre Arbeit benötigen.

Drittanbieter-Apps und KI

Nun, wo Drittanbieter beginnen, KI-Lösungen in ihren Anwendungen einzuführen – und diese standardmäßig zu aktivieren –, kann es vorkommen, dass Sicherheitsverantwortliche diese Änderungen nicht bemerken und Schwierigkeiten haben zu erkennen, welche Apps ein Sicherheitsrisiko darstellen könnten.

CISOs müssen wissen, auf welche Daten Drittanbieter-Apps zugreifen und wie sie diese nutzen und erheben. Ebenso müssen sie feststellen, ob und wie diese Apps Daten speichern, verarbeiten oder übertragen.

Da diese Aktualisierungen von Drittanbietern automatisch erfolgen, kann eine Out-of-Band-Überprüfung helfen, KI-Funktionen zu identifizieren, die möglicherweise nach der Implementierung der App hinzugefügt wurden.

Der ROI von KI

Der Einsatz von KI bringt sowohl Chancen als auch Herausforderungen mit sich und erfordert ein Gleichgewicht zwischen Effizienzsteigerung und Risikomanagement. Doch selbst wenn Sie die Schulungsanforderungen, zusätzliche Sicherheitskontrollen und Computerressourcen berücksichtigen, rechtfertigt der potenzielle ROI von KI ihren Einsatz.

Laut der Forrester-Studie zum Total Economic Impact™ of Copilot for Microsoft 365 führte die Implementierung des GenAI-Tools zu „höheren Umsätzen, niedrigeren internen und externen Betriebskosten sowie einer verbesserten Mitarbeitererfahrung und Unternehmenskultur“. 

Generative KI kann zwar die Produktivität Ihres Unternehmens auf ein komplett neues Level heben, aber Sicherheitsverantwortliche, die keine sicheren Wege zur Bereitstellung von KI erforschen, werden ein böses Erwachen erleben.

Sicherheitsverantwortliche, die sich aktiv für KI einsetzen, haben die einmalige Chance, mit einem Sicherheits-Mindset die Innovation voranzutreiben.

Vor, während und nach KI-Bereitstellungen ist es ebenfalls notwendig, dass Unternehmen ihre Datensicherheitslage verbessern. Ansonsten ist es so, als würden Unternehmen von einer GenAI-Lösung erwarten, dass sie Daten schützt, auf deren Handhabung oder Verwaltung sie selbst nicht vorbereitet sind.

Die Zukunft von KI

Die KI-Technologie entwickelt sich schneller als ihre Sicherheit. Da der Einsatz von KI immer weiter zunimmt, ist es von entscheidender Bedeutung, dass Sie über einen ganzheitlichen Ansatz für die Datensicherheit sowie spezifische Kontrollen für die Copilots selbst verfügen.

Varonis unterstützt Unternehmen bei der sicheren Bereitstellung generativer KI und schützt sensible Daten vor Lecks, indem es Ihnen die vollständige Übersicht und Verwaltung von KI-Tools und -Aufgaben bietet. In einer 30-minütigen Demo erfahren Sie, wie unsere cloudnative Lösung alle Ihre KI-Sicherheitsanforderungen abdecken kann.