Ein praktischer Leitfaden zur sicheren Bereitstellung von generativer KI

Varonis und Jeff Pollard, Sicherheits- und Risikoanalyst bei Forrester, geben Einblicke, wie Sie generative KI sicher in Ihr Unternehmen integrieren können.
Megan Garza
3 minute gelesen
Letzte aktualisierung 24. Juni 2024
keyboard showing AI trying to access a shield to represent data security

In einer Zeit, in der die Popularität von KI – insbesondere generativer KI – weiter zunimmt, stehen Unternehmen vor neuen Herausforderungen, was den Schutz ihrer Daten und das Risikomanagement angeht.

Wir haben uns vor Kurzem mit Jeff Pollard, Sicherheits- und Risikoanalyst bei Forrester, über die Bedenken im Zusammenhang mit der sicheren Bereitstellung KI-gestützter Tools in Unternehmen unterhalten. Sehen Sie sich das vollständige Video hier an oder lesen Sie weiter, um alle Details zu erfahren.

Die Anwendungsfälle von KI verstehen

Die Funktionen für natürliche Sprache von generativer KI mögen zwar hilfreich für Endbenutzer sein, können jedoch auch zur Preisgabe von Geheimnissen und privaten Informationen führen, wie Jeff betonte. In der Vergangenheit mussten Bedrohungsakteure mit Hilfe von Code in ein System eindringen, aber mit generativer KI können Angreifer bereits auf sensible Informationen zugreifen, indem sie ganz einfach eine Frage stellen.

Sicherheit ist für das Geschäftsergebnis von entscheidender Bedeutung, und KI macht dies dringender denn je. Dieser Leitfaden zeigt Ihnen, wie Sie generative KI auf sichere Weise in Ihrem Unternehmen bereitstellen können, um die Effizienz zu steigern und gleichzeitig die Risiken zu verringern.

Um die sichere Einführung von generativer KI in Ihrem Unternehmen zu gewährleisten, ist es wichtig zu verstehen, wie Ihr Team sie zu nutzen gedenkt. Analysieren Entwickler den Code? Ist Ihr Marketingteam auf der Suche nach E-Mail-Tipps?

Jeder Anwendungsfall hat ein anderes Risikoprofil, und wenn Sie verstehen, was diese Anwendungsfälle sind, können Sie alle Sicherheitslücken identifizieren und herausfinden, wie böswillige Akteure sie ausnutzen könnten.

Dann können Sie Leitlinien für den Einsatz von generativer KI in Ihrem Unternehmen schaffen und festlegen, wer sie einsetzen kann und wie.

Auswirkungen von KI auf Geschäftsziele

Die Auswirkungen von KI gehen über den technologischen Fortschritt hinaus: Sie betreffen ebenfalls Geschäftsziele wie Umsatzwachstum und Kostensenkung. Sicherheitsverantwortliche müssen die Sicherheitsmaßnahmen an diesen Zielen ausrichten, um ein effektives Gleichgewicht zwischen Innovation und Risikominderung herzustellen.

Auch die Rolle der CISOs verändert sich. Diese Führungskräfte spielen eine wichtige Rolle bei der internen und externen Risikobewertung von Unternehmen, da Kunden und Lieferanten von den Unternehmen, mit denen sie Geschäfte machen, mehr Sicherheit fordern. Eine schlechte Sicherheitslage kann sich auf den Umsatz auswirken, da Kunden es vermeiden, mit Unternehmen Geschäfte zu machen, die ihre Daten in Gefahr bringen.

Die Auswirkungen von KI gehen über den technologischen Fortschritt hinaus: Sie betreffen ebenfalls Geschäftsziele wie Umsatzwachstum und Kostensenkung. Sicherheitsverantwortliche müssen die Sicherheitsmaßnahmen an diesen Zielen ausrichten, um ein effektives Gleichgewicht zwischen Innovation und Risikominderung herzustellen.

Evangelisierung der KI

Die Aufklärung von Sicherheitsexperten und Endbenutzern ist unerlässlich, um eine sichere KI-Nutzung zu gewährleisten.

Bringen Sie Ihren Mitarbeitern stattdessen bei, wie man KI richtig einsetzt, und erstellen Sie sichere KI-Richtlinien. Zusätzlich zu den Richtlinien und der Aufklärung müssen sich Unternehmen darauf konzentrieren, ihren Explosionsradius zu verkleinern – also alle Daten, auf die ein Angreifer oder Mitarbeiter zugreifen kann.

GenAI-Tools stützen sich auf die vorhandenen Berechtigungen eines Benutzers, um zu bestimmen, welche Dateien, E-Mails usw. für die Generierung von KI-Antworten verwendet werden. Bei übermäßigen Berechtigungen besteht ein reales Risiko, dass GenAI-Copilots sensible Daten ausspähen. Fast 99 % der Berechtigungen werden nicht genutzt, und mehr als die Hälfte davon sind hochriskant, wodurch ein enormer Explosionsradius des potenziellen Schadens entsteht, den ein Verstoß verursachen könnte.

Fachkräfte müssen mit Abteilungsleitern zusammenarbeiten und sie darin schulen, was es heißt, KI auf verantwortungsvolle Weise einzuführen. Das bedeutet auch, Berechtigungen richtig zu bemessen und Daten zu sichern, sodass Mitarbeiter nur auf die Informationen zugreifen können, die sie für ihre Arbeit benötigen.

Drittanbieter-Apps und KI

Nun, wo Drittanbieter beginnen, KI-Lösungen in ihren Anwendungen einzuführen – und diese standardmäßig zu aktivieren –, kann es vorkommen, dass Sicherheitsverantwortliche diese Änderungen nicht bemerken und Schwierigkeiten haben zu erkennen, welche Apps ein Sicherheitsrisiko darstellen könnten.

CISOs müssen wissen, auf welche Daten Drittanbieter-Apps zugreifen und wie sie diese nutzen und erheben. Ebenso müssen sie feststellen, ob und wie diese Apps Daten speichern, verarbeiten oder übertragen.

Da diese Aktualisierungen von Drittanbietern automatisch erfolgen, kann eine Out-of-Band-Überprüfung helfen, KI-Funktionen zu identifizieren, die möglicherweise nach der Implementierung der App hinzugefügt wurden.

Der ROI von KI

Der Einsatz von KI bringt sowohl Chancen als auch Herausforderungen mit sich und erfordert ein Gleichgewicht zwischen Effizienzsteigerung und Risikomanagement. Doch selbst wenn Sie die Schulungsanforderungen, zusätzliche Sicherheitskontrollen und Computerressourcen berücksichtigen, rechtfertigt der potenzielle ROI von KI ihren Einsatz.

Laut der Forrester-Studie zum Total Economic Impact™ of Copilot for Microsoft 365 führte die Implementierung des GenAI-Tools zu „höheren Umsätzen, niedrigeren internen und externen Betriebskosten sowie einer verbesserten Mitarbeitererfahrung und Unternehmenskultur“. 

Generative KI kann zwar die Produktivität Ihres Unternehmens auf ein komplett neues Level heben, aber Sicherheitsverantwortliche, die keine sicheren Wege zur Bereitstellung von KI erforschen, werden ein böses Erwachen erleben.

Sicherheitsverantwortliche, die sich aktiv für KI einsetzen, haben die einmalige Chance, mit einem Sicherheits-Mindset die Innovation voranzutreiben.

Vor, während und nach KI-Bereitstellungen ist es ebenfalls notwendig, dass Unternehmen ihre Datensicherheitslage verbessern. Ansonsten ist es so, als würden Unternehmen von einer GenAI-Lösung erwarten, dass sie Daten schützt, auf deren Handhabung oder Verwaltung sie selbst nicht vorbereitet sind.

Die Zukunft von KI

Die KI-Technologie entwickelt sich schneller als ihre Sicherheit. Da der Einsatz von KI immer weiter zunimmt, ist es von entscheidender Bedeutung, dass Sie über einen ganzheitlichen Ansatz für die Datensicherheit sowie spezifische Kontrollen für die Copilots selbst verfügen.

Varonis unterstützt Unternehmen bei der sicheren Bereitstellung generativer KI und schützt sensible Daten vor Lecks, indem es Ihnen die vollständige Übersicht und Verwaltung von KI-Tools und -Aufgaben bietet. In einer 30-minütigen Demo erfahren Sie, wie unsere cloudnative Lösung alle Ihre KI-Sicherheitsanforderungen abdecken kann.

What should I do now?

Below are three ways you can continue your journey to reduce data risk at your company:

1

Schedule a demo with us to see Varonis in action. We'll personalize the session to your org's data security needs and answer any questions.

2

See a sample of our Data Risk Assessment and learn the risks that could be lingering in your environment. Varonis' DRA is completely free and offers a clear path to automated remediation.

3

Follow us on LinkedIn, YouTube, and X (Twitter) for bite-sized insights on all things data security, including DSPM, threat detection, AI security, and more.

Testen Sie Varonis gratis.

Detaillierte Zusammenfassung Ihrer Datensicherheitsrisiken
Umsetzbare Empfehlungen, die auf Ihre Bedürfnisse zugeschnitten sind
Ohne Bedingungen und Auflagen

Weiter lesen

Varonis bewältigt Hunderte von Anwendungsfällen und ist damit die ultimative Plattform, um Datenschutzverletzungen zu stoppen und Compliance sicherzustellen.

intelligente-sicherheitsanalysen-und-bedrohungsdaten-mit-azure-sentinel
Intelligente Sicherheitsanalysen und Bedrohungsdaten mit Azure Sentinel
Daten sind zu einem wichtigen Werkzeug geworden und Sicherheit ist das oberste Gebot für jedes Unternehmen. Es ist fast unmöglich, die großen Mengen von Sicherheitswarnungen, die von Systemen erzeugt werden,...
generative-ai-security:-ensuring-a-secure-microsoft-copilot-rollout
Generative AI Security: Ensuring a Secure Microsoft Copilot Rollout
Dieser Artikel beschreibt, wie das Sicherheitsmodell von Microsoft 365 Copilot funktioniert und welche Risiken berücksichtigt werden müssen, um einen sicheren Rollout zu gewährleisten.
sichere-nutzung-von-aws-s3:-setup-leitfaden
Sichere Nutzung von AWS S3: Setup-Leitfaden
Erfahren Sie, wie Sie AWS S3 sicher konfigurieren. Wählen Sie die richtigen Verschlüsselungs-, Replikations- und Sicherheitskontrollen für Ihre S3-Buckets.
grundlagen-der-cloud-sicherheit:-argumente-für-automatisiertes-dspm
Grundlagen der Cloud-Sicherheit: Argumente für automatisiertes DSPM
Data Security Posture Management (DSPM) hat sich als Standard für die Sicherung sensibler Daten in der Cloud und anderen Umgebungen etabliert. Ohne Automatisierung hat DSPM jedoch keine Chance: Sie ist entscheidend für die Bewältigung der Herausforderungen bei der Sicherung von Daten in der Cloud.