Dalle previsioni alle allerte e agli avvisi... I meteorologi non emettono avvisi per ogni nuvola avvistata. Li emettono quando una serie significativa di condizioni supera una soglia e indica una probabilità concreta che si verifichi un evento. La maggior parte delle organizzazioni ora accetta una verità fondamentale sulla sicurezza dell’AI: non può proteggere ciò che non può vedere.
Questa consapevolezza ha spinto un'ondata di investimenti nell'inventario e nella visibilità dell'AI per scoprire dove esiste, come viene utilizzata e quali sistemi e componenti la consentano. Ma la sola visibilità non riduce il rischio. Sono in fase di implementazione anche soluzioni native per fornire visibilità, aggiungendo al contempo un unico vettore di analisi del rischio, principalmente attraverso le configurazioni errate.
Ed è qui che entra in gioco la gestione della postura di sicurezza dedicata all'AI (AI-SPM).
L'AI-SPM è la disciplina che trasforma la visibilità dell'AI in azione. Valuta continuamente i sistemi di AI per molteplici condizioni (non solo una) che creano rischi di sicurezza, conformità e operativi e aiuta i team a risolvere questi problemi prima che diventino incidenti.
Che ci sia bel tempo o meno, serve AI-SPM
Le previsioni meteorologiche moderne non si basano sul guardare fuori dalla finestra.
Si tratta di strumentazione — radar, satelliti, modelli atmosferici e sistemi di allerta precoce. I meteorologi non prevengono le tempeste, ma evitano sorprese. Tracciano le condizioni molto prima che si formi una tempesta, modellano l'evoluzione di tali condizioni ed emettono allerte e avvisi finché c'è ancora tempo per agire.
La sicurezza dell'IA è una disciplina simile.
L'inventario e la visibilità dell'AI sono il radar e i satelliti della sicurezza AI. Rispondono a domande fondamentali:
- Quali sistemi di IA esistono?
- Quali modelli, pipeline e agenti sono in uso?
- Dove entrano ed escono i dati dai sistemi AI?
AI-SPM si basa su queste fondamenta ponendosi una domanda più complessa: alla luce di quanto abbiamo scoperto, qual è il problema più probabile che si verifichi in futuro?
Vedere una tempesta sul radar non dice se si intensificherà, dove cadrà o quanto sarà grave l'impatto. Per questo, è necessario fare previsioni, trasformando la visibilità grezza in segnali di rischio e i segnali di rischio in azioni prioritarie.
I segnali di rischio potrebbero includere diversi vettori:
- Vulnerabilità note nel codice e nei modelli di IA
- Errori di configurazione nell'infrastruttura cloud o negli endpoint che supportano l'AI
- Dati sensibili incorporati negli artefatti di sviluppo dell'IA
- Strumenti potenzialmente avvelenati
- Comportamento disallineato dai server MCP
Varonis Atlas trasforma la visibilità pura in segnali di rischio e i segnali di rischio in azioni prioritarie.
Varonis Atlas trasforma la visibilità pura in segnali di rischio e i segnali di rischio in azioni prioritarie.
Non si tratta di minacce teoriche. Sono gli equivalenti specifici dell'AI dell'instabilità atmosferica: condizioni che possono sembrare innocue se considerate singolarmente, ma pericolose se combinate.
In che modo l'AI-SPM si differenzia da DSPM e CSPM
AI-SPM può spesso essere applicato erroneamente come etichetta alle soluzioni esistenti di gestione della postura, ma la distinzione conta.
La gestione della postura di sicurezza dei dati (DSPM) si concentra principalmente sui dati: dove si trovano i dati sensibili, come vengono classificati e chi può accedervi. AI‑SPM si sovrappone a DSPM quando i dati sensibili appaiono all'interno di asset di AI. Ma i sistemi di intelligenza artificiale non si limitano a memorizzare dati; ragionano su di essi, li recuperano e ne generano di nuovi. Questo crea percorsi di esposizione che il DSPM da solo non può rimediare.
La gestione della postura di sicurezza cloud (CSPM) si concentra sull'infrastruttura cloud: identità, networking, accesso allo storage e configurazione di base. L'AI-SPM include questi controlli, ma estende la gestione della postura di sicurezza ad aree per le quali il CSPM non era stato progettato, come le dipendenze del codice AI, gli artefatti dei modelli, gli endpoint di inferenza e le toolchain degli agenti.
In termini meteorologici, l'AI-SPM modella l'intero sistema di tempeste e i modelli meteorologici.
L'AI-SPM ispeziona ogni parte di un sistema per determinare dove potrebbe verificarsi una
L'AI-SPM ispeziona ogni parte di un sistema per determinare dove potrebbe verificarsi una
Perché l'AI‑SPM è importante per la governance e la regolamentazione
L'AI‑SPM non è solo una migliore pratica di sicurezza. Sta diventando un requisito di governance.
Framework come ISO/IEC 42001 enfatizzano la gestione del rischio dell'AI basata sul ciclo di vita. Questo presuppone che le organizzazioni possano continuamente identificare e mitigare i rischi tecnici, non solo redigere politiche a riguardo.
Il framework di gestione del rischio AI del NIST si basa sulla gestione della postura per le sue funzioni di misura e gestione. Non si può misurare il rischio dell'AI, né gestirlo in modo significativo, senza una valutazione continua di vulnerabilità, configurazioni errate e comportamenti pericolosi.
Inoltre, ai sensi dell'AI Act dell'UE, la postura diventa vincolante. I sistemi di AI ad alto rischio devono dimostrare resilienza in materia di cybersecurity, registrazione degli accessi (logging) e protezione contro lo sfruttamento delle vulnerabilità. L'AI-SPM fornisce la prova che tali controlli esistono concretamente nella pratica.
A cosa si applica l'AI-SPM
Uno dei fraintendimenti più comuni sulla sicurezza dell'AI è che si tratti "solo del modello".
In realtà, i sistemi di AI sono composti da più componenti e, pertanto, un AI-SPM efficace deve coprire quattro livelli:
- Applicazioni dell'AI: chatbot, copilot, agenti e applicazioni embedded.
- Modelli ed endpoint di inferenza: modelli commerciali, open-source, perfezionati e API ospitate.
- Componenti e strumenti agentici: agenti e server MCP, gli strumenti che possono richiamare e i framework di orchestrazione.
- Dati, codice e infrastrutture di supporto: dataset, notebook, pipeline, storage, credenziali e servizi cloud.
Se un componente influenza il comportamento dell'AI, contribuisce al rischio dell'AI e rientra nell'ambito della gestione della postura.
I rischi che AI‑SPM è progettato per individuare
Le soluzioni AI-SPM dovrebbero ricercare sia le vulnerabilità individuali che gli schemi ricorrenti.
Le soluzioni AI‑SPM dovrebbero essere in grado di identificare come problemi apparentemente isolati si combinano in rischi significativi. Ad esempio, le dipendenze obsolete abbinate a identità cloud permissive possono ampliare il percorso di sfruttamento di un aggressore.
Dati sensibili incorporati in notebook che alimentano pipeline di recupero possono esporre informazioni in modi che i team potrebbero non riconoscere immediatamente. E gli agenti con accesso a strumenti al di là del loro scopo previsto possono introdurre un uso improprio o azioni non intenzionali.
Singolarmente, questi problemi possono sembrare di scarsa gravità, ma insieme creano le condizioni per guasti di grande impatto.
Ecco perché l'AI-SPM fa emergere problematiche suddivise in categorie quali CVE, errori di configurazione, esposizione dei dati, problemi di integrità dei modelli, vulnerabilità degli endpoint e minacce legate agli agenti AI, ricollegando poi tali evidenze ai sistemi che ne sono colpiti. L'obiettivo non è semplicemente quello di elencare i problemi, ma di aiutare i team a capire quali combinazioni di rischio siano più rilevanti e dove sia necessario intervenire prioritariamente.
Poi, le soluzioni AI-SPM devono intervenire. Varonis Atlas offre ai team di sicurezza la possibilità di eseguire la remediation dalla piattaforma o fornisce istruzioni e indicazioni se i team vogliono eseguire cambiamenti all'interno dell'ambiente specifico interessato.
Intervieni sui risultati di AI-SPM invece di creare una lista infinita di cose da fare.
Intervieni sui risultati di AI-SPM invece di creare una lista infinita di cose da fare.
Dalle previsioni agli avvisi e alle allerte
I meteorologi non emettono avvisi per ogni nuvola avvistata. Li emettono quando una serie significativa di condizioni supera una soglia e indica una probabilità concreta che si verifichi un evento.
AI‑SPM apporta la stessa disciplina alla sicurezza dell'AI aiutando i team a distinguere tra il rumore di fondo e le combinazioni di condizioni che meritano attenzione. Trasforma l'inventario in intuizioni, la visibilità in priorità e il rischio in azione mentre c'è ancora tempo per reagire.
Varonis Atlas fornisce ai team di sicurezza il contesto necessario per conoscere il profilo di rischio complessivo di ogni rilevamento e come porvi rimedio.
Varonis Atlas fornisce ai team di sicurezza il contesto necessario per conoscere il profilo di rischio complessivo di ogni rilevamento e come porvi rimedio.
Man mano che i sistemi di intelligenza artificiale diventano più autonomi, più interconnessi e più regolamentati, l'AI‑SPM non è più opzionale per le piattaforme di sicurezza AI complete. È il meccanismo che trasforma la sicurezza AI da pulizia reattiva a gestione proattiva del rischio.
Il radar dice cosa esiste.Le previsioni dicono cosa sta per accadere.
I meteorologi agiscono in base alle informazioni.
AI Security Posture Management fa tutto quanto sopra: ed è per questo che è importante.
Nota: questo blog è stato tradotto con l'aiuto dell'AI e corretto da un traduttore umano.
