Os agentes de IA estão criando uma nova classe de risco para os funcionários

Lições aprendidas 

• Agentes de IA estão criando uma nova força de trabalho digital, aumentando rapidamente o número de identidades não humanas que acessam dados sensíveis. 

• À medida que a IA se torna mais autônoma, a segurança deixa de se concentrar apenas no controle de acesso e passa a controlar também as ações e as intenções. 

• As organizações precisam de uma camada de segurança centrada em dados que aplique políticas, reduza riscos e possibilite a adoção segura da IA. 

Agentes de IA: o novo risco do funcionário digital

Tradicionalmente, o erro humano representa um dos maiores riscos à cibersegurança, contribuindo para violações por meio de identidades comprometidas e acesso excessivo a dados confidenciais. Agora, imagine um funcionário que trabalha ininterruptamente, sem supervisão, tem acesso a grandes volumes de dados privados e age sem autorização. Boas-vindas à era do agente de IA, uma nova categoria de funcionário digital que está transformando o cenário de ameaças internas. 

Os agentes de IA estão transformando a forma como o risco é criado. Veja o PocketOS, por exemplo. Certa manhã, o fundador acordou e descobriu que o Cursor, uma ferramenta de programação, havia excluído a empresa inteira, incluindo o banco de dados e todos os backups. O agente não estava agindo de forma maliciosa. Ele simplesmente havia identificado uma discrepância durante a execução de uma tarefa de rotina e tinha a iniciativa e a autonomia necessárias para tomar uma decisão com consequências graves. 

Proteger a IA exige uma abordagem fundamentalmente diferente, que estabeleça proteções adicionais, forneça visibilidade sobre o acesso aos dados e determine, antes de tudo, se uma ação deve ser realizada. Para entender primeiro os riscos que os agentes de IA representam, é importante compreender como eles se comportam em ambientes empresariais.

Os agentes de IA agem de forma autônoma sobre os dados 

Os agentes de IA são mais avançados e autônomos do que os modelos anteriores. Com acesso aos sistemas de dados corporativos, eles decidem como usar os dados e quais ações realizar em seguida. Isso não apenas aumenta a velocidade com que os riscos surgem, mas muda a própria forma como o risco é criado. 

Quando as ações são executadas na velocidade e na escala das máquinas, até mesmo pequenos erros ou configurações incorretas podem ter um impacto desproporcional. É por isso que os controles tradicionais e estáticos são insuficientes em um ambiente orientado por IA.

Agentes de IA executam tarefas sem barreiras de proteção suficientes 

Os agentes de IA executam tarefas de forma confiável. Mas eles não compreendem inerentemente os riscos ou as políticas aplicáveis. Sem barreiras de proteção consistentes, os agentes podem agir com base em um contexto incompleto ou incorreto, especialmente ao interagir com grandes volumes de dados corporativos e externos. 

Confiar apenas nas salvaguardas do modelo não é suficiente. As organizações precisam de controles no nível dos dados que apliquem políticas a todas as identidades e sistemas em tempo real, independentemente de como os agentes se comportem. 

Não é possível mensurar o risco da IA sem acesso aos dados

Sem visibilidade sobre o acesso aos dados, é impossível mensurar totalmente o risco da IA ou entender o impacto potencial das ações de um agente. Proteger os dados corporativos na era da IA agente significa passar de perguntas baseadas em acesso para perguntas baseadas em ações. Em outras palavras: como os dados estão sendo usados e se essas ações são apropriadas em determinado contexto.

A segurança deve evoluir do acesso para a intenção

Os sistemas de IA agente operam dinamicamente, tomando decisões e executando ações em velocidades sem precedentes. Políticas estáticas e controles predefinidos já não são suficientes. A segurança da IA exige uma abordagem centrada em dados que conecte a confidencialidade dos dados, as permissões, a identidade e a atividade para determinar se uma ação deve ser permitida. Sem esse contexto, as organizações não conseguem avaliar os riscos de forma confiável nem interromper comportamentos inseguros antes que dados confidenciais sejam expostos. É por isso que a segurança deve se aproximar dos próprios dados. 

As organizações que terão sucesso nesta nova era serão aquelas que garantirem que a adoção da IA seja segura, esteja em compliance e seja confiável.

 Nota - Este artigo foi traduzido com a ajuda de IA e revisado por um tradutor humano.