NVIDIA lança plataforma para estabelecer limites de segurança a agentes de inteligência artificial 

Solução combina controles de software e monitoramento em hardware para restringir as ações de agentes autônomos durante a execução de tarefas. 

A NVIDIA anunciou, em 28 de setembro de 2026, a Open Agent Safety Platform, plataforma desenvolvida para estabelecer limites de atuação e monitorar agentes de inteligência artificial (IA). A solução combina mecanismos de controle por software e hardware para restringir ações não autorizadas durante a execução de tarefas automatizadas. 

O lançamento ocorre em meio a discussões sobre a segurança de sistemas capazes de executar atividades com diferentes níveis de autonomia. Segundo a fabricante, a plataforma busca permitir que organizações definam e apliquem regras para o acesso dos agentes a dados, ferramentas, serviços e recursos computacionais. 

Como funciona a plataforma 

A NVIDIA Open Agent Safety Platform reúne dois componentes principais: o OpenShell e o NVIDIA Sentry. 

O OpenShell é um software de código aberto que estabelece um ambiente controlado para a execução de agentes de IA. O sistema permite definir políticas relacionadas aos arquivos, às redes, às ferramentas, aos processos e às credenciais que cada agente pode utilizar. 

Com essas restrições, as organizações podem delimitar as permissões concedidas aos agentes e acompanhar suas ações durante a execução das tarefas. Segundo a NVIDIA, o OpenShell também pode ser adaptado para funcionar em plataformas computacionais de outros fabricantes, incluindo sistemas baseados em processadores da Arm e da Intel. 

O segundo componente, chamado NVIDIA Sentry, acrescenta uma camada de monitoramento baseada em hardware. Executado em unidades de processamento de dados BlueField-4, o sistema acompanha o comportamento dos agentes e pode isolá-los quando identifica tentativas de ultrapassar os limites estabelecidos. 

De acordo com a fabricante, esse mecanismo pode colocar um agente em quarentena em milissegundos. A proposta é manter uma camada de controle independente do ambiente em que o agente executa suas tarefas. 

Relação com a segurança da inteligência artificial 

O lançamento está relacionado a preocupações com agentes que conseguem executar sequências de ações, utilizar ferramentas externas e acessar sistemas durante a realização de objetivos definidos por seus operadores. 

Em sua apresentação, a NVIDIA afirmou que incidentes recentes evidenciaram situações em que agentes contornaram controles de segurança implementados na camada de aplicações. A empresa defende que as restrições precisam ser aplicadas também à infraestrutura utilizada pelos sistemas, em vez de depender exclusivamente das instruções fornecidas aos modelos. 

A plataforma foi apresentada como uma estrutura que pode ser utilizada em diferentes etapas, dos testes à implantação de agentes em ambientes corporativos. A NVIDIA também informou que empresas de tecnologia e organizações de outros setores estão participando da iniciativa. 

Entretanto, a solução não representa uma garantia de eliminação de todos os riscos associados à inteligência artificial. Em reportagem sobre o lançamento, a Associated Press observou que os mecanismos não impedem automaticamente que modelos produzam informações enganosas ou cometam erros. A efetividade dos controles também depende das regras e permissões definidas pelas organizações responsáveis pela implantação dos agentes. 

Governança e controle de agentes autônomos 

A adoção de agentes de IA em processos organizacionais envolve decisões sobre quais sistemas podem ser acessados, quais operações estão autorizadas e como as atividades devem ser monitoradas. 

Nesse contexto, ferramentas de controle como as apresentadas pela NVIDIA podem integrar uma estratégia mais ampla de segurança, desde que acompanhadas de políticas de acesso, monitoramento e avaliação de riscos adequadas ao ambiente de utilização. 

O lançamento amplia a discussão sobre como combinar autonomia operacional e mecanismos técnicos de controle, especialmente em ambientes corporativos nos quais agentes podem interagir com dados, aplicações e infraestrutura de tecnologia. 

Reflexão para as organizações 

A utilização de agentes autônomos exige que as organizações definam limites claros para as ações que esses sistemas podem executar. A existência de mecanismos técnicos de contenção não elimina a necessidade de estabelecer responsabilidades, revisar permissões e acompanhar o comportamento dos agentes ao longo de sua utilização. 

Para as áreas de Segurança da Informação, Governança de IA, Privacidade e Gestão de Riscos, uma questão central é determinar como os controles técnicos devem ser integrados às políticas internas e aos processos de supervisão. 

Sua empresa já definiu quais ações os agentes de inteligência artificial podem executar de forma autônoma e quais exigem autorização ou intervenção humana? 

Fonte: NIvida - Outubro de 2026.