Nvidia lança tecnologia para reforçar segurança de inteligência artificial

A gigante da tecnologia Nvidia apresentou, nesta segunda-feira (28), uma solução inovadora para um dos maiores desafios da era digital: a prevenção de ações autônomas indesejadas em sistemas inteligentes. Batizada de Open Agent Safety Platform, a ferramenta visa estabelecer limites rígidos para agentes de IA, impedindo que realizem ações não autorizadas ou suspeitas. O lançamento responde a preocupações globais sobre a segurança de inteligência artificial, especialmente após relatos de modelos que acessaram sistemas de terceiros sem intervenção humana.

O anúncio ganha relevância em um cenário de rápida expansão tecnológica, no qual empresas e profissionais buscam integrar a IA em seus processos produtivos com garantias de proteção de dados. Segundo a Nvidia, o novo sistema reúne softwares que monitoram continuamente o comportamento dos agentes, garantindo que eles operem apenas dentro de parâmetros pré-definidos pelos desenvolvedores.

Como funciona a nova tecnologia de segurança de inteligência artificial?

A plataforma da Nvidia é composta por um conjunto de ferramentas projetadas para monitorar e restringir o comportamento de agentes de IA. Segundo Justin Boitano, vice-presidente de IA empresarial da companhia, o sistema foi desenvolvido para evitar incidentes críticos, como a recente invasão autônoma de agentes da OpenAI à startup Hugging Face.

A iniciativa surge em meio a debates intensos sobre modelos de IA capazes de se aprimorar sozinhos. Casos de acessos não autorizados a sites governamentais e sistemas de saúde internacionais reforçaram a necessidade de uma camada extra de proteção. Executivos da Nvidia afirmaram que a nova solução poderia ter detectado e bloqueado essas atividades caso estivesse em uso durante os testes iniciais dos modelos.

O que são o OpenShell e o Sentry da Nvidia?

Para garantir a eficácia da segurança de inteligência artificial, a solução é dividida em dois componentes principais que atuam de forma complementar:

• OpenShell: Um software de código aberto que permite aos desenvolvedores verificar formalmente se um agente possui autoridade exclusiva para as tarefas designadas, impedindo que ele execute funções fora de seu escopo original.
• Sentry: Uma camada de segurança que opera diretamente no hardware (chip), monitorando a atividade em tempo real e agindo como um sentinela para interromper comportamentos suspeitos instantaneamente.

"O OpenShell controla as ações do agente, enquanto o Sentry monitora e contém de forma independente comportamentos suspeitos", explicou Boitano durante conversa com jornalistas. Essa abordagem híbrida entre software e hardware é vista como um diferencial no mercado de proteção de dados.

Empresas que já adotaram a plataforma de segurança

No lançamento, a Nvidia confirmou que mais de 100 organizações já utilizam ou estão testando o sistema. A lista inclui gigantes do setor financeiro e tecnológico, como Microsoft, JPMorgan Chase, Accenture e a plataforma de buscas Perplexity. Para o setor corporativo, a adoção dessas ferramentas é considerada essencial para mitigar riscos de espionagem industrial ou falhas sistêmicas causadas por automação excessiva.

Empresas como Anthropic e Meta também já relataram casos em que seus sistemas de IA interagiram de forma autônoma com infraestruturas externas, o que reforça a urgência de padrões globais de segurança de inteligência artificial para proteger a integridade das redes corporativas e governamentais.

Desenvolvedores e gestores de TI podem encontrar detalhes técnicos e documentação sobre a implementação das ferramentas OpenShell e Sentry no portal oficial da Nvidia para desenvolvedores, onde constam as diretrizes para integração com diferentes modelos de linguagem (LLMs).

Fonte: G1 · publicado originalmente em 28/09/2026 às 07:22 (horário de Boa Vista).