A NVIDIA anunciou a criação da Open Secure AI Alliance, iniciativa que reúne 37 organizações para desenvolver tecnologias abertas de proteção a agentes e sistemas de inteligência artificial. A coalizão conta com empresas como Microsoft, Cisco, Cloudflare, CrowdStrike, IBM, Palo Alto Networks, Red Hat e Hugging Face, além de participantes ligados à computação em nuvem, pesquisa e software corporativo.
O objetivo é estabelecer ferramentas e práticas comuns para reduzir riscos em aplicações capazes de executar tarefas de forma autônoma. Esses agentes podem acessar arquivos, consultar bancos de dados, utilizar APIs e tomar decisões com pouca intervenção humana.
Entre as áreas abordadas estão gerenciamento de identidade, controle de permissões, isolamento de processos, monitoramento de atividades e auditoria das ações realizadas pelos modelos. A iniciativa também pretende fortalecer o desenvolvimento seguro de código gerado por IA.
Como primeira contribuição, a NVIDIA apresentou o NOOA, um framework aberto para criação, teste e acompanhamento de agentes. A ferramenta organiza os componentes como classes Python e facilita a análise do comportamento durante a execução.
A aliança também defende o uso de modelos abertos em operações de segurança. Essa abordagem permite que empresas processem dados sensíveis dentro da própria infraestrutura e adaptem os sistemas às necessidades internas.
