O NIST (Instituto Nacional de Padrões e Tecnologia dos EUA) publicou em 14 de agosto de 2025 um documento conceitual propondo o desenvolvimento de control overlays voltados à segurança de sistemas de inteligência artificial. A iniciativa faz parte do projeto Control Overlays for Securing AI Systems (COSAiS).
Os overlays são conjuntos de controles derivados da publicação NIST SP 800 53, adaptados para contextos específicos. A proposta é criar versões especializadas desses controles que considerem os riscos únicos da IA, como ataques adversariais, manipulação de dados de treinamento e falhas de integridade algorítmica. O objetivo central do COSAiS é aplicar princípios clássicos de segurança como confidencialidade, integridade e disponibilidade a sistemas que utilizam IA, mantendo a consistência com estruturas regulatórias e operacionais já conhecidas por organizações públicas e privadas. O NIST detalhou cinco grandes casos de uso que serão contemplados pelos overlays: IA generativa, IA preditiva, sistemas baseados em agentes únicos e múltiplos, além de orientações para práticas seguras durante o desenvolvimento de sistemas de IA.
Cada overlay fornecerá recomendações técnicas específicas para cenários distintos, como o uso seguro de grandes modelos de linguagem, mitigação de riscos em operações autônomas, governança de agentes interativos e proteção de modelos em ambientes produtivos. A proposta também se conecta com outras iniciativas do NIST, como o AI Risk Management Framework (AI RMF), o SP 800 218A sobre desenvolvimento seguro de software e o projeto AI 100 2e2025, voltado ao estudo de ataques adversariais. Para incentivar a colaboração do setor, o NIST criou uma comunidade aberta via Slack, permitindo a participação ativa de especialistas, pesquisadores, empresas e interessados em contribuir com a construção dos overlays. O documento conceitual está disponível para comentários públicos, e o NIST encoraja feedback de múltiplos setores, visando a construção de um framework robusto e aplicável em diferentes contextos organizacionais.
