A utilização de agentes de IA está acelerando a implementação de funcionalidades, mas também exige maior atenção à forma como os requisitos de segurança são definidos, aplicados e verificados.

Um agente pode desenvolver uma funcionalidade corretamente do ponto de vista operacional e ainda introduzir vulnerabilidades, como falhas de autorização, exposição de dados, validações insuficientes ou dependências inseguras.

O problema não está necessariamente na capacidade do modelo de compreender segurança, mas na ausência de requisitos específicos, contexto adequado e mecanismos de validação que garantam sua aplicação consistente.

A estratégia é incorporar segurança ao processo de desenvolvimento, utilizando agentes para analisar ameaças, implementar soluções e investigar problemas, com políticas, contratos e verificações que orientem o trabalho desde o planejamento até a entrega.

1. Segurança no desenvolvimento com IA

Quando agentes produzem código rapidamente, vulnerabilidades podem ser introduzidas em diferentes módulos antes de serem identificadas.

Também é possível que um problema seja reproduzido em várias implementações quando os agentes não recebem orientações sobre os mecanismos de segurança existentes.

Por exemplo, um agente pode criar um endpoint funcional que utiliza autenticação, mas não verifica se o usuário possui permissão para acessar o recurso solicitado.

Os testes funcionais podem passar, enquanto a vulnerabilidade permanece.

Uma abordagem mais eficiente combina três responsabilidades:

  • Prevenção: estabelecer requisitos e restrições que orientem a implementação.
  • Detecção: identificar vulnerabilidades por meio de testes, análises e ferramentas especializadas.
  • Correção: resolver os problemas encontrados e incorporar mecanismos para evitar sua recorrência.

Essas atividades devem fazer parte do fluxo normal de desenvolvimento, com profundidade proporcional ao impacto de cada alteração.

2. Requisitos de segurança como parte do contexto

Assim como decisões arquiteturais e contratos de API, os requisitos de segurança precisam estar disponíveis no contexto do projeto.

Não basta instruir genericamente um agente a desenvolver código seguro.

O projeto deve indicar quais mecanismos já existem, quais regras precisam ser respeitadas e quais operações exigem controles específicos.

Essas informações podem ser organizadas em AGENTS.md, CHAOS ou estruturas equivalentes, com referências para documentos mais específicos.

Dependendo da aplicação, o contexto pode incluir:

  • Mecanismos de autenticação e gerenciamento de sessões.
  • Padrões de autorização e controle de acesso.
  • Regras de isolamento entre organizações ou usuários.
  • Validação e tratamento de entradas.
  • Políticas de armazenamento e exposição de dados.
  • Tratamento de credenciais e informações sensíveis.
  • Bibliotecas e mecanismos de segurança aprovados.
  • Restrições para integrações externas.
  • Procedimentos de revisão e validação.

Instruções operacionais, não apenas recomendações

Uma instrução como "verificar permissões dos usuários" pode ser insuficiente quando o projeto possui mecanismos específicos de autorização.

É mais útil indicar qual serviço, middleware ou política deve ser utilizado e onde estão definidos os contratos correspondentes.

O mesmo vale para autenticação, validação de dados e tratamento de erros.

O agente deve conhecer e reutilizar os controles de segurança existentes, em vez de improvisar soluções paralelas.

Quando uma implementação exigir alterações nesses mecanismos, a decisão deve seguir o processo de aprovação estabelecido pelo projeto.

3. Análise de ameaças antes da implementação

Agentes de IA podem auxiliar na identificação de riscos antes que o código seja produzido.

Uma análise de ameaças permite avaliar como determinada funcionalidade pode ser utilizada indevidamente, quais recursos precisam ser protegidos e onde existem limites de confiança.

Essa análise deve considerar a arquitetura e os fluxos de dados da aplicação.

Entre os aspectos relevantes estão:

  • Pontos de entrada da funcionalidade.
  • Dados recebidos e processados.
  • Recursos e operações disponíveis.
  • Identidades e permissões envolvidas.
  • Integrações com outros serviços.
  • Limites de confiança entre componentes.
  • Possíveis cenários de abuso.

Por exemplo, ao implementar uma funcionalidade de compartilhamento de documentos, não basta definir como um usuário envia e acessa arquivos.

É necessário avaliar quem pode visualizar os documentos, como permissões são revogadas, quais metadados ficam expostos e como impedir o acesso a arquivos pertencentes a outros usuários.

Um agente pode ajudar a identificar esses cenários e propor controles, utilizando os requisitos e a arquitetura existente como referência.

Análise proporcional ao risco

Uma modificação visual isolada dificilmente exige o mesmo esforço que um novo mecanismo de autenticação ou uma funcionalidade responsável por processar informações sensíveis.

A profundidade da análise deve considerar a criticidade da funcionalidade, a exposição externa, os dados envolvidos e as consequências de uma possível falha.

A análise de ameaças deve orientar decisões de implementação e segurança, não se transformar em uma formalidade sem relação com os riscos reais.

4. Autenticação e gerenciamento de sessões

Agentes responsáveis por implementar funcionalidades autenticadas devem reutilizar os mecanismos existentes no projeto.

Criar soluções paralelas de autenticação pode introduzir inconsistências no gerenciamento de sessões, validação de tokens, expiração e revogação de acesso.

O contexto técnico deve indicar como a aplicação trata:

  • Identificação e autenticação de usuários.
  • Tokens e sessões.
  • Cookies e seus atributos de segurança.
  • Expiração e renovação de credenciais.
  • Revogação de sessões.
  • Recuperação de acesso.
  • Integração com provedores de identidade.

Evitar mecanismos improvisados

Quando o projeto já possui bibliotecas, serviços e middlewares responsáveis por autenticação, o agente deve utilizá-los conforme os contratos existentes.

Alterações nesses mecanismos exigem atenção especial, pois podem afetar múltiplas funcionalidades.

A revisão deve considerar não apenas se o login funciona, mas também se a implementação respeita as políticas de sessão, expiração e proteção de credenciais.

Esses mecanismos devem permanecer consistentes entre os diferentes módulos da aplicação.

5. Autorização e isolamento de dados

A autenticação confirma a identidade do usuário, mas não determina quais recursos ele pode acessar.

Falhas de autorização merecem atenção especial em aplicações desenvolvidas com agentes, principalmente quando os endpoints são implementados individualmente.

Considere uma API que consulta pedidos:

GET /api/orders/123

O usuário pode estar autenticado corretamente, mas isso não garante que o pedido 123 pertence a ele ou à organização correspondente.

A autorização deve ser aplicada no backend, respeitando as regras do sistema.

Aplicações multi-tenant

Em sistemas que atendem múltiplas organizações, o isolamento dos dados é especialmente importante.

Um agente pode implementar corretamente um filtro por organização em determinada consulta e esquecer o mesmo controle em outra operação.

Isso pode ocorrer em:

  • Consultas de registros.
  • Atualizações e exclusões.
  • Exportações de dados.
  • Relatórios e agregações.
  • Processamentos em background.
  • Operações administrativas.
  • Acesso a arquivos e documentos.

A estratégia deve priorizar mecanismos compartilhados de autorização e isolamento, reduzindo a necessidade de implementar verificações individualmente em cada endpoint.

Sempre que possível, essas regras devem ser reforçadas por contratos, políticas de acesso e testes automatizados.

Testes de acesso indevido

Além de verificar se um usuário autorizado consegue acessar determinado recurso, é necessário validar se usuários sem permissão são bloqueados.

Em sistemas multi-tenant, testes devem considerar tentativas de acesso entre organizações diferentes.

A autorização precisa ser verificada por operação e recurso, não apenas pela existência de uma sessão autenticada.

6. Validação de entradas e segurança das APIs

Agentes podem implementar APIs que funcionam corretamente com entradas esperadas, mas não consideram valores inválidos ou comportamentos maliciosos.

Por isso, a validação deve seguir os contratos e mecanismos definidos pelo projeto.

Sempre que possível, utilize schemas e bibliotecas existentes em vez de criar validações independentes para cada endpoint.

As verificações podem envolver:

  • Tipos e formatos dos dados.
  • Limites de tamanho e quantidade.
  • Campos obrigatórios e opcionais.
  • Valores permitidos.
  • Estruturas aninhadas.
  • Parâmetros de consulta.
  • Dados recebidos de integrações externas.

Também é necessário considerar como as informações são utilizadas depois da validação.

Validar tipos não substitui o uso de consultas parametrizadas, codificação adequada de saídas ou outros controles específicos do destino dos dados.

Respostas e tratamento de erros

A segurança das APIs também depende de quais informações são retornadas.

Agentes devem respeitar as regras de exposição de dados, evitando incluir propriedades internas, credenciais, informações sensíveis ou detalhes desnecessários nas respostas.

Mensagens de erro não devem revelar informações internas que possam facilitar ataques, como estruturas de banco de dados, caminhos sensíveis ou segredos de configuração.

O contexto do projeto deve indicar os mecanismos existentes para serialização, tratamento de erros e controle dos dados expostos.

7. Dependências e código de terceiros

Agentes de IA podem adicionar bibliotecas para resolver problemas que já possuem soluções no projeto ou que poderiam ser implementados com recursos existentes.

Além de aumentar a complexidade, novas dependências introduzem riscos de manutenção e segurança.

Antes de adicionar um pacote, o agente deve verificar:

  • Se existe uma solução disponível no projeto.
  • Se a dependência é realmente necessária.
  • Se o pacote possui manutenção adequada.
  • Se existem vulnerabilidades conhecidas.
  • Se suas dependências transitivas introduzem riscos.
  • Se a licença é compatível com o projeto.

O processo também deve considerar versões e integridade dos pacotes instalados.

Lockfiles e mecanismos de verificação de dependências ajudam a manter instalações reproduzíveis.

Análise da cadeia de suprimentos

Ferramentas de Software Composition Analysis (SCA) podem identificar vulnerabilidades conhecidas e dependências problemáticas.

Essas verificações devem fazer parte do fluxo automatizado sempre que possível.

Entretanto, alertas precisam ser avaliados conforme a versão utilizada, a possibilidade de exploração e a exposição real da aplicação.

Nem toda vulnerabilidade reportada representa o mesmo nível de risco.

A velocidade da implementação não deve resultar em uma expansão descontrolada das dependências e da superfície de ataque.

8. Secrets e informações sensíveis

Agentes podem acessar arquivos de configuração, logs, respostas de APIs e outros recursos que contêm informações sensíveis.

Esses dados não devem ser incorporados ao código, expostos em respostas ou registrados desnecessariamente durante a execução.

O projeto deve estabelecer regras claras para utilização de credenciais e informações confidenciais.

Isso inclui:

  • Não armazenar secrets diretamente no código.
  • Utilizar mecanismos apropriados de gerenciamento de credenciais.
  • Separar configurações por ambiente.
  • Evitar exposição de tokens em logs.
  • Restringir permissões de acesso.
  • Não incluir dados sensíveis em evidências ou relatórios.
  • Utilizar dados fictícios ou anonimizados quando apropriado.

Também é importante controlar quais informações são disponibilizadas ao contexto dos modelos.

Um agente não precisa receber o conteúdo de uma credencial para saber como configurar uma integração.

Sempre que possível, a utilização dos secrets deve acontecer por mecanismos do ambiente de execução, sem expor seus valores diretamente ao modelo.

Credenciais de produção

Operações que envolvem ambientes produtivos exigem controles adicionais.

Mesmo quando o agente executa em um ambiente isolado, credenciais com permissões amplas podem permitir alterações em serviços externos.

Portanto, isolamento operacional e controle de acesso precisam ser aplicados em conjunto.

9. Análise automatizada de segurança

Parte significativa das verificações de segurança pode ser realizada por ferramentas especializadas.

Essas ferramentas devem ser integradas ao desenvolvimento e aos pipelines de CI/CD, permitindo identificar problemas conhecidos de maneira consistente.

Verificação Finalidade
SAST Identificar padrões potencialmente vulneráveis no código-fonte
SCA Analisar dependências e vulnerabilidades conhecidas
Secret scanning Detectar possíveis credenciais e informações sensíveis
DAST Avaliar comportamentos de segurança em aplicações em execução
Validação de contratos Identificar incompatibilidades em interfaces e estruturas de dados
Análise de infraestrutura Verificar configurações e políticas de segurança

Essas ferramentas possuem limitações e podem produzir falsos positivos ou deixar de identificar determinados problemas.

Ainda assim, oferecem uma base importante para detecções recorrentes e podem impedir que problemas conhecidos avancem para etapas posteriores.

O papel da IA

Os agentes podem interpretar resultados, investigar vulnerabilidades, avaliar o impacto das descobertas e propor correções.

Também podem ajudar a configurar regras e desenvolver verificações específicas para o projeto.

Dessa forma, ferramentas especializadas executam as análises recorrentes, enquanto os agentes contribuem na investigação de resultados que exigem contexto técnico.

10. Agentes revisores de segurança

Ferramentas automatizadas não identificam necessariamente falhas relacionadas à lógica de negócio, autorização ou interações entre diferentes componentes.

Agentes revisores podem complementar essas verificações analisando a implementação no contexto da aplicação.

Por exemplo, um agente pode verificar se uma funcionalidade administrativa respeita as permissões existentes ou se determinada operação permite acessar recursos de outra organização.

Essas análises precisam considerar:

  • Requisitos de segurança do projeto.
  • Arquitetura e limites de confiança.
  • Contratos e políticas de autorização.
  • Código alterado e componentes relacionados.
  • Resultados das verificações automatizadas.

Investigação contextual

O principal valor de um agente revisor está em relacionar informações que uma ferramenta tradicional pode avaliar isoladamente.

Uma consulta ao banco de dados pode estar corretamente parametrizada e ainda assim permitir o acesso indevido a registros de outra organização.

Da mesma forma, um endpoint pode atender aos contratos de entrada e saída, mas executar uma operação que deveria exigir permissões adicionais.

Esses problemas dependem do entendimento das regras e dos relacionamentos entre componentes.

Apontamentos verificáveis

Agentes revisores também podem produzir falsos positivos.

Por isso, recomendações devem apresentar o problema identificado, o recurso afetado, o impacto e uma justificativa técnica.

Quando possível, o apontamento deve incluir um cenário reproduzível ou uma referência que permita confirmar a vulnerabilidade.

A identificação de um risco não deve resultar automaticamente em alterações sem avaliação.

A IA pode ampliar a capacidade de investigação, mas suas conclusões precisam ser fundamentadas e verificadas.

11. Testes de segurança orientados a risco

Além das análises de código e dependências, os requisitos de segurança precisam ser verificados no comportamento da aplicação.

Agentes podem auxiliar na criação de testes que reproduzam cenários de acesso indevido, abuso de funcionalidades e falhas de isolamento.

Esses testes devem passar a integrar a suíte do projeto, permitindo sua execução nas alterações futuras.

Alguns exemplos incluem:

  • Tentativas de acesso sem autenticação.
  • Acesso a recursos sem autorização.
  • Operações entre organizações diferentes.
  • Entradas inválidas ou inesperadas.
  • Exposição indevida de propriedades.
  • Comportamentos de sessão e expiração.
  • Restrições em operações administrativas.
  • Falhas em integrações externas.

Exemplo: isolamento entre organizações

Em uma aplicação multi-tenant, um teste pode criar recursos associados a duas organizações diferentes.

A validação deve confirmar que um usuário da organização A não consegue consultar, modificar ou excluir recursos pertencentes à organização B.

Esse cenário pode ser executado automaticamente sempre que alterações afetarem os módulos envolvidos.

Assim, uma regra crítica passa a contar com uma verificação objetiva e reutilizável.

Correções de vulnerabilidades

Sempre que possível, uma vulnerabilidade identificada deve resultar em um teste que reproduza o problema.

O teste deve demonstrar a falha na implementação vulnerável e passar após a correção.

Isso ajuda a impedir que alterações futuras reintroduzam o mesmo comportamento inseguro.

Testes de segurança devem ser executados em ambientes controlados, respeitando as permissões e os limites estabelecidos pelo projeto.

12. Segurança como critério de entrega

A aprovação de uma implementação precisa considerar os requisitos de segurança aplicáveis à alteração.

O processo deve definir quais verificações são obrigatórias, quais problemas impedem a integração e quando uma decisão adicional é necessária.

Uma classificação possível é:

Alterações de baixo risco

Podem utilizar verificações automatizadas existentes e revisão convencional.

Alterações com impacto em segurança

Podem exigir testes específicos, análise de contratos e revisão direcionada.

Alterações críticas

Podem justificar análise de ameaças, revisão especializada e aprovação adicional.

Critérios de bloqueio

Vulnerabilidades confirmadas de alta gravidade, violações de políticas obrigatórias e falhas de autorização relevantes normalmente precisam ser resolvidas antes da aprovação.

Outros apontamentos podem exigir investigação, mitigação ou aceitação formal do risco, conforme as políticas da equipe.

As decisões devem considerar a gravidade, a exposição, a possibilidade de exploração e o impacto do problema.

Evidências

A entrega deve disponibilizar as informações necessárias para demonstrar que as verificações exigidas foram realizadas.

Isso pode incluir resultados de testes, análises automatizadas e justificativas para decisões de segurança relevantes.

As evidências devem permitir compreender quais controles foram verificados e quais riscos permanecem, sem exigir documentação excessiva para alterações simples.

13. Aprendizado e atualização das instruções

Uma vulnerabilidade encontrada durante o desenvolvimento representa uma oportunidade de melhorar os mecanismos de prevenção do projeto.

Se diferentes agentes reproduzem o mesmo problema, a causa pode estar em instruções incompletas, ausência de testes ou mecanismos arquiteturais insuficientes.

A correção deve considerar não apenas o código afetado, mas também o processo que permitiu a introdução da vulnerabilidade.

Dependendo do caso, isso pode resultar em:

  • Atualização das instruções de segurança.
  • Revisão de contratos e políticas.
  • Criação de testes de regressão.
  • Inclusão de verificações automatizadas.
  • Melhoria de serviços ou middlewares compartilhados.
  • Atualização de skills e procedimentos específicos.

Por exemplo, se agentes frequentemente esquecem de aplicar verificações de autorização em novos endpoints, apenas corrigir cada ocorrência pode não ser suficiente.

Talvez seja necessário estabelecer um mecanismo compartilhado que aplique essas regras de maneira consistente e atualizar o contexto para orientar sua utilização.

Manutenção do contexto

As instruções de segurança devem evoluir junto com a arquitetura e o código.

Quando uma implementação altera mecanismos de autenticação, autorização ou tratamento de dados, os documentos correspondentes precisam ser revisados.

Uma regra no AGENTS.md pode estabelecer a obrigação de verificar o impacto de cada alteração sobre o contexto técnico e atualizar as referências afetadas antes de concluir a tarefa.

Isso reduz a possibilidade de agentes futuros utilizarem instruções incompatíveis com o estado atual do sistema.

A melhoria deve ser incorporada ao projeto para que o mesmo problema não precise ser redescoberto e corrigido repetidamente.

Conclusão

A segurança no desenvolvimento com agentes de IA precisa estar incorporada ao contexto técnico e aos mecanismos de validação do projeto.

Requisitos bem definidos orientam as implementações, enquanto ferramentas especializadas, testes automatizados e revisões contextuais ajudam a identificar vulnerabilidades antes da entrega.

Quando problemas são encontrados, suas correções também devem contribuir para melhorar os controles e as instruções utilizadas nas próximas implementações.

O objetivo é aproveitar a velocidade dos agentes sem comprometer a segurança, tornando os requisitos e mecanismos de proteção parte permanente e verificável do processo de desenvolvimento.

Fontes e leituras adicionais

Artigos relacionados