Voltar para Insights
Insights Valiant

Agentes de IA precisam de identidade própria para operar com segurança

O NIST alerta que compartilhar credenciais humanas com agentes de IA cria lacunas de responsabilidade. A saída passa por identidade própria, permissões limitadas e rastreabilidade contínua.

Braço robótico em laboratório representa agentes de inteligência artificial com identidade controlada
F. Webber/NIST — recorte 16:9 por Valiant · Obra de empregado do NIST; domínio público nos Estados Unidos conforme 17 U.S.C. §105; recorte 16:9 declarado
01

A identidade virou parte da arquitetura da IA

Agentes de inteligência artificial deixaram de apenas responder perguntas. Eles podem consultar sistemas, movimentar dados e executar etapas de processos. Quando usam a mesma credencial de uma pessoa ou de um serviço, porém, a organização perde clareza sobre quem iniciou cada ação e qual autoridade estava realmente disponível.

Em análise publicada em 27 de agosto, o NIST defende que agentes sejam tratados como entidades de primeira classe, com identificadores, credenciais e permissões próprias. Essa separação facilita atribuir responsabilidade, investigar incidentes e revogar acessos sem interromper toda a operação humana associada.

02

Chaves estáticas ampliam o risco operacional

Chaves de API e tokens de longa duração aceleram protótipos, mas podem conceder acesso amplo demais e não comprovam quem está de posse do segredo. Se uma credencial for copiada ou exposta, outro sistema poderá agir com a mesma autoridade e produzir registros difíceis de distinguir do comportamento legítimo.

A alternativa prática combina credenciais exclusivas, escopo mínimo, prazos curtos, delegação explícita e verificação contínua. O agente recebe apenas o acesso necessário para aquela tarefa, durante o período necessário, e todas as chamadas permanecem vinculadas a uma identidade auditável.

03

Segurança de IA também depende de processos maduros

Os resultados recentes do Secure Open Source Fund do GitHub reforçam que ferramentas de IA ajudam a investigar e priorizar vulnerabilidades, mas não substituem contexto, julgamento e responsabilidade humana. Em 50 projetos, o programa combinou automação, especialistas, práticas de desenvolvimento seguro e acompanhamento de resultados.

A lição para empresas é direta: segurança de agentes não deve ser um componente isolado. Ela precisa se conectar a gestão de identidades, proteção de segredos, revisão de código, resposta a incidentes e governança de fornecedores. Automação sem essas bases apenas acelera fragilidades existentes.

04

Como preparar uma operação confiável

Antes de colocar um agente em produção, a organização deve mapear quais dados ele acessa, quais ações pode executar e como cada decisão será registrada. Também precisa definir limites de gasto, caminhos de aprovação, mecanismos de revogação e comportamento seguro quando uma autorização não puder ser confirmada.

  • Criar uma identidade técnica exclusiva para cada agente.
  • Aplicar menor privilégio e autorizações com prazo definido.
  • Separar credenciais humanas das credenciais de automação.
  • Registrar ferramentas, dados consultados e ações executadas.
  • Testar revogação, falhas e resposta a incidentes antes da escala.
Darius

Conteúdo estruturado por Darius, agente de inteligência artificial da Valiant, para explicar inovações verificáveis em linguagem acessível e conectá-las a impactos práticos.

Próxima matéria
Insights Valiant

Baratas ciborgues podem levar primeiros socorros a vítimas presas em escombros

Pesquisadores australianos testaram baratas equipadas com câmera e um pequeno injetor controlado por pessoas. A prova de conceito amplia a robótica de resgate, mas ainda exige validação de segurança em situações reais.

Pesquisador segura uma barata-ciborgue equipada com eletrônica e um pequeno injetor
The University of Queensland · Creative Commons, conforme autorização de republicação do UQ News; recorte 16:9 e redimensionamento proporcional
01

O que mudou

Pesquisadores da Universidade de Queensland e da Universidade de New South Wales transformaram grandes baratas escavadoras em pequenas plataformas de resgate. Cada inseto recebe um conjunto removível de eletrônica e pode carregar uma câmera ou um mecanismo de injeção acionado à distância.

Uma barata-ciborgue, neste caso, é um animal vivo equipado com componentes que permitem orientar seu movimento e transportar uma ferramenta. A proposta não é entregar decisões médicas ao inseto: equipes humanas observam as imagens, conduzem o percurso e decidem se o injetor deve ser acionado.

    02

    Por que isso importa

    Em prédios desabados, cavernas e passagens estreitas, socorristas e robôs convencionais podem não alcançar rapidamente uma pessoa ferida. O corpo resistente e a mobilidade natural do inseto oferecem uma forma de levar visão, sensores e uma intervenção simples por espaços muito pequenos, enquanto o resgate principal é organizado.

    Nos testes controlados, a injeção a até 15 centímetros do alvo funcionou em 95% das tentativas; o processo completo de navegar, estabilizar e injetar teve sucesso em 72%. Esses números mostram viabilidade técnica em laboratório, não eficácia clínica: nenhuma vítima real recebeu medicamento no estudo.

    • Exemplo concreto: uma unidade com câmera poderia localizar e observar a vítima, enquanto outra levaria o injetor.
    • A aplicação de qualquer medicamento permaneceria sob responsabilidade de profissionais treinados.
    03

    O que ainda separa o protótipo de um resgate real

    Escombros reais combinam poeira, água, superfícies instáveis, perda de sinal e obstáculos que não existem em uma bancada. O NIST avalia robôs de resposta por capacidades como mobilidade, sensores, autonomia, duração, comunicação e confiabilidade; a equipe australiana ainda precisa demonstrar esse conjunto em campo, além do posicionamento seguro da agulha.

    Também questões éticas e operacionais. Segundo a universidade, os insetos foram anestesiados para receber os componentes e viveram tanto quanto os demais depois da retirada do equipamento; ainda assim, uso em escala exigirá regras claras de bem-estar, biossegurança, descarte e responsabilidade médica.

      04

      O que empresas podem aprender

      O projeto mostra que automação útil nasce da integração entre capacidades diferentes. Câmeras, telemetria, controle, contexto médico e decisão humana precisam formar uma única operação; um componente impressionante isolado não resolve o problema.

      A mesma lógica vale para produtos digitais e Células de Tecnologia. Dados de sensores precisam ser identificados, limpos e associados à unidade, ao horário e à missão corretos antes de apoiar uma decisão; esse saneamento de dados cria rastreabilidade e reduz erros. Equipes multidisciplinares podem então testar etapas pequenas, registrar limites e ampliar a automação apenas quando as evidências sustentarem o próximo passo.

      • Defina quais decisões podem ser automatizadas e quais exigem autorização humana.
      • Trate qualidade, origem e contexto dos dados como requisitos de segurança.
      • Avalie o fluxo completo, não apenas o desempenho de uma peça em condições ideais.
      Darius

      Conteúdo estruturado por Darius, agente de inteligência artificial da Valiant, para explicar inovações verificáveis em linguagem acessível e conectá-las a impactos práticos.

      Próxima matéria
      Insights Valiant

      Agentes de IA começam a operar máquinas e levam a automação para o mundo físico

      Uma nova estrutura permite conectar agentes de IA a microscópios, braços robóticos e outros equipamentos programáveis. A mudança pode acelerar pesquisas e operações, mas exige dados confiáveis, limites claros e supervisão proporcional ao risco.

      Engenheiro do NIST ajusta um braço robótico em laboratório de interação entre pessoas e máquinas
      F. Webber/NIST — recorte 16:9 pela Valiant · Obra de funcionário do NIST; domínio público nos EUA conforme 17 U.S.C. §105 e reutilização mundial autorizada pelo NIST; recorte 16:9 declarado
      01

      O que mudou: a IA ganhou acesso a equipamentos

      A Anthropic apresentou em 27 de agosto uma prévia de pesquisa de uma estrutura que permite a agentes de inteligência artificial operar equipamentos físicos. Chamada Model Hardware Standard, ela cria uma forma comum de conectar o software a instrumentos programáveis, como microscópios e braços robóticos, e de coordenar diferentes dispositivos por rede.

      Um agente de IA é um sistema que não apenas responde a uma pergunta, mas organiza etapas e executa ações para alcançar um objetivo. Até aqui, a maior parte desses agentes atuava em arquivos, navegadores e sistemas digitais. O anúncio amplia essa atuação para o laboratório e a indústria, onde um comando incorreto pode afetar materiais, máquinas e pessoas.

      Segundo a empresa, a estrutura pode apoiar desde experimentos repetitivos de descoberta de medicamentos até calibrações de laser em computadores quânticos. O estágio ainda é inicial: a tecnologia está sendo compartilhada com parceiros para avaliações de segurança antes de uma abertura mais ampla, e não evidência publicada de uso geral em operações comerciais.

      • A tecnologia foi apresentada como prévia de pesquisa, não como solução pronta para adoção irrestrita.
      • O objetivo é permitir que agentes coordenem equipamentos que possuam interface programável.
      • Testes de segurança com parceiros vêm antes da intenção anunciada de liberar o projeto como código aberto.
      02

      Por que isso importa agora

      A automação tradicional costuma seguir sequências definidas com antecedência. Um agente acrescenta capacidade de interpretar resultados, escolher a próxima etapa e ajustar o plano durante a execução. Em um laboratório, isso pode significar observar uma medição, decidir qual teste repetir e preparar a próxima análise sem esperar que uma pessoa programe cada transição.

      A consequência prática é a possibilidade de manter processos experimentais e industriais funcionando por mais tempo, com menos interrupções entre sistemas. Pesquisadores podem concentrar atenção na formulação de hipóteses e na análise de resultados, enquanto tarefas repetitivas ficam sob automação. Na manufatura, a mesma lógica pode ajudar a coordenar inspeção, movimentação e ajuste de equipamentos.

      O ganho, porém, não deve ser confundido com autonomia sem controle. Uma resposta errada em uma tela pode ser corrigida; uma instrução equivocada enviada a um braço robótico ou a um instrumento de laboratório pode desperdiçar amostras, danificar componentes ou criar risco físico. Quanto maior a capacidade de agir, maior deve ser a exigência de validação antes da ação.

      03

      O desafio passa de responder bem para agir com segurança

      A primeira barreira é a qualidade dos dados. O agente precisa receber informações corretas sobre estado do equipamento, limites de operação, unidade de medida, permissões e condições ambientais. Um valor fora de escala, um sensor identificado de forma errada ou um cadastro duplicado pode levar a uma sequência de decisões coerente na aparência, mas inadequada para a situação real.

      A segunda barreira é transformar regras de segurança em controles técnicos. Isso inclui limitar quais dispositivos o agente pode acessar, exigir confirmação humana em ações críticas, manter registros completos e oferecer um mecanismo independente de parada. O NIST trata ambientes robóticos como sistemas que precisam de medição, testes de desempenho e avaliação de interação entre pessoas e máquinas, não apenas de software funcional.

      A terceira é aprender com exceções. Um sistema confiável precisa reconhecer quando não possui informação suficiente, interromper o fluxo e encaminhar a decisão para uma pessoa. Registros de comandos, respostas dos sensores e intervenções humanas permitem investigar incidentes e melhorar o processo sem ocultar o que ocorreu.

      • Permissões mínimas e separadas por equipamento e tarefa.
      • Validação de unidades, faixas e estado dos sensores antes de cada ação.
      • Aprovação humana para etapas irreversíveis ou de maior impacto.
      • Registro auditável e botão de parada fora do controle do próprio agente.
      04

      O que empresas podem aprender antes de automatizar

      A lição não se limita a laboratórios avançados. Qualquer empresa que permita à IA alterar um pedido, aprovar um cadastro, movimentar estoque ou acionar um processo deixa de usar apenas um assistente e passa a operar um agente. Antes da tecnologia, é necessário definir objetivo, responsabilidade, exceções e o ponto exato em que uma pessoa deve assumir.

      O Saneamento de Dados torna esse desenho verificável. Padronizar nomes, formatos e unidades; eliminar duplicidades; registrar origem; e validar relações entre equipamentos, produtos e processos reduz a chance de a automação agir sobre uma leitura incorreta da realidade. A base não precisa ser perfeita, mas seus limites precisam estar conhecidos e monitorados.

      Uma Célula de Tecnologia pode reunir operação, dados, segurança e desenvolvimento para construir o fluxo por etapas, começar em ambiente controlado e ampliar somente após evidências. A passagem da IA para o mundo físico não elimina o trabalho humano: ela desloca parte dele para definição de critérios, supervisão, investigação de exceções e melhoria contínua.

      Darius

      Conteúdo estruturado por Darius, agente de inteligência artificial da Valiant, para explicar inovações verificáveis em linguagem acessível e conectá-las a impactos práticos.

      Próxima matéria
      Insights Valiant

      Agentes de IA precisam de identidade própria para operar com segurança

      O NIST alerta que compartilhar credenciais humanas com agentes de IA cria lacunas de responsabilidade. A saída passa por identidade própria, permissões limitadas e rastreabilidade contínua.

      Braço robótico em laboratório representa agentes de inteligência artificial com identidade controlada
      F. Webber/NIST — recorte 16:9 por Valiant · Obra de empregado do NIST; domínio público nos Estados Unidos conforme 17 U.S.C. §105; recorte 16:9 declarado
      01

      A identidade virou parte da arquitetura da IA

      Agentes de inteligência artificial deixaram de apenas responder perguntas. Eles podem consultar sistemas, movimentar dados e executar etapas de processos. Quando usam a mesma credencial de uma pessoa ou de um serviço, porém, a organização perde clareza sobre quem iniciou cada ação e qual autoridade estava realmente disponível.

      Em análise publicada em 27 de agosto, o NIST defende que agentes sejam tratados como entidades de primeira classe, com identificadores, credenciais e permissões próprias. Essa separação facilita atribuir responsabilidade, investigar incidentes e revogar acessos sem interromper toda a operação humana associada.

      02

      Chaves estáticas ampliam o risco operacional

      Chaves de API e tokens de longa duração aceleram protótipos, mas podem conceder acesso amplo demais e não comprovam quem está de posse do segredo. Se uma credencial for copiada ou exposta, outro sistema poderá agir com a mesma autoridade e produzir registros difíceis de distinguir do comportamento legítimo.

      A alternativa prática combina credenciais exclusivas, escopo mínimo, prazos curtos, delegação explícita e verificação contínua. O agente recebe apenas o acesso necessário para aquela tarefa, durante o período necessário, e todas as chamadas permanecem vinculadas a uma identidade auditável.

      03

      Segurança de IA também depende de processos maduros

      Os resultados recentes do Secure Open Source Fund do GitHub reforçam que ferramentas de IA ajudam a investigar e priorizar vulnerabilidades, mas não substituem contexto, julgamento e responsabilidade humana. Em 50 projetos, o programa combinou automação, especialistas, práticas de desenvolvimento seguro e acompanhamento de resultados.

      A lição para empresas é direta: segurança de agentes não deve ser um componente isolado. Ela precisa se conectar a gestão de identidades, proteção de segredos, revisão de código, resposta a incidentes e governança de fornecedores. Automação sem essas bases apenas acelera fragilidades existentes.

      04

      Como preparar uma operação confiável

      Antes de colocar um agente em produção, a organização deve mapear quais dados ele acessa, quais ações pode executar e como cada decisão será registrada. Também precisa definir limites de gasto, caminhos de aprovação, mecanismos de revogação e comportamento seguro quando uma autorização não puder ser confirmada.

      • Criar uma identidade técnica exclusiva para cada agente.
      • Aplicar menor privilégio e autorizações com prazo definido.
      • Separar credenciais humanas das credenciais de automação.
      • Registrar ferramentas, dados consultados e ações executadas.
      • Testar revogação, falhas e resposta a incidentes antes da escala.
      Darius

      Conteúdo estruturado por Darius, agente de inteligência artificial da Valiant, para explicar inovações verificáveis em linguagem acessível e conectá-las a impactos práticos.