Principais destaques
- Nova proteção para agentes de IA: a Microsoft apresentou o Guardian Agents, recurso para monitorar o comportamento de agentes utilizados por empresas.
- Modelos avançados são imprevisíveis: a companhia afirma que sistemas de IA podem executar ações perigosas mesmo sem intenção maliciosa, especialmente quando recebem acesso a dados e ferramentas sensíveis.
- Controle independente ganha força: a estratégia inclui detectar agentes instalados por funcionários, restringir permissões e exigir aprovação humana para decisões de risco.
A inteligência artificial está ganhando acesso a informações confidenciais, ferramentas corporativas e sistemas capazes de executar tarefas críticas. Mas, para a Microsoft, existe um problema nessa transformação: não basta proteger as empresas contra hackers externos. É preciso considerar que os próprios agentes de IA podem representar um risco de segurança.
A mudança de perspectiva tem consequências importantes para o mercado corporativo. Em vez de confiar apenas nas proteções oferecidas pelos fabricantes de modelos, a Microsoft defende que as organizações adotem mecanismos independentes para fiscalizar o que esses sistemas fazem.
A ideia é tratar agentes de IA como funcionários com acesso privilegiado. Eles podem ser úteis, produtivos e eficientes, mas precisam ter limites claros.
🔐 Microsoft apresenta o Guardian Agents
Na segunda-feira, 19 de outubro, a Microsoft anunciou novos recursos de segurança para enfrentar os riscos associados à expansão dos sistemas de IA capazes de agir autonomamente.
O principal destaque é o Guardian Agents, integrado ao Project Perception, iniciativa apresentada anteriormente para identificar e responder a ameaças de segurança envolvendo inteligência artificial.
A proposta original do projeto estava organizada em três frentes:
- 🔴 Red team: agentes que simulam ataques para encontrar vulnerabilidades.
- 🔵 Blue team: agentes que identificam ataques e avaliam os problemas encontrados.
- 🟢 Green team: agentes encarregados de corrigir as vulnerabilidades detectadas.
O modelo seguia uma lógica relativamente tradicional: a inteligência artificial poderia ser usada por criminosos para atacar uma organização, enquanto outros sistemas de IA ajudariam a detectar e corrigir os problemas.
Agora, a Microsoft amplia essa visão. A ameaça também pode surgir dentro da própria infraestrutura corporativa, por meio de agentes legítimos que recebem permissões excessivas ou executam tarefas de maneiras inesperadas.
🗣 Satya Nadella quer separar inteligência de autoridade
O CEO da Microsoft, Satya Nadella, vem alertando sobre os riscos de entregar poderes excessivos aos agentes de IA.
Em uma publicação privada em seu blog, citada pela TechCrunch, Nadella defendeu que as empresas deixem de depender exclusivamente das garantias de segurança oferecidas pelos fornecedores de modelos.
O argumento é direto: sistemas de IA podem receber acesso a dados altamente confidenciais e autorização para executar operações críticas em nome de uma organização. Nesse cenário, a responsabilidade não pode ser transferida integralmente para quem desenvolveu o modelo.
“Precisamos separar o fornecimento de inteligência da autoridade sobre ela.”
A declaração sintetiza a nova estratégia. Uma empresa pode utilizar um agente desenvolvido pela OpenAI ou pela Anthropic sem entregar a essas companhias, ou aos próprios agentes, o controle exclusivo sobre as permissões e os mecanismos de fiscalização.
💡 O ponto central: produzir um sistema inteligente não deveria significar ter autoridade irrestrita sobre tudo o que ele pode acessar ou modificar.
⚠️ Por que a Microsoft diz que não podemos confiar nos modelos?
Hayete Gallot, executiva responsável pela área de segurança da Microsoft, foi ainda mais direta ao apresentar o Guardian Agents.
Segundo ela, os modelos de fronteira, os sistemas mais avançados de IA, não podem ser considerados confiáveis por padrão.
Isso não significa necessariamente que sejam maliciosos ou fáceis de invadir. O problema está na imprevisibilidade de seu comportamento.
Esses modelos são treinados para realizar tarefas, mas isso não garante que respeitem todas as normas internas, políticas corporativas ou critérios de julgamento de uma organização.
🔎 O risco aumenta quando o agente tem privilégios elevados: uma resposta inadequada de um chatbot pode gerar desinformação ou confusão. Já um agente conectado a sistemas corporativos pode acessar arquivos, modificar informações ou executar operações com consequências concretas.
A diferença está no poder de ação.
Quanto maior a autonomia de um agente, mais importante se torna limitar o que ele pode fazer, verificar suas decisões e interromper operações potencialmente perigosas.
🏢 A Microsoft também quer vender essa proteção
A iniciativa tem uma dimensão estratégica que merece atenção.
A Microsoft mantém relações comerciais importantes com a OpenAI e a Anthropic, empresas que desenvolvem alguns dos modelos e agentes que ela agora recomenda fiscalizar de maneira independente. A própria Microsoft também desenvolve seus sistemas de IA.
Ao defender uma camada separada de segurança, a companhia reconhece um problema que pode afetar seus parceiros, mas também abre espaço para ampliar seus próprios negócios em segurança corporativa e computação em nuvem.
💼 A oportunidade comercial: as empresas poderão continuar usando agentes de diferentes fornecedores enquanto contratam ferramentas externas para monitorar suas atividades, controlar permissões e impedir comportamentos inadequados.
A lógica se parece com a de uma auditoria independente. Uma organização não deveria depender exclusivamente das informações fornecidas pelo sistema que está sendo auditado para determinar se ele está operando corretamente.
Isso não elimina conflitos de interesse nem garante que a solução de segurança seja infalível. Significa, porém, que a fiscalização não precisa ficar concentrada no mesmo fornecedor responsável pelo agente.
🛡️ Defender as empresas também significa descobrir quais agentes estão em uso
O Guardian Agents é apenas uma parte da estratégia anunciada pela Microsoft.
A companhia também adicionou ao Microsoft Defender um recurso de detecção capaz de identificar até 60 tipos de agentes utilizados no ambiente corporativo, inclusive ferramentas instaladas ou adotadas pelos próprios funcionários.
Entre os exemplos mencionados estão:
- Claude Code, da Anthropic.
- Codex, da OpenAI.
- OpenClaw, ferramenta de agentes de IA.
A preocupação é que funcionários utilizem essas ferramentas sem que as equipes de segurança saibam exatamente quais dados estão sendo compartilhados ou quais sistemas estão acessíveis.
Esse cenário é especialmente relevante quando agentes são conectados a repositórios de código, documentos internos, ambientes de desenvolvimento e outros recursos com informações estratégicas.
A Microsoft também está adicionando mecanismos para limitar o acesso dos agentes a dados e sistemas, ajustar permissões conforme a tarefa executada e exigir aprovação humana quando uma decisão parecer arriscada.
Na prática, a proposta é substituir permissões amplas e permanentes por controles mais específicos, adaptados ao contexto de cada operação.
🤝 Nvidia e outras empresas seguem caminho semelhante
A preocupação não está restrita à Microsoft.
A companhia também participou do lançamento da Open Agent Safety Platform, iniciativa da Nvidia que recebeu apoio de mais de 100 empresas de tecnologia, segundo a reportagem da TechCrunch.
A plataforma busca isolar agentes em ambientes seguros e permitir que seu comportamento seja monitorado e interrompido por mecanismos que incluem controles em hardware.
A proposta funciona como uma espécie de botão de emergência: se um agente começar a agir de maneira perigosa, a infraestrutura de segurança poderá impedir que ele continue executando suas ações.
Esse movimento acompanha a expansão dos agentes de IA para computadores, ambientes de trabalho e sistemas que realizam tarefas com cada vez menos intervenção humana.
O desafio deixa de ser apenas produzir modelos mais capazes. É preciso desenvolver mecanismos que mantenham essas capacidades dentro de limites definidos.
O próximo desafio da IA corporativa
A discussão expõe uma contradição importante na adoção empresarial da inteligência artificial.
Para que um agente seja realmente útil, muitas vezes ele precisa acessar arquivos, utilizar ferramentas, tomar decisões e executar ações. Entretanto, quanto maior o acesso concedido, maiores podem ser as consequências de um erro, de uma instrução maliciosa ou de um comportamento inesperado.
A resposta não será necessariamente impedir a adoção de agentes, mas criar ambientes nos quais suas ações sejam limitadas, verificáveis e reversíveis sempre que possível.
A Microsoft aposta que essa camada de proteção será tão importante quanto os próprios modelos de IA.
E há uma questão que as empresas precisarão responder antes de delegar novas responsabilidades às máquinas: se um agente puder agir como um funcionário, quem terá autoridade para fiscalizar suas decisões e interrompê-lo quando algo der errado?
