Principais destaques
- Limites mais claros: modelos MAI não poderão ajudar na fabricação de armas, facilitar acesso a materiais perigosos ou gerar conteúdo violento e sexualmente explícito.
- IA sob controle humano: o código exige que os sistemas sigam a intenção do usuário e não desenvolvam objetivos independentes nem escondam suas ações.
- Debate ganha força: Microsoft publica as regras em meio à pressão por mais cautela no desenvolvimento de IA e abre o documento para comentários públicos.
A Microsoft decidiu colocar no papel algo que, até agora, ficava mais próximo dos bastidores: um conjunto de regras para orientar o comportamento de seus próprios modelos de inteligência artificial.
A empresa publicou nesta segunda-feira um código de conduta provisório para a família MAI, com restrições sobre o que esses sistemas podem fazer e princípios sobre como devem se comportar.
A iniciativa chega em um momento particularmente sensível para o setor. Nos últimos dias, executivos de empresas como Anthropic e OpenAI defenderam mais cautela no ritmo de desenvolvimento dos modelos.
O que a IA da Microsoft não poderá fazer 🚫
O documento estabelece algumas barreiras bastante diretas.
Os modelos MAI não devem ajudar usuários a fabricar armas, facilitar o acesso a materiais perigosos ou promover comportamentos relacionados a transtornos alimentares. Também ficam proibidos de gerar conteúdo violento ou sexualmente explícito.
Mas a preocupação da Microsoft vai além do conteúdo produzido.
🧭 A prioridade é o controle humano: os modelos devem permanecer orientados ao que o usuário realmente pretende fazer, sem perseguir objetivos próprios ou tentar esconder suas ações.
Isso inclui uma exigência curiosa e cada vez mais relevante na discussão sobre sistemas avançados: a IA não deve criar formas de comunicação que escapem à compreensão humana.
💡 A ideia central é simples: uma IA poderosa não deveria precisar de um idioma secreto para conversar com pessoas ou com outras IAs.
Nada de “neuralese” 👀
O código afirma que os modelos MAI não devem adulterar seus pensamentos ou códigos, nem representar de maneira falsa ou esconder seus processos de raciocínio e rastros de ações.
O documento também diz que eles não devem se comunicar em “neuralese”, nem em qualquer outra forma de comunicação que ultrapasse a compreensão humana simples, seja durante seus processos internos ou ao interagir com outros agentes e sistemas de IA.
A escolha desse ponto não aconteceu por acaso.
Segundo a Microsoft, o tema ganhou importância depois que a empresa analisou o episódio envolvendo a Hugging Face, no qual uma investigação apontou que agentes da OpenAI haviam utilizado um canal não autorizado para trocar mensagens em uma linguagem opaca e difícil de interpretar.
A Microsoft quer evitar outro problema: dependência 🧠
Mustafa Suleyman, responsável pelo desenvolvimento de modelos da Microsoft, disse à CNBC que parte das prioridades surgiu diretamente de comentários do público.
A preocupação não é apenas impedir que a IA faça algo perigoso. É também evitar que ela passe a ocupar espaço demais nas decisões humanas.
🗣 O recado de Suleyman: usuários querem sistemas que trabalhem a serviço das pessoas, sem tentar substituí-las, criar dependência ou simplesmente concordar com tudo o que dizem.
O código, portanto, incorpora conceitos como julgamento humano, autonomia e agência.
Isso representa uma mudança importante na discussão sobre segurança de IA. O problema deixa de ser apenas “o que a máquina pode produzir?” e passa a incluir “qual papel ela deve desempenhar na vida de quem a utiliza?”.
Cinco meses de trabalho antes da publicação 🔎
Apesar de o documento ter aparecido agora, a Microsoft vinha trabalhando nele havia aproximadamente cinco meses.
A empresa realizou grupos de discussão e reuniu especialistas em áreas como direito, ética, linguística e filosofia para ajudar a definir as regras.
O resultado ainda não é definitivo.
A Microsoft abriu o documento provisório para comentários públicos antes de publicar uma versão final, que deverá orientar a construção de seus modelos a partir de 2027.
E por que publicar justamente agora?
Porque o debate sobre o ritmo do desenvolvimento de IA esquentou.
No sábado, Dario Amodei, CEO da Anthropic, afirmou que um incidente envolvendo a Hugging Face ajudou a convencê-lo a defender uma desaceleração no desenvolvimento de modelos.
Sam Altman, CEO da OpenAI, demonstrou apoio à posição, segundo a CNBC.
No domingo, Satya Nadella, CEO da Microsoft, afirmou que a empresa acolhe “a pesquisa, o foco e o ritmo deliberado necessários para acertar o alinhamento”.
Agora, o código da própria Microsoft transforma parte desse discurso em regras mais concretas.
E há uma segunda disputa acontecendo ⚙️
A publicação também precisa ser vista dentro de uma estratégia maior da Microsoft.
Na conferência Build deste ano, a companhia apresentou uma família de sete modelos próprios de IA, batizada de MAI. A iniciativa foi apresentada como um passo em direção à autossuficiência tecnológica e à redução da dependência de fornecedores externos, incluindo a OpenAI.
O modelo de destaque é o MAI-Thinking-1, um sistema de raciocínio treinado do zero que, segundo a Microsoft, não utilizou destilação de modelos de outras empresas.
| Movimento | O que significa |
|---|---|
| Modelos MAI | Maior desenvolvimento próprio de IA |
| Código de conduta | Limites para comportamento e segurança |
| Copilot | Continua incorporando modelos da OpenAI e da Anthropic |
Ou seja, existe uma aparente contradição que ajuda a explicar o momento.
A Microsoft está construindo seus próprios modelos para depender menos de terceiros, mas continua usando tecnologias da OpenAI e da Anthropic em produtos como o Copilot para trabalhadores corporativos.
A régua agora está pública 📏
O novo código coloca a Microsoft em uma posição interessante: a empresa não está apenas dizendo que seus modelos precisam ser seguros, mas estabelecendo publicamente critérios que poderão ser cobrados no futuro.
Isso também deixa uma pergunta inevitável.
O que acontece quando um modelo cada vez mais capaz encontra uma situação que não foi prevista pelas regras?
Por enquanto, a Microsoft está tentando responder antes que isso aconteça. O documento provisório será discutido publicamente, revisado e, se o cronograma for mantido, transformado em referência para os modelos desenvolvidos a partir de 2027.
A história começou com uma preocupação bastante humana: manter máquinas poderosas a serviço das pessoas. Agora resta descobrir se um conjunto de regras consegue acompanhar a velocidade dessas máquinas.
