Principais destaques:
- O CEO do Instagram afirma que a IA tornou imagens falsas quase indistinguíveis das reais.
- A solução pode estar em verificar a autenticidade do conteúdo verdadeiro, e não em caçar falsificações.
- Usuários precisarão adotar uma postura mais cética ao consumir imagens e vídeos nas redes sociais.
O avanço acelerado da inteligência artificial está mudando profundamente a forma como consumimos conteúdo online.
Em uma reflexão publicada no fim de dezembro, Adam Mosseri, chefe do Instagram, reconheceu que a detecção de conteúdo falso gerado por IA está se tornando cada vez menos eficaz. Segundo ele, será mais prático comprovar o que é real do que tentar identificar tudo o que é sintético.
A avaliação veio em uma postagem extensa na própria plataforma, na qual Mosseri descreve um cenário em que imagens e vídeos artificiais já começam a dominar os feeds.
Para ele, a autenticidade, antes um diferencial humano, tornou-se algo fácil de reproduzir com ferramentas de IA cada vez mais acessíveis.
Quando a IA imita a realidade com perfeição
Mosseri foi direto ao ponto ao afirmar que confiar apenas nos próprios olhos já não é suficiente. Com sistemas capazes de gerar imagens convincentes em poucos segundos, as fronteiras entre o que foi capturado no mundo real e o que foi criado por algoritmos estão praticamente desaparecendo.
O problema afeta diretamente empresas como a Meta, que controla o Instagram e o Facebook. A empresa já admite dificuldades em detectar de forma confiável conteúdos gerados ou manipulados por IA, já que marcas d’água e outros métodos tradicionais são fáceis de remover ou burlar.
Verificar o real em vez de caçar o falso
Diante desse cenário, Mosseri defende uma mudança de mentalidade. Em vez de focar apenas na identificação de falsificações, as plataformas deveriam investir em mecanismos para comprovar a origem do conteúdo autêntico.
Uma das ideias citadas é a assinatura criptográfica de imagens no momento da captura, criando uma espécie de cadeia de custódia digital.
Fabricantes de câmeras profissionais já começaram a adotar padrões desse tipo, como o C2PA, mas a aplicação em larga escala ainda enfrenta desafios técnicos e de adoção. Mesmo assim, o executivo acredita que essa abordagem pode ser mais sustentável a longo prazo.
Usuários precisarão consumir conteúdo com mais ceticismo
Além das mudanças técnicas, Mosseri alertou que o comportamento dos usuários também precisará evoluir. A lógica de assumir que fotos e vídeos são reais por padrão já não se sustenta.
O novo normal exige atenção redobrada a quem publica o conteúdo, ao contexto e às intenções por trás de cada postagem.
Segundo ele, sinais como imagens cruas e pouco editadas ainda podem transmitir autenticidade por enquanto, mas nem isso será definitivo.
A IA, cedo ou tarde, também aprenderá a reproduzir imperfeições humanas. Para um Instagram com bilhões de usuários, a adaptação será rápida e inevitável.
