Principais destaques
- Uma disputa envolvendo um sistema de inteligência artificial usado na operação da Pizza Hut mostra que automatizar processos não significa necessariamente torná-los mais eficientes.
- Uma franquia da rede acusa o sistema Dragontail de contribuir para atrasos nas entregas, queda de desempenho e prejuízos que ultrapassariam US$ 100 milhões. As acusações ainda são objeto de disputa judicial.
- O episódio expõe um problema que vai muito além da Pizza Hut: uma IA pode tomar decisões aparentemente inteligentes e, ainda assim, prejudicar uma operação quando seus objetivos, dados e incentivos não estão alinhados com a realidade do negócio.
A inteligência artificial vive um momento curioso.
Ao mesmo tempo em que empresas de praticamente todos os setores correm para incorporar modelos inteligentes, agentes autônomos e sistemas capazes de tomar decisões, alguns casos começam a mostrar que o verdadeiro desafio não é mais provar que a IA funciona.
O desafio agora é fazer com que ela funcione no mundo real.
É uma diferença enorme.
Em uma demonstração controlada, uma inteligência artificial pode parecer impressionante. Ela analisa informações, identifica padrões, sugere ações e consegue tomar decisões em poucos segundos. Mas uma operação empresarial não acontece em um laboratório. Existem funcionários, clientes, fornecedores, sistemas antigos, regras comerciais, limitações logísticas e situações inesperadas.
É justamente nesse ambiente que uma decisão aparentemente eficiente pode provocar um efeito completamente diferente do esperado.
Um caso envolvendo a Pizza Hut ajuda a ilustrar esse problema. Uma franquia norte-americana da rede, a Chaac Pizza Northeast, que opera 111 unidades, entrou com uma ação contra a Pizza Hut alegando que a implementação do sistema de gerenciamento de entregas Dragontail provocou uma série de problemas operacionais. Segundo a acusação, a tecnologia teria contribuído para atrasos, perda de eficiência e deterioração do desempenho comercial. A empresa pede mais de US$ 100 milhões em danos.
É importante destacar que essas são alegações apresentadas pela franquia em um processo judicial. A Pizza Hut recebeu a reclamação e indicou que pretende responder à ação. Portanto, o caso ainda não significa que todas as acusações tenham sido comprovadas judicialmente.
Mesmo assim, existe uma lição extremamente importante para o mercado de inteligência artificial.
Quando uma IA otimiza uma coisa e prejudica outra
O ponto mais interessante do caso não está apenas na tecnologia utilizada, mas na maneira como uma decisão automatizada pode alterar o comportamento de todo um sistema.
De acordo com as informações apresentadas sobre o processo, o Dragontail foi desenvolvido para ajudar a organizar e otimizar a operação de entrega. A ideia, em princípio, parece bastante lógica: utilizar dados para decidir melhor quando uma pizza estará pronta, como organizar pedidos e como coordenar a logística.
O problema aparece quando a otimização feita pelo sistema não leva em consideração todos os incentivos existentes na operação.
A acusação da franquia afirma que a mudança teria dado aos motoristas da DoorDash informações mais detalhadas sobre os pedidos e sobre o momento em que eles estariam prontos. Segundo a narrativa apresentada no processo, isso teria criado espaço para que determinados motoristas esperassem para combinar entregas, aumentando o tempo de espera dos pedidos.
É um exemplo quase perfeito de um problema que pode passar despercebido durante o desenvolvimento de uma solução de IA.
O sistema pode estar fazendo exatamente aquilo para o qual foi programado.
Mas o ambiente ao redor reage à decisão.
Imagine uma empresa que cria uma inteligência artificial para reduzir o custo de entregas. O sistema percebe que determinadas rotas podem ser agrupadas e conclui que isso representa uma economia. Só que, ao agrupar os pedidos, os consumidores passam a esperar mais tempo.
Para o algoritmo, houve uma otimização.
Para o cliente, houve uma piora.
Essa diferença entre métrica otimizada e resultado real é um dos maiores desafios da inteligência artificial aplicada aos negócios.
Uma empresa pode definir que deseja reduzir custos, acelerar processos ou aumentar a produtividade. Porém, se o sistema não considerar satisfação do consumidor, qualidade, reputação, segurança e outros indicadores, existe o risco de melhorar uma métrica enquanto destrói outra.
É por isso que implementar IA não deveria ser encarado simplesmente como instalar um novo software.
É necessário compreender o sistema inteiro.
No caso relatado sobre a Pizza Hut, a franquia também afirma que a adoção do sistema trouxe impactos significativos para os tempos de entrega. Uma reportagem baseada na ação judicial afirma que a proporção de entregas realizadas em até 30 minutos teria caído de cerca de 90% para aproximadamente 50% após a mudança, enquanto uma parcela relevante das entregas teria passado a ultrapassar 45 minutos.
Se esses números forem confirmados no decorrer do processo, eles mostram algo ainda mais importante: uma tecnologia criada para melhorar a operação pode acabar alterando radicalmente a experiência que o cliente percebe.
E esse é o tipo de falha que empresas precisam aprender a detectar antes de colocar uma IA em escala.
O problema pode estar nos dados, mas também nos incentivos
Existe uma tendência de explicar os erros da inteligência artificial apenas com uma palavra: dados.
E, de fato, dados ruins são um enorme problema.
Uma IA que recebe informações incompletas, antigas ou inconsistentes pode produzir respostas igualmente ruins. Se o estoque não está atualizado, um sistema pode recomendar um produto indisponível. Se o endereço está errado, uma automação pode enviar uma entrega para o lugar incorreto. Se o histórico de um cliente está incompleto, uma ferramenta de recomendação pode interpretar de maneira equivocada seus interesses.
Mas o caso da Pizza Hut ajuda a lembrar que existe uma segunda camada.
Mesmo com dados corretos, a IA pode produzir uma decisão ruim se o objetivo definido para ela estiver incompleto.
Esse ponto é especialmente importante na era dos agentes de IA.
Um sistema tradicional costuma executar uma tarefa bastante delimitada. Já os agentes mais avançados podem receber um objetivo, consultar diferentes fontes de informação, escolher ações e continuar executando etapas de forma relativamente autônoma.
Isso aumenta muito o potencial da tecnologia.
Também aumenta o risco.
Quanto mais autonomia um sistema recebe, maior é a importância de definir claramente o que significa “bom resultado”.
Imagine uma IA encarregada de reduzir o tempo médio de entrega. Ela pode encontrar maneiras criativas de atingir esse objetivo. Mas será que deve fazer isso aumentando o número de pedidos agrupados? Deve priorizar determinados bairros? Deve mudar a ordem de produção na cozinha? Deve considerar o valor da gorjeta? Deve ignorar pedidos menos rentáveis?
Essas perguntas não são apenas técnicas.
São decisões de negócio.
E uma IA não consegue resolver sozinha uma definição empresarial que foi mal formulada.
O NIST, órgão do governo dos Estados Unidos responsável por padrões e tecnologia, recomenda justamente que organizações considerem características como confiabilidade, segurança, transparência, responsabilidade e capacidade de explicação durante as diferentes etapas de desenvolvimento, implantação e avaliação de sistemas de IA.
Na prática, isso significa que uma empresa não deveria perguntar apenas:
“Qual modelo de IA devemos usar?”
A pergunta mais importante talvez seja:
“Qual decisão estamos permitindo que essa tecnologia tome e quais consequências podem surgir dessa decisão?”
Essa mudança de perspectiva é fundamental.
Uma inteligência artificial pode ser tecnicamente excelente e, ainda assim, ser inadequada para determinada tarefa.
Da mesma maneira, um modelo menos sofisticado pode funcionar muito bem quando está conectado aos dados certos, possui limites claros e é utilizado dentro de um processo bem estruturado.
A corrida pelos modelos mais poderosos, portanto, pode acabar distraindo as empresas de uma questão mais básica: o problema que elas estão tentando resolver está realmente preparado para ser automatizado?
Antes de colocar a IA no comando, é preciso testar o mundo real
A maior lição desse tipo de episódio talvez seja simples: empresas não deveriam esperar o primeiro grande problema para descobrir que sua inteligência artificial não estava preparada.
O teste precisa acontecer antes.
Uma estratégia mais segura começa com um projeto-piloto. Em vez de liberar imediatamente um sistema para toda a operação, a empresa pode limitar sua utilização a determinados locais, horários, equipes ou tipos de tarefa.
Isso cria uma espécie de laboratório dentro da própria operação.
É possível observar como a tecnologia reage a situações normais e excepcionais. Também fica mais fácil comparar os resultados com aqueles obtidos pelo processo anterior.
E existe um detalhe fundamental: não basta medir se a IA alcançou o objetivo para o qual foi criada.
É preciso medir aquilo que pode ser prejudicado por ela.
Se o objetivo é acelerar entregas, por exemplo, a empresa precisa acompanhar também reclamações, cancelamentos, qualidade do produto, satisfação dos clientes, custos e carga de trabalho dos funcionários.
Caso contrário, a organização pode descobrir tarde demais que ganhou velocidade em uma parte da operação e perdeu dinheiro em outra.
Essa lógica também vale para chatbots.
Uma empresa pode comemorar porque seu agente de atendimento conseguiu responder 95% das perguntas sem intervenção humana. Mas o número isolado não diz se as respostas estavam corretas.
Se o sistema respondeu rapidamente e errou em situações importantes, a taxa de automação pode estar escondendo um problema.
É nesse ponto que entra a supervisão humana.
Ter uma pessoa disponível para intervir não significa que a empresa falhou em automatizar. Em muitos casos, significa exatamente o contrário.
Um sistema bem desenhado sabe quando deve continuar sozinho e quando precisa pedir ajuda.
Essa ideia ganha ainda mais importância quando a IA começa a interagir diretamente com clientes ou executar ações que produzem consequências financeiras.
Uma resposta errada pode ser corrigida.
Uma ação errada pode gerar um custo real.
O NIST também destaca a importância de avaliar sistemas de IA durante todo o ciclo de vida, incluindo desenvolvimento, implantação, utilização, testes e avaliação.
Isso muda a maneira como as empresas deveriam enxergar projetos de inteligência artificial.
A implantação não deveria ser considerada o final do projeto.
É apenas o começo de uma etapa contínua de monitoramento.
Uma IA pode funcionar perfeitamente durante os primeiros meses e começar a apresentar problemas depois. Dados mudam. Comportamentos dos consumidores mudam. Fornecedores mudam. Sistemas são atualizados. Novas regras entram em vigor.
Até mesmo os incentivos das pessoas envolvidas na operação podem mudar.
Por isso, uma solução que funcionava ontem pode precisar ser recalibrada amanhã.
A inteligência artificial precisa entender o negócio, não apenas os dados
Existe uma diferença entre ensinar uma máquina a encontrar padrões e ensinar uma máquina a tomar boas decisões dentro de uma empresa.
A primeira tarefa pode ser predominantemente técnica.
A segunda envolve tecnologia, estratégia, pessoas e conhecimento operacional.
É justamente por isso que projetos de IA precisam reunir profissionais de diferentes áreas. Engenheiros e especialistas em dados são importantes, mas não são suficientes. Pessoas que conhecem atendimento, logística, finanças, segurança, jurídico e a operação diária também precisam participar da construção da solução.
Quem está no chão da operação frequentemente conhece problemas que não aparecem em uma planilha.
Um gerente pode saber que determinada loja possui uma particularidade que não está registrada no sistema. Um funcionário pode perceber que uma regra aparentemente eficiente cria problemas em horários de pico. Um atendente pode reconhecer que determinada resposta de chatbot irrita os clientes.
Essas informações também são dados.
Só que são dados sobre o mundo real.
Ignorá-los pode fazer com que uma empresa construa uma inteligência artificial extremamente sofisticada para resolver uma versão simplificada do problema.
E isso explica por que tantos projetos de IA enfrentam dificuldades quando deixam o ambiente controlado e entram em produção.
A tecnologia não encontra mais apenas informações.
Ela encontra pessoas.
O futuro da IA nas empresas será menos sobre substituir pessoas e mais sobre redesenhar processos
Existe uma narrativa muito popular de que a inteligência artificial vai substituir profissionais e automatizar grandes partes das empresas.
Em alguns casos, isso certamente acontecerá.
Mas os exemplos mais complexos mostram que a transformação pode ser diferente.
Em vez de simplesmente eliminar uma pessoa de um processo, a IA pode mudar a maneira como várias pessoas trabalham.
Um atendente pode deixar de responder perguntas simples e passar a lidar apenas com casos que exigem julgamento. Um gerente pode receber previsões de demanda antes de tomar uma decisão sobre estoque. Um profissional de logística pode supervisionar uma operação que antes precisava ser coordenada manualmente.
Nesse cenário, a inteligência artificial não desaparece quando funciona bem.
Ela fica praticamente invisível.
O cliente simplesmente percebe que o serviço funciona.
E talvez esse seja o melhor indicador de sucesso.
Se uma empresa precisa explicar constantemente que sua IA é sofisticada, alguma coisa pode estar errada. O consumidor não está interessado na arquitetura do modelo. Ele quer receber o pedido certo, no prazo correto e sem precisar lutar contra um sistema automatizado.
A tecnologia só gera valor quando melhora essa experiência.
O caso da Pizza Hut é especialmente interessante porque acontece em um setor no qual pequenos atrasos podem ter consequências enormes. Uma pizza não é apenas um produto vendido. Existe uma expectativa de tempo, temperatura, conveniência e experiência associada à entrega.
Uma mudança de poucos minutos pode alterar a percepção do cliente.
Uma alteração no comportamento dos entregadores pode afetar a cozinha.
Uma mudança na distribuição dos pedidos pode afetar funcionários.
Ou seja, o sistema inteiro está conectado.
Esse é o ponto que empresas de todos os setores precisam compreender antes de ampliar o uso de agentes e automações.
IA não é uma ilha.
Ela faz parte de um ecossistema.
Se esse ecossistema não estiver preparado, a inteligência artificial pode apenas acelerar um processo que já tinha problemas.
E acelerar um processo ruim não o transforma em um processo bom.
Transforma o problema em algo mais rápido.
O verdadeiro teste começa depois do lançamento
A inteligência artificial corporativa está entrando em uma fase diferente.
Durante os últimos anos, muitas empresas estavam preocupadas em experimentar a tecnologia. Agora, a pergunta está mudando para outra direção: como transformar experimentos em sistemas confiáveis, rentáveis e sustentáveis?
Essa transição exige maturidade.
Empresas precisam definir objetivos claros, avaliar riscos, testar hipóteses, monitorar resultados e criar mecanismos para interromper uma automação quando ela começa a produzir efeitos indesejados.
Também precisam aceitar que nem todo processo deve ser automatizado.
Às vezes, a melhor aplicação de IA é ajudar um profissional a decidir melhor.
Em outras situações, a tecnologia pode executar praticamente todo o processo.
A diferença está no contexto.
O episódio envolvendo a Pizza Hut, portanto, não deveria ser interpretado simplesmente como uma história sobre uma inteligência artificial que “deu errado”.
A discussão é muito maior.
Ela mostra que a tecnologia pode ser poderosa demais para ser implementada sem planejamento. Mostra que uma métrica otimizada não necessariamente representa sucesso. E reforça que dados, integração, governança, treinamento e supervisão são tão importantes quanto o modelo escolhido.
A inteligência artificial está ficando cada vez mais capaz.
Isso torna a responsabilidade das empresas ainda maior.
No fim, a pergunta mais importante não é se uma IA consegue tomar uma decisão sozinha.
É se a empresa está preparada para lidar com a decisão quando a máquina estiver errada.
E essa talvez seja uma das principais lições da nova fase da inteligência artificial: o futuro não pertence necessariamente às empresas que automatizam mais, mas às que sabem exatamente o que automatizar, como medir o resultado e quando manter um ser humano no controle.
