Colaboração entre humanos e IA: o que um estudo da Macquarie Business School revela sobre os paradoxos da delegação

A maioria das empresas já usa inteligência artificial. Segundo a McKinsey, 88% das organizações aplicam IA em pelo menos uma função. Apenas 39% delas, porém, relatam impacto mensurável no EBIT.

Uma pesquisa da RAND Corporation aponta uma causa mais profunda que a tecnologia em si. Mais de 80% dos projetos de IA fracassam, o dobro da taxa de projetos de TI tradicionais. Em 84% dos casos, a origem da falha está em decisões de liderança, não na ferramenta escolhida.

Um estudo da Macquarie Business School, publicado nos anais do Australasian Conference on Information Systems (ACIS) de 2025, ajuda a explicar por quê. Os pesquisadores Yijun Chen, Alireza Amrollahi e Lin Yue revisaram sistematicamente 48 estudos publicados nos periódicos mais influentes de sistemas de informação do mundo.

A pergunta que orientou a revisão foi direta: como humanos e sistemas de IA realmente dividem trabalho e decisão dentro das empresas, e o que quebra quando essa divisão falha.

A resposta identifica três formas distintas de organizar essa colaboração e um paradoxo específico que corrói cada uma delas por dentro. Essa discussão já acompanha o movimento mais amplo pelo qual a inteligência artificial deixa de ser apenas ferramenta para se tornar parte da estratégia de gestão empresarial, e acrescenta a ele uma camada mais concreta: a de como humanos e sistemas devem, de fato, dividir trabalho e decisão dentro da própria empresa.

O que a pesquisa da Macquarie Business School investigou

A equipe aplicou o método de revisão sistemática de Wolfswinkel et al. em cinco estágios sobre a base Scopus. A busca ficou restrita aos 11 periódicos classificados como A* pela Australian Business Deans Council, reunidos na AIS Senior Scholars' Basket, a cesta de publicações de maior peso acadêmico em sistemas de informação no mundo.

Três pesquisadores codificaram os estudos de forma independente, com reconciliação iterativa até chegarem a um acordo. A amostra final somou 48 estudos, divididos entre três configurações de colaboração: 19 co-adaptativos, 17 aumentativos e 12 delegativos.

Os próprios autores reconhecem uma limitação relevante do próprio trabalho. A revisão cobre periódicos de padrão elevadíssimo, mas pode excluir perspectivas relevantes de disciplinas adjacentes que não publicam nesse conjunto específico de revistas.

As três formas de organizar a colaboração entre humanos e IA

Cada uma das 48 pesquisas revisadas se encaixa em um de três modelos, definidos pela direção da delegação e pelo grau de autonomia dado ao sistema de IA. A diferença entre eles é decisiva: muda quem avalia quem, e quem responde pelo resultado final.

Colaboração co-adaptativa

Na configuração co-adaptativa, humano e IA ajustam o próprio comportamento em ciclos contínuos de retroalimentação. É o modelo por trás de sistemas de aprendizado interativo, diálogo adaptativo e machine learning com humano no circuito, usados em tarefas como avaliação de risco com validação humana ou correção recíproca de erros.

A delegação aqui é bidirecional, e a autonomia da IA varia de média a alta. Plataformas de análise marítima e sistemas de aprendizado adaptativo estão entre os exemplos que os autores encontraram na literatura revisada.

Colaboração aumentativa

O modelo aumentativo é o mais comum na amostra da Macquarie. Ele aparece em 35,4% dos 48 estudos revisados, uma vez que reúne o uso mais direto de ferramentas já difundidas nas empresas.

Aqui a IA amplia a capacidade analítica humana sem substituir o julgamento de quem decide. A pessoa mantém a autoridade decisória, e o sistema entrega suporte computacional por meio de regras de negócio, analytics preditivo, IA generativa ou dashboards interativos. A delegação é unidirecional, do humano para a IA, e a autonomia do sistema costuma ser baixa a moderada.

Colaboração delegativa

Na configuração delegativa, a empresa transfere a responsabilidade completa por uma tarefa específica para um sistema de IA que opera com alta autonomia. O papel humano muda para supervisão, ajuste de parâmetros e tratamento de exceções.

Sistemas de decisão autônoma, automação robótica de processos e sistemas multiagente estão entre as tecnologias associadas a esse modelo. É também o território dos agentes de IA autônomos que já operam em áreas como atendimento, vendas e compras, tomando decisões próprias dentro de metas específicas. Aprovação automática de empréstimos e seleção de candidatos aparecem entre os exemplos citados pelos autores.

Os paradoxos que aparecem quando a colaboração falha

Nenhuma das três configurações funciona como a retórica sobre colaboração promete. Os autores identificam um paradoxo específico para cada modelo, batizado a partir da forma como cada um trai a própria lógica que deveria seguir.

A assimetria de avaliação

Sistemas co-adaptativos deveriam envolver avaliação mútua. Porém, os autores não encontraram nenhum caso documentado de um sistema de IA avaliando o desempenho do parceiro humano.

O caso de operadores marítimos, analisado pelos pesquisadores Grønsund e Aanestad, ilustra o problema.

Os operadores recalibravam continuamente o próprio fluxo de trabalho para acomodar falhas e limitações do algoritmo, enquanto o sistema seguia incapaz de detectar sinais de confusão, fadiga ou queda de desempenho do próprio operador. A colaboração, nesse desenho, funciona como uma subordinação sofisticada do humano às exigências do algoritmo.

O paradoxo da sobrecarga

Sistemas aumentativos deveriam reduzir a carga cognitiva de quem decide. Os autores encontram o efeito oposto. Quanto mais sofisticado o sistema, maior o investimento cognitivo necessário para manter uma supervisão humana significativa sobre ele.

Um estudo sobre seleção colaborativa de variáveis, conduzido por Ben-Assuli e colegas, mostrou como dashboards de IA explicável, criados justamente para facilitar a colaboração, se tornaram fonte de tensão cognitiva em vez de alívio. Os requisitos de transparência e interpretabilidade, ainda que eticamente necessários, acabam reduzindo em vez de melhorar a capacidade humana de decidir.

A responsabilidade fantasma

Sistemas delegativos deixam o humano com responsabilidade formal por decisões que ele não toma nem compreende de fato. A delegação tradicional pressupõe que quem delega mantém entendimento suficiente para avaliar o resultado e intervir quando necessário, uma suposição que a delegação para um sistema de IA rompe.

O resultado é uma responsabilidade que existe só no papel, enquanto o controle real migra para o sistema algorítmico. Quando as pessoas percebem essa perda de controle, ficam menos dispostas a adotar a própria ferramenta de IA.

A Gartner já documentou um padrão parecido entre projetos de inteligência artificial generativa: quase um terço deles é abandonado depois da prova de conceito, por controles de risco insuficientes e valor de negócio pouco claro.

Essa mesma pergunta atravessa os dilemas éticos do uso da IA nas empresas, que ganham peso à medida que decisões com impacto sobre pessoas passam a contar com apoio algorítmico.

O framework de governança para lidar com os paradoxos

Diante desses três paradoxos, os pesquisadores propõem uma mudança de lógica. Em vez de otimizar uma configuração fixa de colaboração, a recomendação é tratar a relação entre humanos e IA como navegação dentro de um espaço de delegação que muda com o tempo. Isso exige quatro capacidades organizacionais trabalhando juntas, já que nenhuma delas sozinha resolve os três paradoxos.

A primeira é a capacidade de avaliação mútua, o antídoto direto para a assimetria de avaliação. Além de o humano avaliar a IA, a empresa precisa de mecanismos que rastreiem competência, fadiga e prontidão decisória de quem opera o sistema, algo próximo do que já existe hoje em estruturas clássicas de controle, como o Modelo das Três Linhas usado em auditoria e gestão de riscos.

A segunda é uma infraestrutura de vocabulário compartilhado. Taxonomia comum para os padrões de delegação, protocolos definidos de interação e estruturas claras de responsabilidade ajudam a empresa a nomear com precisão aquilo que está automatizando.

A terceira é a governança da delegação em si, com mecanismos de reversibilidade, preservação de competência e participação de quem trabalha nas mudanças de configuração. Isso garante que a automação avance de forma negociada, e não apenas imposta de cima para baixo.

A quarta é a capacidade adaptativa: monitoramento de deriva na configuração escolhida, gestão da dependência de trajetória e resiliência a falhas de automação, para que a empresa perceba a tempo quando o desenho da colaboração já não serve ao problema que deveria resolver.

O que isso muda para quem lidera

Nenhuma das quatro capacidades listadas pelos pesquisadores nasce pronta dentro de uma empresa. Elas exigem que a liderança pare de tratar a adoção de IA como decisão pontual de ferramenta e passe a tratá-la como desenho contínuo de sistema, com revisão, exceção e prestação de contas planejadas desde o início.

Essa mesma lacuna de estrutura já aparece na conta que chega para o CFO aprovar. Quando o orçamento de IA cresce sem controle proporcional de retorno, a causa raiz costuma ser a mesma ausência de governança que alimenta os três paradoxos: ninguém desenhou, com antecedência, quem avalia o quê e quem responde pelo resultado.

A pós-graduação em IA Aplicada à Gestão Empresarial da FDC Pós Online dedica uma disciplina inteira a ética, cultura e governança na era da IA, formando quem vai estruturar esse tipo de framework dentro da própria empresa.

Para quem já responde por equipe, orçamento ou decisão estratégica e precisa desse desenho pronto em semanas, não em um ciclo acadêmico completo, a FDC também lança a Imersão Executiva em IA: da Estratégia à Execução, um programa presencial de dois dias que parte do diagnóstico real de uso de IA na empresa e chega a um plano de ação executável.

Os autores da Macquarie resumem a virada de forma direta. Colaboração sustentável entre humanos e IA pede engajamento real com essas contradições, a assimetria, a sobrecarga e a responsabilidade fantasma, cada uma com estrutura própria de resposta.

Esconder esses paradoxos atrás de um discurso colaborativo confortável só adia o problema para depois que ele já custou caro.

Perguntas frequentes