Os funcionários da Amazon usam inteligência artificial apenas para relatórios, e não para resultados reais

Como a IA generativa se transforma em um “indicador” de desempenho dos funcionários

Com o aumento da popularidade das tecnologias de inteligência artificial generativa (IA), as empresas exigem cada vez mais que seus colaboradores demonstrem conquistas práticas no uso desses sistemas. Em resposta a essa pressão, surgiu um novo fenômeno: os empregados delegam tarefas sem sentido à IA apenas para melhorar suas estatísticas de utilização da tecnologia.

O Financial Times descreve a situação na Amazon

No artigo do Financial Times, fala-se sobre como os trabalhadores do gigante do comércio eletrônico estão usando cada vez mais o software MeshClaw. Esse agente se conecta às ferramentas de trabalho dos funcionários e pode executar tarefas em seu nome. Alguns deles usam-no para automatizar ações praticamente inúteis, a fim de elevar sua própria pontuação de eficiência no uso da IA.

A razão é a pressão crescente da gerência: agora mais de 80 % dos desenvolvedores são obrigados a usar IA semanalmente. Para cada colaborador há uma estatística individual, e quem fica aquém das metas deve explicar isso à liderança. Embora formalmente os gestores não devam avaliar os funcionários com base nos dados de uso de tokens de IA, nas últimas semanas surgiram suspeitas de que isso esteja acontecendo.

Em tal ambiente, alguns empregados da Amazon têm incentivos falsos: eles simulam alta atividade para benefício pessoal, e não pelo bem da empresa. Isso é especialmente importante para gigantes tecnológicos que investem grandes somas em infraestrutura de IA e desejam demonstrar aos investidores e à liderança o real valor da implementação.

Como a Amazon gerencia os dados de uso da IA

A Amazon planeja gastar neste ano cerca de US$ 200 bilhões em despesas de capital. Para garantir que as tecnologias sejam realmente aplicadas, a empresa intensifica o controle sobre o uso da IA. Inicialmente, eram divulgados estatísticas agregadas de uso da IA pelos funcionários, mas agora apenas os próprios especialistas e sua supervisão direta têm acesso aos resultados individuais. Os gerentes estão formalmente proibidos de usar esses dados para avaliar a eficiência do pessoal.

Situação em outras empresas de tecnologia

O Financial Times observa que abusos semelhantes ocorrem também na Meta Platforms. O MeshClaw, desenvolvido por mais de 30 especialistas da Amazon, pode carregar código de software em versões de produção, classificar e-mails e interagir com aplicativos como o Slack. Muitos funcionários expressam preocupação com a segurança dessas soluções: a IA pode gerar erros, e o controle sobre suas ações permanece fraco.

Assim, o aumento das exigências de uso da IA generativa leva à criação de “indicadores” de desempenho que às vezes se tornam um fim em si mesmos, em vez de um meio para alcançar resultados comerciais reais.