Gigantes reclamam que tokens de IA custam mais que funcionários

Adoção da IA sempre foi vinculada a uma ideia de “corte de custos” (ilustração: Vitor Pádua/Tecnoblog) Resumo Microsoft e Uber reclamaram do alto custo dos tokens de IA. O uso de tokens de IA está se tornando caro para as empresas, como Microsoft e Uber. A consultoria Gartner prevê que o custo para um sistema de 1 trilhão de parâmetros deve cair cerca de 90% até 2030. A promessa de transformação da inteligência artificial no ambiente corporativo veio acompanhada da ideia de redução de custos, em especial de pessoal. No entanto, gigantes da tecnologia como Microsoft e Uber já começaram a rever o uso interno de ferramentas de IA devido ao alto custo astronômico. O motivo é o cálculo da quantidade de tokens processados: quanto mais a equipe usa a ferramenta, mais a empresa paga. Como nota o site de finanças Livemint, o problema é maior em ferramentas corporativas usadas por engenheiros, designers, gerentes de produto e times técnicos, já que o custo por token para escrever código, revisar tarefas ou automatizar processos é maior. Por que os tokens são importantes? Tokens são elementos essenciais para o funcionamento das IAs (imagem: reprodução) No universo dos modelos de linguagem, tokens são pequenos pedaços de texto processados pela IA, que podem ser partes de palavras, palavras inteiras ou sinais. Eles entram na conta tanto quando o usuário envia um comando quanto na resposta do sistema. Dessa forma, uma tarefa aparentemente simples pode consumir muitos tokens se envolver arquivos longos, códigos, histórico de conversa ou múltiplas etapas de raciocínio. Em equipes de engenharia, esse volume cresce ainda mais porque os modelos analisam repositórios, logs, mensagens, documentação e trechos de código. Empresas tentam otimizar gastos com tokens Satya Nadella é CEO da Microsoft (imagem: divulgação) A Microsoft, por exemplo, ganhou as manchetes há duas semanas porque começou a cancelar as licenças do Claude Code. Ela redirecionará os times de engenharia para o GitHub Copi...

Fonte: Tecnoblog
Leia mais: https://tecnoblog.net/noticias/gigantes-reclamam-que-tokens-de-ia-custam-mais-que-funcionarios/