Empresas monitoram consumo de tokens para controlar custos com IA

Empresas monitoram o uso de inteligência artificial por funcionários (imagem: Alex Kotliarskyi/Unsplash) Resumo Empresas estão monitorando o consumo de tokens para avaliar eficiência e controlar custos com IA. Tokens medem processamento em sistemas de IA, influenciando custos por uso. Vercel e Kumo AI relatam impactos financeiros e operacionais do uso de IA. O avanço das ferramentas de inteligência artificial no ambiente corporativo começa a trazer um novo tipo de preocupação: o custo por uso. Empresas mais avançadas na adoção dessas soluções já monitoram quantos “tokens” seus funcionários consomem ao utilizar as IAs. Segundo o Wall Street Journal, a prática surge em meio ao aumento da produtividade proporcionado pela IA, mas também à necessidade de entender o impacto financeiro dessa tecnologia. Cada interação com sistemas — seja para gerar texto, código ou automatizar tarefas — exige processamento computacional, que é convertido em tokens e, consequentemente, em custo. Na Zapier, empresa de automação de fluxos de trabalho com inteligência artificial, dashboards internos passaram a incluir esse tipo de métrica, segundo executivos da empresa. O objetivo é identificar padrões de uso e avaliar se os recursos estão sendo bem aproveitados. O que são tokens? Tokens são unidades que medem o volume de processamento necessário para executar tarefas em sistemas de IA. Em aplicações de texto, por exemplo, cerca de 750 palavras podem representar aproximadamente 1.000 tokens. Em atividades mais complexas, como geração de código ou uso de agentes automatizados, o cálculo se torna mais sofisticado, mas segue a mesma lógica. Embora os preços por token tenham diminuído, modelos mais avançados ainda apresentam valores elevados, e o volume total de uso tende a crescer. Algumas companhias adotam planos sob demanda, enquanto outras negociam pacotes corporativos com limites por funcionário. Ao jornal, o diretor de transformação em IA da Zapier, Brandon Sammut, afirma que o uso de IA — s...

Fonte: Tecnoblog
Leia mais: https://tecnoblog.net/noticias/empresas-monitoram-consumo-de-tokens-para-controlar-custos-com-ia/