Empresas correram para adotar IA. Agora tentam entender a fatura
Falta de controle sobre tokens e computação em nuvem leva empresas a estourarem orçamentos em poucos meses
O medo de ficar para trás na corrida da inteligência artificial continua forte, levando empresas a adotar a tecnologia de forma acelerada e muitas vezes sem planejamento. Muitas organizações incentivaram seus funcionários a usar modelos de IA à vontade. Mas agora começam a perceber que essa liberdade tem um custo.
Apenas uma em cada quatro empresas afirma ter uma visão abrangente de quanto está gastando com IA, segundo uma pesquisa ainda não divulgada da KPMG, citada pelo "The Wall Street Journal".
Cerca de metade das empresas tem apenas alguma visibilidade sobre esses custos. Uma em cada cinco não tem praticamente nenhuma visão dos gastos ou só descobre o tamanho da conta quando a fatura chega.
“É um novo recurso que precisa ser gerenciado de uma forma que não existia antes, e estamos observando um crescimento exponencial”, disse Steve Chase, líder global de IA da KPMG, ao jornal.
Parte do problema está em definir exatamente quanto custa a IA. A unidade básica de consumo dos modelos, o token, não é algo simples de incorporar aos processos tradicionais de orçamento.
Cada token representa um fragmento de texto, código ou dado processado por um modelo ao interpretar um comando ou gerar uma resposta. Mas ele não corresponde necessariamente a uma palavra inteira.
Além disso, alguns tokens podem ser armazenados em cache pelos modelos, o que evita nova cobrança em usos futuros, enquanto outros precisam ser processados novamente. O resultado é um nível de incerteza que muitas vezes só fica claro quando a fatura chega no fim do mês.
Multiplique isso por centenas ou milhares de funcionários dentro de uma organização e fica fácil entender por que diretores financeiros estão recebendo contas astronômicas. A KPMG afirma estar trabalhando com empresas que consumiram seus orçamentos anuais de tokens e computação em nuvem em apenas alguns meses.
Leia mais: A IA está ficando mais cara. Usuários buscam alternativas “boas para o gasto”
No mês passado, o site Axios informou que um cliente de um consultor especializado em IA gastou US$ 500 milhões em apenas um mês após não estabelecer limites de uso para licenças do modelo Claude.
“As pessoas estão recebendo contas gigantescas”, afirma Sam Ransbotham, professor de análise de dados da Escola de Administração Carroll, do Boston College. “Você libera o uso e, de repente, quem paga a conta não é quem utiliza o produto. Sempre que existe esse tipo de desalinhamento, surgem problemas.”
O FIM DA FASE DE “CONSUMO ILIMITADO”
O desafio é agravado por uma mudança no modelo de precificação da IA. Depois de um período em que os fornecedores praticamente ofereciam um “buffet livre” de uso, as empresas do setor agora buscam recuperar os enormes custos envolvidos na operação de modelos avançados.
“Durante anos, o modelo de software como serviço (SaaS) funcionou com cobrança por usuário ou licença, porque as empresas precisam fazer orçamento”, diz Ransbotham. “Elas precisam prever seus gastos.” A IA, porém, segue uma lógica diferente.
Leia mais: Seus colegas agentes de IA logo terão os próprios IDs, emails e contas do Teams
Reforçada por executivos e conselhos de administração, a percepção de que a IA é uma tecnologia transformadora para os negócios também está criando incentivos perversos.
Recentemente, a Amazon encerrou um ranking interno de uso de IA depois que funcionários começaram a inflar artificialmente seus números. Alguns trabalhadores chegaram a atribuir tarefas sem sentido a agentes de IA apenas para subir na classificação.
MEDIR O USO NÃO BASTA
Segundo Baruch Lev, professor de contabilidade e finanças da Universidade de Nova York, as empresas precisam acompanhar dois indicadores: quanto a IA está sendo utilizada e quais benefícios concretos ela gera. Sem essas duas métricas, calcular o retorno sobre investimento (ROI) torna-se praticamente um exercício de adivinhação.
Parte da dificuldade decorre do fato de que muitas organizações ainda não decidiram como registrar de modo contábil seus investimentos em IA.
Algumas podem tratar esses gastos como despesas operacionais, semelhantes a aluguel ou salários. Outras podem considerá-los investimentos em capacidade produtiva, comparáveis à construção de infraestrutura tecnológica que poderá ser escalada por toda a empresa.
as empresas do setor de IA agora buscam recuperar os enormes custos envolvidos na operação de modelos avançados.
A decisão é importante. Dependendo da classificação contábil adotada, conselhos de administração podem se mostrar mais ou menos dispostos a continuar financiando iniciativas de IA.
Para empresas que receberam contas especialmente dolorosas, Lev acredita que ainda existe espaço para negociar condições de pagamento ou buscar alternativas mais baratas. Algumas poderão precisar financiar os gastos com caixa próprio, empréstimos ou até captação de recursos.
Mas os fornecedores também têm interesse em demonstrar flexibilidade.
“Os principais fornecedores querem mostrar crescimento de receita em seus balanços. Por isso, acredito que vão oferecer condições bastante favoráveis, pelo menos no começo”, afirma. Sem essa flexibilidade, acrescenta, “as pessoas simplesmente não conseguirão pagar”, diz Lev.
A REVOLUÇÃO PRECISA DE MENSURAÇÃO
Para evitar dores de cabeça futuras, Lev defende que as empresas desenvolvam mecanismos mais rigorosos para medir o retorno gerado pelos investimentos em IA.
Uma abordagem mais criteriosa – usando modelos mais baratos para tarefas simples e reservando os mais caros para atividades que realmente exigem capacidades avançadas – já começa a ser considerada por algumas empresas. A Coinbase, por exemplo, está avaliando esse tipo de estratégia, segundo uma publicação de seu CEO, Brian Armstrong.
Leia mais: O mercado de IA está repetindo a bolha pontocom?
Lev, porém, rejeita a ideia de que essas contas bilionárias sejam prova de que a bolha da IA está prestes a estourar. Para ele, a inteligência artificial representa “uma revolução real”, e não uma repetição da euforia das empresas pontocom dos anos 2000.
Mas, como toda revolução, ela também precisa de medidores.
