QConAI 2030: previsão aponta token spend e custos de inferência como gargalos
Meryem Arik, cofundadora da Doubleword e especialista em inference de alta vazão, apresentou no QConAI 2030 uma série de previsões sobre o que empresas vão priorizar até 2030. Ela citou que, após o lançamento do ChatGPT, já havia alertado em 2021 sobre a “crise” de hardware para inferência e disse que a evolução do mercado confirmou parte do cenário.
No painel, Arik destacou que o gasto com tokens e os custos de inferência estão virando um problema mais imediato para organizações, citando exemplos como o consumo de créditos do Claude por uma empresa não identificada e a aceleração de despesas de TI em bancos. Ela também mencionou dados da Deloitte, segundo os quais 23% das empresas dizem usar agentic AI ao menos moderadamente, e discutiu a ideia de que laboratórios de IA estariam subsidiando tokens, defendendo que a tendência observada é de tokens mais baratos.
InfoQ
O texto acima é um resumo reescrito. A apuração, o texto integral e os créditos são da fonte — abra o original para ler na íntegra.
Ler matéria original ↗Resumo gerado por IA a partir da matéria original e revisto pelo método descrito em como funciona a curadoria. Em caso de divergência, vale o texto da fonte. Achou um erro? Fale com a gente.