OpenAI gasta US$ 700.000 por dia para manter sua robusta infraestrutura funcionando

De acordo com uma reportagem do The Information, manter o Chat GPT é uma tarefa extremamente cara devido à sua popularidade e poder, com a OpenAI gastando até US$ 700.000 por dia para mantê-lo funcionando.

A maior parte desse custo é devido aos caros servidores necessários para sustentar a infraestrutura robusta. Dylan Patel, analista-chefe da empresa de pesquisa SemiAnalysis, afirmou que esses custos podem ser ainda maiores agora com a nova versão do modelo, o GPT-4.

A Microsoft está desenvolvendo seu próprio chip de IA, chamado internamente de “Athena”, para substituir as unidades de processamento gráfico da Nvidia, que são caras e consomem muita energia. Se o Athena for competitivo, poderá reduzir o custo por chip em um terço em comparação com as ofertas da Nvidia.

Embora a Microsoft esteja atrás dos concorrentes Google e Amazon, que possuem seus próprios chips de IA, a empresa não está buscando substituir completamente os chips de IA da Nvidia, já que ambas as partes concordaram recentemente em uma colaboração de IA de anos.

O CEO da OpenAI, Sam Altman, observou recentemente que grandes modelos de linguagem, como o ChatGPT, parecem estar se aproximando de um ponto de retornos decrescentes devido ao seu tamanho maciço.

Embora o tamanho maior possa significar mais poder e maiores capacidades para uma IA, todo esse inchaço adicional aumentará os custos. No entanto, dada a grande popularidade do ChatGPT, a OpenAI provavelmente não está precisando de dinheiro.