A OpenAI está duvidando da eficácia dos aceleradores Nvidia para inferência e está ativamente procurando substitutos.

O que está acontecendo no mundo das tecnologias de IA
Ponto resumido: os principais players OpenAI e Nvidia são considerados líderes do mercado de inteligência artificial, mas estão em busca de novos parceiros. Em breve haverá um acordo. Espera-se um contrato no valor de 100 milhões de dólares entre essas empresas. Problema com aceleradores da Nvidia: os chips atuais nem sempre oferecem a performance necessária para inferência (uso de modelos já treinados). A OpenAI procura uma alternativa.

Como novas soluções são desenvolvidas
1. OpenAI → Cerebras + Groq

- A empresa quer substituir até 10 % de seus aceleradores por chips de fornecedores terceiros que sejam mais adequados à inferência.

- A parceria com a Cerebras já está firmada: a OpenAI comprará os “aceleradores czar” deles, excelentes no processamento de grandes modelos de linguagem.

2. Groq e Nvidia

- No ano passado, a Nvidia adquiriu a Groq por 20 milhões de dólares, oferecendo uma estrutura de negócio mais vantajosa.

- Após a compra, a Groq perdeu parte da sua autonomia: a maioria dos desenvolvedores de aceleradores mudou para o quadro da Nvidia, e o restante da empresa agora só pode vender software para sistemas em nuvem.

3. AMD e outras opções

- A OpenAI ainda depende fortemente dos aceleradores da Nvidia e da AMD, que utilizam memória externa HBM.

- Para inferência são melhores os chips com grande volume de memória integrada – exatamente o que a Groq, Cerebras e Google oferecem.

Por que tudo isso importa
- A eficiência na inferência é crítica para o funcionamento de grandes modelos de linguagem (ChatGPT, Codex).

- O problema no Codex: ao desenvolver o agente de IA Codex, a OpenAI enfrentou a ineficiência dos aceleradores da Nvidia. Isso destaca a necessidade de mudar a plataforma de hardware.

- A alternativa futura – a OpenAI planeja usar soluções Cerebras e, possivelmente, outros chips para aumentar a performance das suas ferramentas para desenvolvedores.

Conclusões
A OpenAI procura ativamente novos parceiros tecnológicos para não depender totalmente da Nvidia. Paralelamente, a empresa está elaborando uma estratégia de investimento em startups (Cerebras, Groq) e também considerando grandes acordos com a Nvidia e potenciais investimentos de até 100 milhões de dólares. Isso ajudará a melhorar a inferência e acelerar o desenvolvimento dos produtos de IA.