OpenAI Lança Jalapeño: Seu Primeiro Chip Customizado

OpenAI e seu primeiro chip customizado: o Jalapeño

A OpenAI acaba de dar um passo ousado no mundo dos chips customizados, revelando o Jalapeño, seu primeiro processador de inferência feito em parceria com a Broadcom. Esse chip foi desenhado especificamente para atender as necessidades únicas dos sistemas de inferência da OpenAI. E o mais interessante? Os próprios modelos de IA da OpenAI ajudaram no desenvolvimento do Jalapeño. Embora o chip ainda esteja em fase de testes, os primeiros resultados já indicam um desempenho por watt significativamente melhor em comparação com as alternativas mais avançadas disponíveis hoje.

O anúncio oficial dessa parceria veio em outubro, mas os rumores sobre os planos da OpenAI para criar seus próprios chips já circulavam há algum tempo. A ideia é reduzir a dependência da empresa dos GPUs da Nvidia. Google e Amazon já trilharam esse caminho com seus próprios chips customizados, conhecidos como "AI accelerators". Esses chips são projetados para acelerar as cargas de trabalho de machine learning. Greg Brockman, presidente da OpenAI, explicou essa abordagem em um episódio do podcast da empresa, logo após a parceria com a Broadcom ser anunciada. Ele destacou que a OpenAI tem um entendimento profundo das cargas de trabalho e está buscando acelerar o que é possível fazer.

Jalapeño: o chip que pode mudar o jogo

O Jalapeño foi projetado especificamente para inferência, que é o processo de executar modelos de IA pré-construídos em resposta a comandos dos usuários. Na prática, isso significa que o chip é otimizado para rodar modelos de codificação em tempo real com baixo custo operacional. Embora tarefas mais intensivas, como o pré-treinamento, ainda devam depender do hardware da Nvidia, mesmo pequenas reduções nos custos de inferência podem melhorar significativamente os resultados financeiros da OpenAI.

Esse movimento para chips customizados é um passo crucial na economia da IA e deve ocorrer em todos os níveis da pilha tecnológica. A OpenAI já está construindo produtos como o Codex e os modelos que os alimentam, além de data centers para rodar esses modelos. Ao entrar no campo dos chips feitos sob medida, a empresa pode otimizar cada camada do seu stack em torno de um único objetivo: tornar seus modelos mais rápidos, confiáveis e acessíveis para os usuários.