Google lança TorchTPU e se soma à Amazon contra domínio da Nvidia em IA

Google lança TorchTPU e se soma à Amazon contra domínio da Nvidia em IA

TorchTPU, versão aberta do PyTorch para TPUs do Google, chega um dia após o TorchNeuron da Amazon e mira migrar apps sem reescrever código.

Foto: Abhishek Navlakha (Pexels)

O Google anunciou nesta terça-feira (20) o TorchTPU, versão de código aberto do PyTorch voltada a seus chips de inteligência artificial (IA). Com o lançamento, a empresa se alinha à Amazon na tentativa de afrouxar o domínio da Nvidia, cujas unidades de processamento gráfico (GPUs) ainda são o padrão implícito da maior parte dos aplicativos de IA.

O movimento chega um dia depois de a Amazon liberar o TorchNeuron, adaptação semelhante do PyTorch para o chip Trainium e para a AWS. Em ambos os casos, a promessa é migrar apps sem reescrever código — e, assim, disputar a base de desenvolvedores que hoje gravitam em torno do hardware da Nvidia.

O que aconteceu

Segundo a TechCrunch, o TorchTPU permite que aplicações de IA rodem nas unidades de processamento tensorial (TPUs) do Google e facilita a transferência de projetos PyTorch existentes para a Google Cloud. A mudança, afirma a empresa, pode ser feita com um ajuste de configuração, sem reescrita do aplicativo.

O PyTorch é o kit de ferramentas de código aberto mais usado para construir, treinar e executar modelos de IA. Por algumas contas, está presente em cerca de 85% dos apps do setor. Criado pela Meta (então Facebook) em 2016 — antes da explosão dos grandes modelos de linguagem (LLMs) —, o projeto nasceu num momento em que as GPUs da Nvidia já eram o hardware padrão da pesquisa em IA. Muitos recursos foram, portanto, pensados para esses chips. Em 2022, a Meta transferiu o PyTorch à Linux Foundation.

Na segunda-feira, a Amazon havia lançado o TorchNeuron, que porta apps PyTorch para o Trainium e para a AWS sem reescrita. A companhia também disse que vai além: está enviando código ao projeto principal do PyTorch para desacoplar recursos das GPUs da Nvidia e deixar a ferramenta mais aberta a qualquer hardware por padrão.

O Google, porém, pode estar tentando ultrapassar a rival em alguns pontos. A empresa afirma ter trabalhado diretamente com Meta, Hugging Face, Inferact (criadora do vLLM), RadixArk (criadora do SGLang) e outros para garantir que recursos e bibliotecas do TorchTPU funcionem bem com essas ferramentas populares, como o PyTorch original. Também lançou o TPU agent suite, suíte de agentes para ajudar na migração para chips e nuvem do Google e na correção de erros no caminho, e atualizou o LiteRT — ferramenta que executa IA em celulares, laptops e dispositivos embarcados — para melhor compatibilidade com apps PyTorch.

O que isso pode mudar

Na prática, a disputa parece menos sobre um “adeus” imediato à Nvidia e mais sobre reduzir o atrito de quem já considera nuvens e chips rivais. Se a migração com uma simples mudança de configuração se confirmar no dia a dia, startups e times de produto poderiam testar TPUs do Google ou Trainium da Amazon sem o custo de reescrever pipelines — o que, em tese, pressionaria preços, disponibilidade e o poder de barganha da Nvidia junto a clientes de nuvem.

A aposta da Amazon de desacoplar o PyTorch do hardware da Nvidia no repositório principal também pode, com o tempo, tornar o ecossistema menos “preso” a um único fornecedor. Já o Google, ao alinhar TorchTPU a Meta, Hugging Face e motores de inferência como vLLM e SGLang, mira manter a experiência de desenvolvimento familiar — um fator que costuma pesar mais do que benchmarks isolados na adoção.

Nada disso garante, contudo, que desenvolvedores abandonem em massa as GPUs da Nvidia só porque a porta para alternativas ficou mais fácil de abrir. O que fica claro, a partir dos anúncios seguidos de Amazon e Google, é um esforço coordenado — ainda que rival — para erodir a vantagem histórica da fabricante de chips no software que treina e serve a maior parte da IA atual.

Fontes: TechCrunch

Fontes: TechCrunch

Leia mais em: mundodosnegocio.com.br