Amazon cria chip eficiente para acelerar inteligência artificial

Em um cenário dominado pela Nvidia no mercado de chips para treinamento de inteligência artificial (IA), Amazon está se destacando com sua própria abordagem, focada em eficiência, evolução rápida e personalização.

Nos laboratórios da Annapurna Labs, subsidiária da AWS em Austin, Texas, engenheiros testam a resistência do chip Trainium 3, previsto para ser lançado em dezembro de 2025.

O Texas se tornou um polo tecnológico em IA devido aos baixos custos operacionais, disponibilidade de energia e ambiente favorável para negócios, atraindo empresas para além do Vale do Silício.

Em uma instalação próxima, funcionários trabalham entre os ruidosos UltraServers equipados com os chips Trainium 3, conduzindo testes antes da entrega aos clientes.

Desde seu primeiro modelo em 2020, o Trainium 3, menor que um cartão de crédito, oferece redução de até 30-40% nos custos de treinamento e inferência em comparação às GPUs tradicionais, proporcionando economia e melhor desempenho para os usuários, explica Kristopher King, diretor do laboratório de IA em Austin.

Para diferentes aplicações como reconhecimento facial, veículos autônomos, chatbots e tradução em tempo real, é necessário que a IA opere com alta complexidade, o que é possibilitado por chips especializados que processam milhões de cálculos rapidamente.

Como funciona?

Mark Carroll, diretor de engenharia da Annapurna Labs, diz que o treinamento de IA envolve muitos chips trabalhando simultaneamente por semanas. A confiabilidade é essencial para evitar reinícios desnecessários, e as melhorias no desempenho e custo-benefício trazem benefícios significativos aos clientes.

A empresa Anthropic, principal cliente do Trainium, busca principalmente maior desempenho com redução de custos.

Por que desenvolver um chip próprio?

Enquanto várias companhias preferem terceirizar a fabricação de chips para treinarem IA, principalmente usando Nvidia, a Amazon optou por desenvolver uma solução própria para integrar hardware e software de modo otimizado.

King destaca que essa personalização inclui desde os chips até software e servidores, garantindo o melhor resultado para os clientes.

A AWS, líder em serviços de computação na nuvem, disponibiliza os chips Trainium exclusivamente para seus usuários, não comercializando para terceiros.