A Alphabet, empresa controladora do Google, revelou sua mais recente adição à família de chips de inteligência artificial para data centers: Trillium.
Representando o hardware específico de IA mais avançado, o Trillium consiste em Unidades de Processamento Tensor (TPUs). Esses chips personalizados para data centers de IA são uma alternativa de destaque às ofertas da Nvidia, oferecendo uma opção atraente no mercado.
A Nvidia detém atualmente uma participação de mercado de 80% em chips de IA, com o Google dominando os 20% restantes. Notavelmente, o Google não vende os chips, mas os aluga por meio de sua plataforma de computação em nuvem.
Trillium é seu TPU de sexta geração, o TPU com melhor desempenho e maior eficiência energética até o momento. O Google destacou as TPUs Trillium como alcançando um aumento impressionante de 4,7X no desempenho máximo de computação por chip em comparação com a TPU v5e, conforme declarado em uma postagem do blog.
A oferta mais recente da empresa possui capacidade e largura de banda duplicadas de memória de alta largura de banda (HBM), juntamente com largura de banda duplicada de Interchip Interconnect (ICI) em comparação com TPU v5e.
Além disso, o Trillium apresenta um SparseCore de terceira geração, um acelerador especializado para processar embeddings ultragrandes encontrados em classificações avançadas e cargas de trabalho de recomendação. A postagem do blog também destaca a capacidade de treinar a próxima onda de “modelos básicos” com latência e custo reduzidos.
As mais recentes TPUs Trillium são consideradas 67% mais eficientes em termos de energia do que a TPU v5e, de acordo com o Google. Além disso, o Trillium é capaz de escalar até 256 TPUs em um único pod de alta largura de banda e baixa latência.
O blog também mencionou que, além dessa escalabilidade em nível de pod, as TPUs Trillium, equipadas com tecnologia multislice e Unidades de Processamento de Inteligência de Titânio (IPUs), podem escalar para centenas de pods, conectando dezenas de milhares de chips em um supercomputador em escala de edifício interconectado por uma rede de datacenter de vários petabits por segundo.
A empresa alcançou um aumento de 4,7X no desempenho computacional por chip Trillium, ampliando o tamanho das unidades de multiplicação de matrizes (MXUs) e aumentando a velocidade do clock.
Em uma postagem no blog, a empresa declarou: “As TPUs Trillium impulsionarão a próxima onda de modelos e agentes de IA, e estamos ansiosos para ajudar a capacitar nossos clientes com esses recursos avançados”.
Este avanço beneficiará enormemente os serviços de computação em nuvem do Google e do Gemini. Empresas como Deep Genomics e Deloitte, que dependem dos serviços Google Cloud, experimentarão um impulso significativo com o novo chip.
O suporte para treinamento e fornecimento de modelos multimodais de longo contexto em TPUs Trillium capacitará o Google DeepMind a treinar e servir futuras gerações de modelos Gemini de forma mais rápida, eficiente e com menor latência do que nunca.
As TPUs Trillium são parte integrante do AI Hypercomputer do Google Cloud, uma arquitetura de supercomputação projetada especificamente para cargas de trabalho de IA de ponta.
“O Gemini 1.5 Pro é o maior e mais capaz modelo de IA do Google e foi treinado usando dezenas de milhares de aceleradores TPU”, disse Jeff Dean, cientista-chefe do Google Deepmind e Google Research.
“Nossa equipe está entusiasmada com o anúncio da sexta geração de TPUs e ansiosos pelo aumento no desempenho e na eficiência para treinamento e inferência na escala de nossos modelos Gemini.”
Teste Agora! 
