Recentemente, o Google revelou a ampla gama de avanços que fez em suas ofertas de IA durante o evento Cloud Next '24, com a arquitetura AI Hypercomputer tomando o centro do palco.
Eles também apresentaram alguns aprimoramentos de hardware otimizados para desempenho, como Cloud TPU v5p, NVIDIA H100 Tensor Core GPU-powered A3 Mega VMs, um novo serviço de armazenamento em bloco otimizado para inferência de IA e a introdução da Blackwell GPU da NVIDIA no Google Cloud.
Mas, outra coisa qye chamou a atenção na enxurrada de anúncios que se concentraram nos avanços do Google em software aberto.
Um impulso reacendido do Google em direção à IA de código aberto?
Apenas alguns meses atrás, vimos o Google open sourcing Magika, sua ferramenta alimentada por IA focada em segurança cibernética. O que eles farão a seguir?
Bem, como se vê, eles introduziram algumas ferramentas interessantes de IA de código aberto que visam alcançar uma variedade de objetivos.
Começamos com MaxDiffusion, uma coleção de implementação de referência de vários modelos de difusão que foi escrita em Python/Jax, que deve ser executada em Cloud TPUs e GPUs. Ele suporta Stable Diffusion 2 base, 2.1 e XL.
Enquanto trabalhavam para conseguir isso, eles também adicionaram suporte para novos modelos em MaxText, seu Jax LLM escalável. Agora tem suporte para Gemma, GPT3, Llama2 e Mistral.
Em seguida, há um novo mecanismo de inferência LLM, Jetstream, que foi introduzido como um mecanismo otimizado de memória para taxa de transferência para inferência LLM em dispositivos XLA (como TPUs e GPUs).
E, finalmente, temos o Optimum-TPU, que o Google trabalhou para desenvolver em colaboração com o Hugging Face, que é um pacote otimizado para desempenho para usuários do PyTorch destinado a ajudar com o treinamento sem complicações de modelos Hugging Face em TPUs.
No geral, o Google parece estar indo na direção certa, e muitos na indústria podem tirar algumas dicas deles (leia OpenAI).
Mas, resta saber como o desenvolvimento das ferramentas acima mencionadas progride, e o impacto que elas têm na IA de código aberto.
O que você acha da mudança do Google? Promoverá uma abordagem mais focada em código aberto no campo da IA?
