A IBM tem se esforçado muito na IA corporativa com foco no desenvolvimento transparente e de código aberto. A empresa se posiciona como uma alternativa aos modelos fechados, enfatizando práticas responsáveis de IA e implantação de negócios.
Nos últimos dias, a IBM lançou o Granite 4.0 com uma arquitetura híbrida combinando Mamba-2 e transformadores. A abordagem mostrou-se eficaz, com este modelo superando suas versões 8B anteriores.
Agora, a IBM lançou o Granite 4.0 Nano, seu menor modelo de IA até agora.
Granite 4.0 Nano: Uma potência compacta?
Fonte: IBM
Esta versão era esperada, pois a IBM já havia mostrado variantes Micro, Tiny e Small do Granite 4.0 em suas apresentações recentes. A empresa cumpriu sua promessa de lançar modelos Nano até o final do ano, três semanas adiantado.
Todos os modelos Granite 4.0 Nano são lançados sob a licença Apache 2.0, tornando-os disponíveis gratuitamente para uso comercial. Eles visam dispositivos de borda e aplicativos de baixa latência, onde os modelos baseados em nuvem não são práticos.
A metodologia de treinamento reflete os modelos Granite 4.0 pai. A IBM usou os mesmos pipelines e mais de 15 trilhões de tokens de dados de treinamento. Os modelos suportam tempos de execução populares como vLLM, llama.cpp e MLX.
Como todos os modelos de linguagem Granite, as variantes Nano possuem certificação ISO 42001 para desenvolvimento responsável de modelos. Isso dá às empresas a confiança de que os modelos seguem os padrões globais de governança de IA.
Testes contra concorrentes
A IBM testou o Granite 4.0 Nano contra concorrentes como Qwen do Alibaba, LFM da LiquidAI e Gemma do Google em benchmarks de conhecimento geral, matemática, código e segurança. Os resultados mostram que o Granite Nano supera vários modelos de tamanho semelhante quando calculados a média entre esses domínios.
Os modelos se destacam particularmente em fluxos de trabalho agenciais. No IFEval e no Function Calling Leaderboard v3 (BFCLv3) da Berkeley, o Granite 4.0 Nano superou muitos modelos de tamanho comparável.
Quer dar uma olhada?
O Granite 4.0 Nano inclui quatro modelos distintos, cada um disponível nas variantes base e instruir:
- Granite 4.0 H 1B: Aproximadamente 1.5 bilhões de parâmetros usando a arquitetura híbrida-SSM.
- Granite 4.0 H 350M: Cerca de 350 milhões de parâmetros com arquitetura híbrida-SSM.
- Granite 4.0 1B e Granite 4.0 350M: Alternativas tradicionais de transformadores para cargas de trabalho em que as arquiteturas híbridas carecem de suporte otimizado.
Você pode encontrar todos os oito modelos da coleção Granite 4.0 Nano Hugging Face.
