Google leva Gemma e LiteRT ao Raspberry Pi 5: IA local barata começa a ficar prática?

Ilustração oficial do Google sobre LiteRT e Gemma rodando IA de borda em Raspberry Pi

O Google voltou a colocar a IA local no centro da conversa ao mostrar LiteRT e modelos Gemma rodando em um Raspberry Pi 5 para robótica, visão computacional, voz e agentes offline. Para quem acompanha homelab e hardware custo-benefício no Brasil, o gancho é direto: a disputa de IA não está só nas GPUs caras de datacenter, mas também no quanto dá para extrair de placas compactas, baratas e eficientes na ponta.

Ilustração oficial do Google sobre LiteRT e Gemma rodando IA de borda em Raspberry Pi
Imagem: Google Developers Blog — LiteRT e Gemma em aplicações de IA de borda no Raspberry Pi.

O que o Google demonstrou

No artigo técnico do Google Developers Blog, a empresa descreve uma pilha com LiteRT e Gemma no Raspberry Pi. A proposta é executar inferência local para casos como robôs autônomos, câmeras inteligentes, tradução por voz e agentes que não dependem da nuvem para perceber e reagir ao ambiente.

O exemplo central usa um Raspberry Pi 5 com o robô Reachy Mini. Segundo o Google, o LiteRT-LM executa Gemma 4 E2B com 99 tokens/s em prefill, 9 tokens/s em decode e pico de memória de 1.432 MB. A empresa também cita cerca de 27,3 caracteres por segundo, aproximadamente 300 palavras por minuto, na demonstração de voz do Reachy Mini.

Por que isso importa para o leitor brasileiro

Para o público de Jan Hardware, a notícia é interessante porque aproxima IA prática de uma realidade mais econômica: dispositivos pequenos, consumo reduzido e projetos que podem rodar dentro de casa, no laboratório, na oficina, em um NAS ou em um robô educacional. Isso não substitui uma GPU dedicada para modelos grandes, mas abre espaço para automações locais com privacidade, baixa latência e custo previsível.

O ponto prático é que a IA local começa a se dividir em duas frentes: de um lado, PCs com NPU, placas de vídeo e muita memória; de outro, edge AI em placas compactas, onde cada watt e cada megabyte contam. LiteRT tenta atacar justamente essa segunda frente, com runtime enxuto para CPU, GPU integrada e, futuramente, aceleradores específicos.

Números destacados pelo Google

ItemDado citadoLeitura prática
ModeloGemma 4 E2B via LiteRT-LMFoco em eficiência para rodar localmente em hardware limitado
Prefill99 tokens/sAjuda a processar o contexto inicial de forma responsiva
Decode9 tokens/sVelocidade de geração ainda modesta, mas utilizável em interações curtas
Pico de memória1.432 MBFica dentro de uma margem viável para um Raspberry Pi 5 bem configurado
Geração de texto~27,3 caracteres/s; cerca de 300 wpmO Google posiciona o fluxo como suficiente para voz e tradução em tempo real
Raspberry Pi 5CPU Cortex-A76: ~153,6 GFLOPS FP32 e até ~2,0 TOPS INT8; GPU VideoCore VII: ~76,8 GFLOPS FP32 e ~0,24 TOPS INT8CPU continua central para LLMs, enquanto a GPU pode aliviar visão, áudio e embeddings

O que está confirmado

  • O Google publicou uma demonstração oficial de LiteRT com Gemma rodando em Raspberry Pi 5.
  • A pilha envolve LiteRT, LiteRT-LM, XNNPACK e modelos Gemma otimizados para execução local.
  • O Google afirma que o fluxo do Reachy Mini roda percepção e linguagem localmente, sem depender da nuvem para a inferência principal.
  • Há repositórios e recursos oficiais para LiteRT, incluindo amostras no GitHub e comunidade LiteRT no Hugging Face.
  • A integração com aceleradores Hailo AI para Raspberry Pi AI HAT+ foi descrita como “coming soon” pelo Google, ou seja, ainda não é uma promessa de disponibilidade imediata para todos os usuários.

O que ainda falta saber

A demonstração é promissora, mas ainda faltam testes independentes em cenários reais: temperatura sustentada, consumo na tomada, comportamento com modelos maiores, impacto de armazenamento, latência com áudio e câmera ligados ao mesmo tempo e facilidade de instalação para usuários comuns.

Também é cedo para transformar os números do Google em recomendação de compra. Raspberry Pi 5, fonte, gabinete, armazenamento e possível acelerador podem encarecer o projeto no Brasil. Dependendo do objetivo, um mini PC usado, um notebook antigo ou uma placa com NPU/GPU integrada pode entregar melhor custo-benefício.

Vale montar um projeto de IA local com Raspberry Pi 5?

Vale se o objetivo for aprender, prototipar automações locais, criar um assistente offline simples, experimentar visão computacional leve ou integrar sensores e robótica. Para chatbots longos, modelos maiores, geração pesada de código ou workflows com múltiplos agentes, o Raspberry Pi continua limitado e deve ser visto como dispositivo de borda, não como substituto de workstation.

O melhor caminho custo-benefício é começar pequeno: testar LiteRT em um ambiente controlado, medir consumo e latência, depois decidir se faz sentido adicionar câmera, microfone, HAT de IA ou migrar para um mini PC mais forte.

FAQ

O Raspberry Pi 5 vira um “PC de IA” com Gemma?

Não no sentido de substituir uma máquina com GPU dedicada. A proposta é IA de borda: tarefas curtas, locais, integradas a sensores, câmera, voz e automação.

Preciso de internet para usar esse tipo de IA?

Depois de instalar runtime e modelos, a inferência pode rodar localmente. A internet ainda pode ser necessária para baixar modelos, dependências e atualizações.

Isso é melhor do que Ollama?

Depende do uso. O Google posiciona LiteRT como runtime enxuto para dispositivos e deploy embarcado. Ollama é popular pela experiência simples em PCs e servidores locais. Para Raspberry Pi, o peso do runtime e o suporte a modelos otimizados fazem diferença.

Qual é o risco para quem quer comprar agora?

O risco é montar um kit caro demais para uma carga de trabalho que poderia rodar melhor em hardware usado ou em um mini PC. Antes de comprar acessórios, defina o caso de uso e espere benchmarks independentes.

Conclusão

A demonstração do Google não transforma o Raspberry Pi 5 em uma placa mágica para LLMs, mas reforça uma tendência importante: IA local eficiente está saindo do discurso e entrando em pipelines de borda mais acessíveis. Para o Brasil, onde custo, energia e privacidade pesam, LiteRT com Gemma pode ser uma rota interessante — desde que o projeto seja dimensionado com expectativas realistas.

Fontes

Perfil editorial duplicado mantido apenas para compatibilidade interna. Os conteúdos do Jan Hardware são assinados pelo Espectro do Hardware, com foco em hardware, inteligência artificial, segurança digital e guias de compra para o mercado brasileiro.