Inglês 
Espanhol 
4 min de leitura 
0 comentários 
A demonstração da Tiiny AI com o Pocket Lab mostra o menor supercomputador de IA do mundo rodando um LLM de 120B sem internet, sem nuvem e sem GPU dedicada.
O menor supercomputador de IA do mundo acaba de aparecer em uma demonstração que parece desafiar o senso comum da indústria: um PC de 2011 rodando um modelo de 120 bilhões de parâmetros de forma local, sem conexão com a internet e sem depender de infraestrutura de nuvem.
A proposta é direta: com o Pocket Lab, a Tiiny AI quer levar inteligência de modelos grandes para pessoas que não têm acesso a GPU moderna, upgrades caros ou cloud, colocando a inferência no próprio dispositivo com foco em privacidade e uso offline.
O que foi demonstrado na prática
A Tiiny AI apresentou um vídeo de demonstração em um único take contínuo, no qual o GPT OSS 120B rodou no Pocket Lab, o “supercomputador pessoal” proprietário da empresa.
-
Revolução das máquinas falhou e robô é visto pedindo esmola na rua: humanoide ajoelhado com tigela, mochila e código QR viraliza em vídeo de 11 segundos enquanto narração diz que faltou dinheiro para recarregar a bateria.
-
Um garoto de 12 anos de Alfenas conseguiu licença da Anatel para operar rádio amador, já fez contatos no Paraguai e prova que uma das tecnologias mais antigas do mundo ainda atrai milhares de novos usuários
-
Um supercomputador prevê quem ganhará a Copa do Mundo e qual jogador levará a Bota de Ouro, mas a projeção deixa o Brasil longe do protagonismo esperado
-
Carros elétricos da GM podem virar “baterias gigantes” para aliviar a rede elétrica enquanto data centers de IA elevam consumo; plano envolve 250 mil veículos bidirecionais, baterias reutilizadas e nova química de sódio para armazenamento industrial
O destaque é que o teste foi feito sem internet e, ainda assim, com execução fluida.
Para evidenciar a compatibilidade com hardware antigo, o time conectou o Pocket Lab a um computador de 2011 com Intel Core i3 530, 2GB de DDR3 e monitor CRT.
Após a conexão, a máquina conseguiu operar o modelo em formato de chat, com média de 20 tokens por segundo.
Por que isso chama tanta atenção na indústria de IA
O ponto central do anúncio é a quebra de uma premissa comum: a ideia de que modelos grandes exigem clusters massivos de GPU ou infraestrutura de nuvem para entregar desempenho aceitável.
Na fala atribuída a Samar Bhoj, diretor de GTM da Tiiny AI, a empresa afirma que a demonstração prova algo que por muito tempo foi tratado como impossível, defendendo que a IA avançada pode rodar privada, offline e em hardware comum, inclusive em um PC de 14 anos.
Em outras palavras, o menor supercomputador de IA do mundo é apresentado como um caminho para reduzir dependência de data centers, concentrando o poder de inferência no usuário final.
Como o Pocket Lab rodou um modelo de 120B offline
A base do Pocket Lab combina duas tecnologias proprietárias citadas pela Tiiny AI: TurboSparse e PowerInfer. A promessa é ganhar eficiência sem “matar” a capacidade do modelo.
TurboSparse aumenta a eficiência ativando apenas os neurônios necessários para cada etapa, sem reduzir a inteligência do modelo. Já o PowerInfer distribui cargas de trabalho de IA entre CPU e NPU para melhorar desempenho consumindo menos energia.
O resultado, segundo a demonstração, é o menor supercomputador de IA do mundo tornando viável rodar um LLM de grande porte localmente, com menor exigência energética do que sistemas tradicionais baseados em GPU.
Desempenho, tarefas e números mostrados no vídeo
No teste, o time executou tarefas de raciocínio e análise. O chat começou com “Who are you?”, seguido de “Why does 1+1=2”. O modelo respondeu em detalhes sem interrupções.
A resposta usou 1582 tokens e teria sido processada a 18,6 tokens por segundo, reforçando o argumento de que a experiência não foi apenas “ligar e mostrar”, mas sustentar uma interação real com contexto e explicação.
Especificações do dispositivo e compatibilidade com modelos populares
O Pocket Lab é descrito como um MiniPC reconhecido como “The Smallest MiniPC (100B LLM Locally)” após o lançamento em 10 de dezembro. Ele tem capacidade de potência de 65W e suporta instalação de modelos open source conhecidos, como Llama, Qwen, DeepSeek, Mistral, Phi e GPT OSS.
Nas especificações citadas, o Pocket Lab traz CPU ARMv9.2 de 12 núcleos, 80GB de memória LPDDR5X e SSD de 1TB, com peso aproximado de 300 gramas.
Dentro dessa proposta, o menor supercomputador de IA do mundo se posiciona como um dispositivo portátil e focado em execução local.
Para quem isso foi feito e o que muda no uso diário
A Tiiny AI posiciona o Pocket Lab para criadores, desenvolvedores, pesquisadores, estudantes e profissionais que precisam de aplicações pessoais de IA.
A lista de usos inclui raciocínio em múltiplas etapas, entendimento contextual profundo, fluxos com agentes, geração de conteúdo e manipulação segura de dados, tudo sem precisar de internet.
Outro ponto enfatizado é a privacidade: dados do usuário, preferências e documentos ficam armazenados localmente com criptografia de nível bancário, oferecendo memória persistente e mais privacidade do que sistemas baseados em nuvem.
No fim, a promessa do menor supercomputador de IA do mundo é simples de entender: levar capacidade de LLM grande para perto do usuário, com controle local, offline e com menos dependência de infraestrutura externa.
Qual seria o seu uso número 1 se você tivesse um dispositivo local e offline como o menor supercomputador de IA do mundo?
-
-
-
3 pessoas reagiram a isso.