Português 
Inglês 
Espanhol 
5 min de leitura 
1 comentário 
Startup americana Tiiny AI apresenta o AI Pocket Lab, um supercomputador de IA portátil com 14,2 × 8 × 2,53 cm, 80 GB de RAM e capacidade de executar modelos de linguagem com até 120 bilhões de parâmetros localmente, sem internet, alcançando 190 trilhões de operações por segundo
Uma startup americana apresentou um supercomputador de IA compacto capaz de executar localmente modelos de linguagem com até 120 bilhões de parâmetros. O dispositivo, chamado AI Pocket Lab, mede 14,2 × 8 × 2,53 cm e foi projetado para caber no bolso.
Supercomputador de IA executa modelos complexos localmente
O supercomputador de IA foi desenvolvido pela startup Tiiny AI e foi projetado para executar modelos avançados de inteligência artificial diretamente no dispositivo. Segundo os criadores, ele é capaz de operar sistemas com “inteligência de nível doutoral”, realizando raciocínio abstrato, planejamento estratégico e resolução autônoma de problemas.
Batizado de AI Pocket Lab, o equipamento consegue executar localmente um modelo de linguagem de grande porte com 120 bilhões de parâmetros. Esse tipo de sistema normalmente exige infraestrutura de data centers para funcionar, mas o dispositivo elimina a necessidade de conexão com a internet.
-
Meteorito lunar achado no deserto guarda marcas de 3 impactos e revela colisão colossal de asteroide que derreteu parte da Lua há 3,5 bilhões de anos, no mesmo período em que a vida começava a surgir na Terra
-
Papagaio gigante que não voa, pesa até 4 kg e cheira a mel quase desapareceu do planeta, mas programa extremo na Nova Zelândia usou ilhas sem predadores, genética, ovos falsos e dieta controlada para salvar o kakapo da extinção
-
Sistema de descarga promete economizar até 50% de água no banheiro ao trocar peças tradicionais por caixa basculante simples, sem botão, sem vedação no ralo e com ajuste de 1 a 6 litros por uso
-
Arqueólogos descem por escada esquecida em Aswan, no Egito, e encontram enorme sarcófago de calcário sob a necrópole de Aga Khan, com hieróglifos, múmias e sinais de um cemitério usado por séculos
Essa capacidade permite utilizar recursos avançados de codificação local, análise e aprimoramento de documentos e raciocínio em múltiplas etapas. O processamento ocorre inteiramente no próprio aparelho, sem depender de servidores externos ou computação em nuvem.
Hardware compacto concentra grande volume de memória
Apesar do tamanho reduzido, o supercomputador de IA possui uma configuração de hardware incomum para dispositivos portáteis. Ele é construído em torno de um processador ARM de 12 núcleos, arquitetura comum em smartphones, tablets e laptops.
O equipamento mede apenas 14,2 × 8 × 2,53 centímetros, mas inclui 80 GB de memória RAM LPDDR5X. Em comparação, a maioria dos laptops atuais possui entre 8 GB e 32 GB de RAM, o que evidencia a alta capacidade de memória do dispositivo.
Do total de memória disponível, 48 GB são reservados exclusivamente para a unidade de processamento neural, conhecida como NPU. Esse tipo de chip é otimizado para cálculos relacionados à inteligência artificial e já vem sendo incorporado por fabricantes como Intel e AMD.
Esses processadores especializados permitem lidar com cargas de trabalho intensivas de IA e atender ao limite de 40 trilhões de operações por segundo definido pela Microsoft para executar recursos de inteligência artificial no Windows 11.
Poder computacional permite classificá-lo como supercomputador de IA
O dispositivo é considerado um supercomputador de IA devido à sua capacidade de executar cargas de trabalho normalmente associadas a sistemas muito maiores. Em especial, ele consegue realizar inferência local em modelos de linguagem com mais de 100 bilhões de parâmetros.
Em ambientes convencionais, esse tipo de processamento costuma exigir sistemas com múltiplas GPUs e infraestrutura de data center. No AI Pocket Lab, essas tarefas são executadas diretamente no hardware compacto do aparelho.
Entre os modelos que o dispositivo é capaz de executar estão GPT-OSS 120B, modelos Phi de grande porte e modelos da família Llama com grande quantidade de parâmetros. Essa capacidade amplia o acesso a ferramentas de inteligência artificial avançadas em ambientes onde a conexão com servidores remotos não está disponível.
O desenvolvimento do aparelho também acompanha um movimento crescente em direção à computação de borda para inteligência artificial. Esse modelo busca reduzir as limitações energéticas e o impacto ambiental associados ao processamento distribuído em grandes centros de dados.
Potência de 190 TOPS combina CPU e unidade neural
Mesmo sendo extremamente compacto, o supercomputador de IA oferece potência computacional significativa. O sistema entrega cerca de 190 trilhões de operações por segundo, resultado da combinação entre sua CPU e a unidade de processamento neural.
Esse nível de desempenho posiciona o dispositivo como parte de um processo de miniaturização de sistemas avançados de computação. O projeto também segue uma tendência semelhante ao recente anúncio do mini PC Project Digits, da Nvidia, embora com dimensões significativamente menores.
Para concentrar tanta capacidade de processamento em um chassi compacto, a equipe da Tiiny AI utilizou diversas técnicas de otimização. Entre elas está o TurboSparse, tecnologia que permite executar grandes modelos de linguagem mais rapidamente em hardware com recursos limitados.
Nos modelos tradicionais, todos os parâmetros são utilizados a cada etapa de processamento. No sistema TurboSparse, apenas os parâmetros necessários para cada etapa são ativados, o que reduz o volume de cálculos exigidos.
Tecnologias de otimização reduzem consumo de energia
Outra tecnologia integrada ao supercomputador de IA é o PowerInfer, responsável pelo gerenciamento das cargas de trabalho entre CPU, GPU e NPU. O sistema utiliza agendamento heterogêneo para distribuir tarefas entre os processadores mais adequados para cada tipo de cálculo.
Esse mecanismo permite aumentar a eficiência geral do dispositivo e reduzir o consumo de energia. O PowerInfer também inclui gerenciamento inteligente de potência, ajustando automaticamente o uso máximo de processamento conforme a necessidade.
Segundo os desenvolvedores, essa abordagem também elimina parte dos cálculos desnecessários durante o processamento de modelos de linguagem. Com isso, o sistema consegue manter alto desempenho mesmo em um dispositivo de dimensões reduzidas.
Supercomputador de IA amplia privacidade e uso fora da internet
A possibilidade de executar modelos de linguagem avançados diretamente em um dispositivo portátil traz implicações além da miniaturização.
Um dos efeitos apontados é a redução da dependência de grandes centros de dados.
Outra consequência está relacionada à privacidade. Como o processamento ocorre localmente, os dados utilizados não precisam ser enviados para servidores externos ou processados na nuvem por terceiros.
Essa característica também permite o uso de inteligência artificial em ambientes sem conectividade. Entre os exemplos citados estão estações de pesquisa remotas, navios e aeronaves que operam fora do alcance de redes de internet.
Dessa forma, o supercomputador de IA portátil amplia as possibilidades de aplicação de modelos de linguagem avançados em situações onde a infraestrutura tradicional de computação em nuvem não está disponível.
O texto enfatiza, diversas vezes, que o aparelho funciona sem acesso à internet e, no entanto, não elucida o modo como os dados são colocados e/ou removidos do HD.