LFM2.5-24B-A2B: um novo modelo rápido de IA para dispositivos pessoais

Resumo rápido: A Liquid AI lançou o LFM2.5-24B-A2B, um novo modelo de IA construído para raciocinar e usar ferramentas rapidamente em computadores locais. Ele se equipara a modelos maiores em vários testes, usando menos memória e rodando mais rápido.

Você já quis um assistente de IA que pense passo a passo e rode sem problemas direto no seu próprio computador? Uma empresa chamada Liquid AI acabou de lançar um novo modelo projetado para fazer exatamente isso, mantendo seus dados protegidos localmente.

O que aconteceu, em palavras simples

A Liquid AI anunciou um novo modelo de IA chamado LFM2.5-24B-A2B. Ao contrário de versões mais antigas, este modelo sempre pensa antes de responder, produzindo uma cadeia de pensamento explícita antes de dar uma resposta final. Os criadores treinaram o modelo usando enormes quantidades de dados e o refinaram por meio de vários estágios, incluindo especialização por professor e aprendizado por reforço. Quando testado contra outros modelos, o LFM2.5-24B-A2B teve um desempenho excepcionalmente bom em tarefas de uso de ferramentas e seguimento de instruções, apesar de ser menor do que seus concorrentes.

Pontos principais

Construído para raciocínio e ferramentas: O modelo sempre pensa antes de responder e se destaca em tarefas que exigem seguir instruções e usar ferramentas de software externas.
Desempenho rápido em hardware local: Ele roda muito rapidamente em hardwares comuns, como chips Apple e Ryzen, decodificando muitos tokens por segundo enquanto usa memória mínima.
Memória e vocabulário expandidos: Sua janela de contexto cresce para lidar com trechos de texto muito maiores de uma só vez, e seu vocabulário é duplicado para compreender melhor idiomas não latinos.
Aberto para uso de todos: Tanto a versão base quanto a final têm pesos abertos e estão disponíveis no Hugging Face, prontas para serem emparelhadas com configurações de software locais e estruturas de agentes.

Termos explicados

Tokens — Pedaços de palavras que os modelos de IA leem e escrevem, equivalendo aproximadamente a trechos de texto ou sílabas. Exemplo: Ler uma frase curta exige processar um punhado pequeno de tokens.
Janela de contexto — A quantidade máxima de texto que um modelo de IA consegue analisar e lembrar de uma só vez durante uma conversa. Exemplo: Uma janela de contexto maior permite alimentar o modelo com um livro inteiro em vez de apenas um único parágrafo.
Inferência — O processo em que um modelo de IA executa seu software treinado para gerar respostas e reagir a comandos. Exemplo: Quando você digita uma pergunta e o modelo responde de imediato, ele está realizando a inferência.

Por que isso importa

Esta tecnologia dá aos desenvolvedores e entusiastas uma ferramenta poderosa para rodar assistentes inteligentes diretamente em hardwares pessoais. Por ser rápido e eficiente, os usuários podem construir aplicativos locais que raciocinam sobre problemas e usam ferramentas de software sem precisar de servidores em nuvem massivos.

O que ainda não sabemos

A fonte observa que modelos maiores ainda mantêm vantagem em testes de forte base de conhecimento e em tarefas complexas de programação. Usuários que precisam de profundo conhecimento enciclopédico ou de grande ajuda com programação devem emparelhar este modelo com uma busca na web ou um sistema de recuperação.

Com base em reportagem de Hugging Face Blog. Este é um texto explicativo independente, escrito com palavras próprias e auxílio de IA; Hugging Face Blog não o revisou nem o endossou. Leia o original para ver todos os detalhes.