LFM2.5-24B-A2B : un nouveau modèle d'IA rapide pour les appareils personnels

En bref: Liquid AI a publié LFM2.5-24B-A2B, un nouveau modèle d'IA conçu pour raisonner et utiliser des outils rapidement sur des ordinateurs locaux. Il égale des modèles plus grands lors de nombreux tests tout en utilisant moins de mémoire et en s'exécutant plus vite.

Avez-vous déjà voulu un assistant d'IA qui réfléchit étape par étape et fonctionne de manière fluide directement sur votre propre ordinateur ? Une entreprise appelée Liquid AI vient de publier un nouveau modèle conçu pour faire exactement cela, tout en gardant vos données près de chez vous.

Ce qui s'est passé, en mots simples

Liquid AI a annoncé un nouveau modèle d'IA appelé LFM2.5-24B-A2B. Contrairement aux versions plus anciennes, ce modèle réfléchit toujours avant de répondre, produisant une chaîne de pensée explicite avant de formuler une réponse finale. Les créateurs ont entraîné le modèle en utilisant des quantités massives de données et l'ont affiné à travers plusieurs étapes, dont la spécialisation par enseignant et l'apprentissage par renforcement. Testé face à d'autres modèles, le LFM2.5-24B-A2B a obtenu d'excellents résultats dans les tâches d'utilisation d'outils et de suivi d'instructions, bien qu'il soit plus petit que ses concurrents.

Points clés

• Conçu pour le raisonnement et les outils: Le modèle réfléchit toujours avant de répondre et excelle dans les tâches qui exigent de suivre des instructions et d'utiliser des outils logiciels externes.
• Performances rapides sur matériel local: Il s'exécute très rapidement sur du matériel courant comme les puces Apple et Ryzen, décodant de nombreux jetons par seconde tout en utilisant un minimum de mémoire.
• Mémoire et vocabulaire élargis: Sa fenêtre de contexte s'agrandit pour traiter des blocs de texte beaucoup plus grands à la fois, et son vocabulaire est doublé pour mieux comprendre les langues non latines.
• Ouvert à l'utilisation de tous: Les versions de base et finale sont toutes deux à poids ouverts et disponibles sur Hugging Face, prêtes à être associées à des configurations logicielles locales et à des structures d'agents.

Termes expliqués

• Jetons — Morceaux de mots que les modèles d'IA lisent et écrivent, équivalant grosso modo à des fragments de texte ou à des syllabes. Exemple: Lire une phrase courte nécessite de traiter une petite poignée de jetons.
• Fenêtre de contexte — La quantité maximale de texte qu'un modèle d'IA peut examiner et mémoriser en une seule fois lors d'une conversation. Exemple: Une fenêtre de contexte plus grande vous permet d'intégrer un livre entier dans le modèle au lieu d'un seul paragraphe.
• Inférence — Le processus par lequel un modèle d'IA exécute son logiciel entraîné pour générer des réponses et réagir à des instructions. Exemple: Lorsque vous tapez une question et que le modèle répond immédiatement, il effectue une inférence.

Pourquoi c'est important

Cette technologie offre aux développeurs et aux passionnés un outil puissant pour exécuter des assistants intelligents directement sur du matériel personnel. Étant rapide et efficace, elle permet aux utilisateurs de créer des applications locales qui raisonnent face aux problèmes et utilisent des outils logiciels sans avoir besoin de serveurs cloud massifs.

Ce que l'on ne sait pas encore

La source note que les modèles plus grands conservent un avantage lors des tests à forte composante de connaissances et des tâches de programmation complexes. Les utilisateurs ayant besoin d'un savoir encyclopédique approfondi ou d'une aide poussée en programmation devraient associer ce modèle à une recherche sur le Web ou à un système de récupération.

D'après un article de Hugging Face Blog. Ceci est une explication indépendante, rédigée avec nos propres mots et l'aide d'une IA ; Hugging Face Blog ne l'a ni relue ni approuvée. Consultez l'original pour tous les détails.