LFM2.5-24B-A2B: un nuevo y rápido modelo de IA para dispositivos personales
Liquid AI lanzó el LFM2.5-24B-A2B, un nuevo modelo de IA creado para razonar y utilizar herramientas con rapidez en ordenadores locales. Iguala a modelos más grandes en muchas pruebas mientras consume menos memoria y se ejecuta más rápido.
En resumen: Liquid AI lanzó el LFM2.5-24B-A2B, un nuevo modelo de IA creado para razonar y utilizar herramientas con rapidez en ordenadores locales. Iguala a modelos más grandes en muchas pruebas mientras consume menos memoria y se ejecuta más rápido.
¿Alguna vez has querido un asistente de IA que piense paso a paso y funcione con fluidez directamente en tu propio ordenador? Una empresa llamada Liquid AI acaba de lanzar un nuevo modelo diseñado para hacer exactamente eso, manteniendo tus datos cerca de casa.
Qué ocurrió, en palabras sencillas
Liquid AI anunció un nuevo modelo de IA llamado LFM2.5-24B-A2B. A diferencia de las versiones anteriores, este modelo siempre piensa antes de responder, produciendo una cadena de pensamiento explícita antes de dar una respuesta final. Los creadores entrenaron el modelo utilizando cantidades masivas de datos y lo ajustaron a través de varias etapas, incluyendo la especialización por profesor y el aprendizaje por refuerzo. Al ser probado frente a otros modelos, el LFM2.5-24B-A2B tuvo un rendimiento excepcional en tareas de uso de herramientas y seguimiento de instrucciones a pesar de ser más pequeño que sus competidores.
Puntos clave
- Diseñado para el razonamiento y las herramientas: El modelo siempre piensa antes de responder y destaca en tareas que requieren seguir instrucciones y utilizar herramientas de software externas.
- Rendimiento rápido en hardware local: Se ejecuta con gran rapidez en hardware cotidiano como chips de Apple y Ryzen, decodificando muchos tokens por segundo mientras utiliza un mínimo de memoria.
- Memoria y vocabulario ampliados: Su ventana de contexto crece para procesar fragmentos de texto mucho más grandes a la vez, y su vocabulario se duplica para comprender mejor los idiomas no latinos.
- Abierto para que cualquiera lo use: Tanto la versión base como la final son de pesos abiertos y están disponibles en Hugging Face, listas para combinarse con configuraciones de software local y marcos de agentes.
Términos explicados
- Tokens — Fragmentos de palabras que los modelos de IA leen y escriben, equivalentes a grandes rasgos a trozos de texto o sílabas. Ejemplo: Leer una frase corta requiere procesar un pequeño puñado de tokens.
- Ventana de contexto — La cantidad máxima de texto que un modelo de IA puede examinar y recordar de una sola vez durante una conversación. Ejemplo: Una ventana de contexto más amplia te permite introducir un libro entero en el modelo en vez de un solo párrafo.
- Inferencia — El proceso mediante el cual un modelo de IA ejecuta su software entrenado para generar respuestas y atender a indicaciones. Ejemplo: Cuando escribes una pregunta y el modelo te devuelve una respuesta de inmediato, está realizando una inferencia.
Por qué importa
Esta tecnología ofrece a los desarrolladores y aficionados una potente herramienta para ejecutar asistentes inteligentes directamente en hardware personal. Debido a su rapidez y eficiencia, los usuarios pueden crear aplicaciones locales que razonan sobre problemas y utilizan herramientas de software sin necesidad de servidores en la nube masivos.
Lo que aún no sabemos
La fuente señala que los modelos más grandes siguen manteniendo ventaja en pruebas con carga pesada de conocimientos y en tareas de programación compleja. Los usuarios que necesiten un profundo conocimiento enciclopédico o gran ayuda con la programación deben emparejar este modelo con una búsqueda web o un sistema de recuperación.
Basado en información de Hugging Face Blog. Este es un texto explicativo independiente, escrito con palabras propias y ayuda de IA; Hugging Face Blog no lo ha revisado ni respaldado. Lee el original para ver todos los detalles.