Por qué las pruebas de rendimiento de la inteligencia artificial están rotas

En resumen: Un científico informático argumenta que las pruebas de rendimiento de la inteligencia artificial están rotas porque las empresas pueden entrenar modelos fácilmente para superar exámenes específicos. Sin embargo, el progreso pasado ocurrió porque las clasificaciones de los modelos se mantuvieron sorprendentemente estables a pesar de los métodos de prueba defectuosos.

Confiamos en exámenes estandarizados para medir la inteligencia de la inteligencia artificial, pero las herramientas que usamos para calificar estos sistemas podrían estar fundamentalmente rotas.

Qué ocurrió, en palabras sencillas

Moritz Hardt, científico informático y director en el Instituto Max Planck de Sistemas Inteligentes, explica en su libro que las pruebas de referencia del aprendizaje automático llevan décadas presentando fallos. Tradicionalmente, los desarrolladores debían apartar un conjunto de datos de prueba para clasificar los modelos de manera justa. En su lugar, el campo ignoró esta advertencia y publicó los conjuntos de prueba en internet, donde los desarrolladores podían usarlos durante el entrenamiento. Aunque las cifras de puntuación absoluta pueden cambiar radicalmente con pequeños retoques en el conjunto de prueba, las clasificaciones relativas entre los modelos se mantuvieron lo suficientemente estables como para impulsar el progreso por pura suerte. Hoy en día, con los grandes modelos de lenguaje, esta fiabilidad accidental ha desaparecido porque los creadores pueden preparar estratégicamente sus modelos para pruebas conocidas.

Puntos clave

El método de reserva ignorado: Los libros de texto estándar aconsejan apartar conjuntos de prueba para evaluar los modelos de forma justa, pero el campo del aprendizaje automático ignoró en gran medida esta regla y publicó los datos de prueba en línea.
Los números absolutos carecen de significado: Cambiar un conjunto de prueba ligeramente puede hacer que los números de precisión oscilen de forma descontrolada, lo que significa que una puntuación absoluta como el 90 por ciento no refleja con precisión la verdadera habilidad.
Las clasificaciones se mantuvieron estables: Históricamente, aunque las puntuaciones absolutas eran inestables, las comparaciones relativas entre los modelos se mantuvieron estables, lo que salvó por accidente al aprendizaje automático de una crisis de replicación.
Estudiar para el examen: Los creadores modernos de grandes modelos de lenguaje pueden construir combinaciones de datos específicamente para potenciar el rendimiento en las pruebas, permitiendo que un modelo peor gane al prepararse para el examen.

Términos explicados

Benchmark — Prueba estandarizada utilizada para medir y comparar las capacidades de diferentes sistemas o modelos informáticos. Ejemplo: Un examen de ortografía que se le hace a cada estudiante en un distrito escolar para ver qué clase deletrea mejor.
Conjunto de entrenamiento — La recopilación de datos que los desarrolladores introducen en un modelo de aprendizaje automático para ayudarlo a aprender y mejorar. Ejemplo: Un montón de tarjetas de estudio que un alumno utiliza para repasar antes de hacer un examen real.
Conjunto de prueba — Una colección separada de datos que se guarda específicamente para evaluar el rendimiento de un modelo después del entrenamiento. Ejemplo: Las preguntas del examen final que el profesor mantiene en secreto hasta el día de la prueba.
Gran modelo de lenguaje — Sistema de inteligencia artificial entrenado con grandes cantidades de texto para comprender y generar lenguaje similar al humano. Ejemplo: Un programa informático avanzado capaz de redactar ensayos, responder preguntas y resumir documentos largos.

Análisis crítico

Lo que es alentador. El trabajo ofrece una crítica refrescante y lúcida de un científico informático consolidado, señalando fallos estructurales en la forma en que todo un campo mide su propio progreso en lugar de limitarse a promocionar las capacidades más recientes.

Lo que merece cautela:

Basado en la opinión de un experto. Las ideas provienen de una entrevista y un libro escrito por un solo experto, en lugar de un estudio científico amplio y revisado por pares con datos experimentales.
Falta de teoría histórica. La fuente señala que no existe una teoría exhaustiva que explique por qué las clasificaciones relativas funcionaron tan bien en el pasado, lo que significa que este éxito anterior se describe principalmente como una cuestión de suerte.
Soluciones futuras poco claras. Aunque la entrevista destaca una crisis profunda en las pruebas modernas de inteligencia artificial, concluye antes de ofrecer una solución completamente probada para solucionar el problema.

Conclusión: Las pruebas de referencia de la inteligencia artificial ofrecen puntuaciones absolutas engañosas, y los modelos modernos pueden estudiar fácilmente para los exámenes y manipular sus clasificaciones.

Lo que aún no sabemos

El texto fuente se corta a mitad de frase mientras analiza una historia sobre un corredor olímpico, dejando sin mencionar las soluciones propuestas para la crisis de las pruebas de rendimiento.

Basado en información de Quanta Magazine. Este es un texto explicativo independiente, escrito con palabras propias y ayuda de IA; Quanta Magazine no lo ha revisado ni respaldado. Lee el original para ver todos los detalles.