Comment les modèles d'IA Nemotron ont atteint le niveau de la médaille d'or en mathématiques et en programmation

En bref: Des chercheurs ont adapté des modèles de base Nemotron en spécialistes de haut niveau pour les compétitions de mathématiques et de programmation. En combinant un entraînement spécialisé avec des boucles de recherche et de raffinement, les systèmes ont atteint des scores de médaille d'or.

Les systèmes d'intelligence artificielle ont franchi une nouvelle étape en résolvant des preuves mathématiques complexes et des défis de programmation informatique au niveau des meilleurs concurrents humains.

Ce qui s'est passé, en mots simples

Des équipes de Hugging Face et de NVIDIA ont utilisé des modèles de base Nemotron pour créer des systèmes spécialisés pour l'Olympiade internationale d'informatique (IOI) et l'Olympiade internationale de mathématiques (OIM). En partant de modèles de base Nemotron, les équipes ont utilisé un réglage fin supervisé, de l'apprentissage par renforcement et des boucles d'inférence guidées par les retours pour générer, évaluer et affiner les réponses. Le système de programmation a été testé lors d'un test en direct non supervisé soumis à des contraintes humaines, tandis que les démonstrations du système mathématique ont été notées par des examinateurs officiels de l'OIM. Les deux systèmes ont obtenu des scores dépassant les seuils officiels de la médaille d'or.

Points clés

Recette en quatre parties pour l'adaptation Les équipes ont commencé avec un modèle de base Nemotron, ont sélectionné des problèmes spécifiques au domaine avec des traces de raisonnement, ont appliqué des méthodes d'entraînement telles que le réglage fin supervisé et ont associé le spécialiste à une boucle d'inférence pour évaluer et améliorer les réponses.
Résultats des compétitions de programmation Pour la programmation, les chercheurs ont entraîné deux spécialistes nommés Nemotron-3-Nano-CC et Nemotron-3-Ultra-CC. À l'aide d'une stratégie itérative appelée GenCorrect, les modèles ont amélioré leurs scores et ont franchi le seuil de l'or à l'IOI 2025.
Résultats des compétitions de mathématiques Pour les mathématiques olympiques, l'équipe a entraîné des spécialistes à l'aide de jeux de données couvrant la génération, le raffinement et la vérification de preuves. Le système final a fonctionné entièrement en langage naturel sans outils externes et a obtenu 30 points sur 42.
Ressources partagées pour la communauté Le projet a publié des jeux de données d'entraînement, des points de contrôle de modèles, des dépôts de code et des benchmarks, dont Nemotron-IMO-Bench, pour aider d'autres personnes à reproduire et à approfondir ce travail.

Termes expliqués

Modèle de base — Un grand modèle d'intelligence artificielle à usage général qui peut être adapté à de nombreuses tâches spécifiques différentes. Exemple: Pensez-y comme à une toile vierge qui peut être entraînée à peindre des portraits ou des paysages.
Réglage fin supervisé — Un processus d'entraînement où un modèle d'IA apprend en examinant des exemples de problèmes et les réponses correctes fournies par des humains. Exemple: Comme un élève qui étudie des exercices résolus pour apprendre à en résoudre de similaires.
Apprentissage par renforcement — Une méthode d'entraînement d'une IA par essai et erreur, en la récompensant pour les étapes correctes et en la pénalisant pour les erreurs. Exemple: Comme apprendre un tour à un chien en lui donnant des friandises lorsqu'il agit correctement.
Boucle d'inférence — Un processus où l'IA génère une réponse, vérifie les erreurs et utilise ces retours pour réessayer. Exemple: Comme rédiger un essai, le relire et réécrire des sections pour l'améliorer avant de le rendre.

Pourquoi c'est important

Ces expériences montrent une recette reproductible pour transformer des modèles d'IA généraux en spécialistes de domaine fiables. La mise à disposition de ces modèles et de ce code permet à la communauté au sens large d'étudier et de s'appuyer sur ces techniques de raisonnement avancées.

Ce que l'on ne sait pas encore

Le résultat de l'IOI était un benchmark non officiel et non supervisé et n'a pas été inclus dans le classement officiel de l'IOI. Les systèmes s'appuyaient sur des compétitions et des jeux de données spécifiques, et les notes de source indiquent que les méthodes d'adaptation et les résultats variaient en fonction de l'échelle du modèle.

D'après un article de Hugging Face Blog. Ceci est une explication indépendante, rédigée avec nos propres mots et l'aide d'une IA ; Hugging Face Blog ne l'a ni relue ni approuvée. Consultez l'original pour tous les détails.