Du préentraînement aux équipes d'agents d'IA : pourquoi les quatre boucles de passage à l'échelle de Jensen Huang changent la question du calcul
Introduction : qu'est-ce qui grandit lorsque l'intelligence artificielle gagne en capacité ?
La discussion sur l'intelligence artificielle [AI] commence souvent par la taille d'un modèle. Combien de paramètres contient-il ? Quelle quantité d'informations a servi à l'entraîner ? Quelle était la taille du système informatique qui le soutenait ?
Ces questions ne décrivent qu'une partie du système. L'argument plus large de Jensen Huang est que l'IA peut se développer à plusieurs étapes : lorsqu'elle acquiert ses fondements, affine son comportement, traite un problème particulier et répartit le travail entre des agents. Comprendre le lien entre ces étapes change notre manière d'envisager la demande de calcul.
La distinction importante sépare la construction d'un modèle de l'utilisation d'un système intelligent. Ces activités sont liées, mais ne constituent pas la même charge de travail [Workload].
1. Le préentraînement construit une base, pas un travailleur prêt à l'emploi
Le préentraînement [Pre-training] développe les capacités générales d'un modèle en l'exposant à de grandes quantités d'informations. Le modèle apprend des régularités et des relations qui pourront servir à des tâches ultérieures.
Davantage de données et de calcul peuvent améliorer ces bases. Toutefois, un entraînement de plus grande ampleur n'explique pas à lui seul une intelligence utile. Un modèle peut posséder de vastes connaissances générales tout en ayant encore besoin d'un meilleur jugement, d'une expérience propre à certaines tâches ou d'un accès à des informations absentes de son entraînement.
C'est pourquoi la question ne peut pas se limiter à savoir si l'offre de contenus écrits par des humains finira par devenir une contrainte. Les étapes suivantes peuvent modifier à la fois la façon dont un système apprend et le travail qu'il accomplit.
2. Le post-entraînement change l'utilisation de la base
Le post-entraînement [Post-training] affine un modèle après son apprentissage initial. L'accent se déplace vers le comportement, les tâches pratiques et les types de réponses dont les personnes ont besoin.
Les données synthétiques [Synthetic Data] peuvent contribuer à ce processus. Un système peut produire des exemples, explorer des variantes et générer des contenus utiles à de nouveaux apprentissages. La valeur tient à la qualité de l'expérience obtenue, et non au seul fait qu'une machine l'a produite.
Cette distinction compte. Produire davantage de contenus ne démontre pas automatiquement leur exactitude. Une boucle utile sélectionne les expériences qui méritent d'être conservées et les utilise pour améliorer le comportement ultérieur. Sans sélection, le volume peut reproduire les faiblesses au lieu de les corriger.
3. Le calcul au moment de l'utilisation rend l'inférence plus exigeante
L'inférence [Inference] est parfois imaginée comme une simple étape finale : le modèle a déjà appris, donc produire une réponse devrait demander peu de travail supplémentaire.
Le passage à l'échelle au moment du test [Test-time Scaling] remet cette vision en question. Une tâche difficile peut exiger que le système décompose un problème, compare plusieurs approches, recherche des informations et reconsidère une tentative infructueuse.
Le besoin de calcul dépend alors de ce que le système doit faire avant de fournir une réponse utile. Une réponse courte peut être précédée d'un travail considérable. Inversement, une longue réponse ne prouve pas un raisonnement rigoureux.
Pour une entreprise, cela relie les choix concernant le temps de réponse [Latency], la qualité de la réponse et le coût d'exploitation. La réponse immédiate la moins chère n'est pas toujours la tâche accomplie avec succès au moindre coût.
4. Le passage à l'échelle par les agents ajoute la coordination à la capacité
Le passage à l'échelle par les agents [Agentic Scaling] introduit une autre voie : un système peut répartir le travail entre plusieurs agents [Agents] plutôt que de demander à un modèle de tout exécuter successivement.
Un agent pourrait examiner des dossiers pendant qu'un autre compare des options. Leurs résultats peuvent contribuer à une conclusion commune. Cette forme de développement diffère de l'agrandissement d'un modèle ou de l'octroi de temps supplémentaire.
La comparaison avec une organisation est utile. Plus de personnel peut accroître la capacité, mais seulement si les responsabilités, la communication et la décision finale sont claires. De même, davantage d'agents créent du travail de coordination, de résolution des divergences et de vérification. Leur nombre est un moyen engagé, pas une mesure de réussite.
5. Les quatre étapes forment une boucle d'apprentissage
Le lien le plus important concerne ce qui se passe après le travail d'un système. Les expériences utiles des agents peuvent alimenter de futurs entraînements. Les modèles affinés peuvent ensuite soutenir un meilleur raisonnement et des agents plus efficaces.
Le préentraînement, le post-entraînement, le travail au moment de l'utilisation et l'activité des agents ne doivent donc pas nécessairement rester dans des compartiments distincts. Ils peuvent s'alimenter mutuellement.
Cela change aussi la question de l'infrastructure. Entraîner un modèle, rechercher dans des fichiers et coordonner plusieurs travailleurs imposent des exigences différentes aux processeurs, à la mémoire, au stockage et au réseau. Un système conçu autour d'un test de performance [Benchmark] étroit peut mal convenir au flux de travail [Workflow] complet.
Conclusion : mesurer le travail, pas seulement le modèle
Le cadre en quatre parties de Huang dépasse l'idée selon laquelle le progrès de l'IA se résumerait à un modèle plus grand, entraîné une fois sur un jeu de données [Dataset] plus vaste.
La leçon pratique est de déterminer où un supplément de calcul produit un meilleur résultat. La tâche exige-t-elle de meilleures bases, un affinage plus utile, davantage de temps pour résoudre le problème ou une répartition coordonnée du travail ?
Une entreprise devrait juger la réponse à travers les tâches accomplies, la qualité, le temps et le coût total. C'est un point de départ plus utile que le seul décompte des paramètres ou des agents. La question du calcul de demain porte sur l'ensemble du système qui apprend et travaille.
Powered By K7