Pourquoi intégrer des connaissances explicites au modèle, et comment vérifier leur utilité pour l’apprentissage ?
01.01 / Comprendre
Le point de départ : les exoplanètes et ExoMiner
Mon point de départ, ce sont les exoplanètes. En travaillant sur les données de Kepler et de TESS, et en découvrant ExoMiner, le projet de la NASA intégré à mon application, une intuition a pris forme : pourquoi demander à un réseau de retrouver seul ce que l’on connaît déjà du phénomène qu’il observe ?
Dans mon travail sur les courbes de lumière, le signal n’était pas la seule information disponible. Les propriétés de l’étoile et les informations physiques pouvaient aussi guider l’interprétation, notamment à travers les tokens [STAR] et [PHYS]. Une baisse de luminosité prend un autre sens lorsqu’on la replace dans son contexte. Ce précédent inspire la thèse ; il ne démontre pas encore que la même approche fonctionnera pour agir.
Le passage d’une planète devant son étoile réduit la lumière reçue. Courbe schématique, sans mesures de Kepler ou TESS.
01.02 / Relier
La transmission des connaissances comme hypothèse de travail
Un humain n’expérimente pas chaque situation depuis le début. Nous échangeons des explications, des règles et des expériences. Ces connaissances élargissent ce que nous pouvons envisager, puis nous faisons des choix en fonction de la situation rencontrée. Une information transmise peut ainsi éviter de nombreux essais inutiles.
Mais nous pouvons aussi recevoir un mauvais conseil. La boucle qui m’intéresse est donc plus complète : recevoir une connaissance, imaginer ce qu’elle implique, essayer, comparer avec ce qui se passe et réviser sa confiance. Le projet cherche une traduction informatique de cette boucle d’expérimentation, pas une reproduction complète de la cognition humaine.
Schéma de principe / Comprendre le mécanismeL’analogie humaine qui guide le projet. La révision automatique de la base de connaissances est une perspective, pas une capacité déjà démontrée.
01.03 / Mettre à l’épreuve
De la classification à la prédiction des effets d’une action
Pour les exoplanètes, la question était : que signifie ce signal, compte tenu de ce que je sais ? Pour le contrôle, elle devient : que va-t-il se passer si j’effectue cette action, compte tenu de ce que je sais du monde ? Un agent doit prédire des conséquences avant de choisir.
Trois hypothèses rendent cette intuition testable. H1 : une connaissance correcte réduit le nombre d’interactions nécessaires. H2 : des règles réutilisables aident face à des combinaisons inédites. H3 : apprendre à doser leur influence limite les dégâts lorsqu’elles sont incomplètes ou fausses. Il faudra mesurer chacune séparément.
La cible change : interpréter un signal, puis anticiper la position d’un objet après une action.
À vous d’explorerModèle pédagogique
Qu’est-ce qu’on cherche à vérifier ?
Choisissez une hypothèse pour découvrir l’expérience qui pourrait la mettre à l’épreuve.
Une connaissance utile peut-elle faire gagner des essais ?
Comparer avec et sans connaissance, puis mesurer le nombre de transitions nécessaire pour atteindre le même seuil d’erreur.
Trois questions expérimentales ; leurs réponses restent à établir.
Sources de ce chapitre01 références +
Projet / Référence du projet exoplanètesExoMiner — NASA ↗NASA Ames · équipe ExoMiner
Pourquoi cette sourcePoint de départ : analyse des transits de Kepler et TESS. À relier au projet exoplanètes et à la question de l’utilisation des informations physiques.
Document de cadrage, p. 2–3, 37. Les hypothèses et protocoles présentés restent à éprouver.
Quels travaux traitent déjà ce problème, et comment délimiter la contribution envisagée ?
02.01 / Comprendre
L’organisation de la revue bibliographique
Je rassemble les sources selon leur rôle dans le projet. D’abord comprendre comment prédire dans un espace latent. Ensuite comprendre pourquoi les objets, leurs relations et les actions possibles peuvent aider. Puis confronter l’idée aux approches les plus proches, avant d’envisager de plus grands modèles visuels.
Ajouter des connaissances à un agent n’est pas, en soi, une nouveauté. La question précise porte ici sur une connaissance explicite et modifiable, son influence sur la dynamique, le coût en interactions et la confiance qu’on lui accorde lorsqu’elle se trompe. La bibliographie doit aider à délimiter cette contribution, sans promettre qu’aucun autre travail ne la couvre.
Schéma de principe / Comprendre le mécanismeUn ordre de lecture conceptuel : comprendre, structurer, confronter, puis étendre. Les états de lecture des fiches restent ceux du carnet.
02.02 / Relier
Les critères d’analyse des publications
Une référence utile ne fournit pas seulement un résultat encourageant. Je veux identifier son hypothèse, la connaissance réellement accessible au modèle, le protocole de comparaison et les limites du transfert testé. Une règle apprise depuis des exemples n’a pas le même rôle qu’une base externe que l’on peut modifier à la main.
Les fiches ci-dessous indiquent pourquoi chaque source intervient et à quelle étape elle sert. Elles rassemblent les travaux du document de cadrage ainsi que les références enregistrées dans le carnet. Une source repérée n’est pas automatiquement une lecture terminée.
Pour chaque source : identifier l’hypothèse, l’information accessible, les témoins et les situations de transfert testées.
Pourquoi cette sourceComprendre comment apprendre un comportement sur des trajectoires imaginées, puis distinguer qualité de prédiction et qualité de contrôle.
Pourquoi cette sourcePerspective pour remplacer l’adaptateur d’observation par une représentation vidéo. Une extension après la validation du prototype compact.
Pourquoi cette sourceSurveiller le lien entre un modèle du monde gelé et un prior d’affordance utilisé en manipulation ; confronter la frontière de contribution.
Pourquoi cette sourceVeille sur le rapprochement vision, langage, action et affordances. Sert à situer les extensions, pas à imposer un grand modèle au premier essai.
05 / Projet initial et environnements d’évaluation4 réf.
Étapes 01 & 06 · Exoplanètes et environnements
Projet / Référence du projet exoplanètesExoMiner — NASA ↗NASA Ames · équipe ExoMiner
Pourquoi cette sourcePoint de départ : analyse des transits de Kepler et TESS. À relier au projet exoplanètes et à la question de l’utilisation des informations physiques.
Pourquoi cette sourceTerrain envisagé pour des états cinématiques, relations entre véhicules et changements de trafic. Construire un contrôle hors manipulation.
Pourquoi cette sourceChoisir une petite famille de tâches robotiques avec des séparations entraînement–test explicites, après le benchmark synthétique.
Pourquoi cette sourceAutre terrain cité dans le document pour réfléchir au passage à des observations visuelles et à la conduite ; à comparer au prototype cinématique.
Sources de ce chapitre00 références +
Document de cadrage, p. 3–7, 14–16, 37–38. Les hypothèses et protocoles présentés restent à éprouver.
Quelle représentation permet de prédire les transitions utiles au contrôle ?
03.01 / Comprendre
Le rôle de l’encodeur et de l’état latent
L’observation o contient ce que l’agent reçoit : des positions, des vitesses, ou plus tard une image. Un encodeur E la transforme en état latent z, une représentation interne compacte. Le mot latent désigne simplement une information construite par le modèle, que l’on n’observe pas directement.
Cette compression doit conserver ce qui permet de prévoir les effets des actions. Si je pousse un objet, sa position, sa mobilité et les obstacles comptent. La texture décorative du mur peut être secondaire. Ce qui est utile dépend toutefois du problème : on ne peut pas décider à l’avance que tous les détails visuels sont inutiles.
L’encodeur représente la scène par des variables utiles à la prédiction. Les composantes dessinées sont symboliques.
03.02 / Relier
L’apprentissage des transitions et des prédictions multi-pas
La dynamique F prend l’état latent actuel et une action a, puis prédit l’état suivant. Pendant l’apprentissage, on compare cette prédiction à la représentation de ce qui a réellement été observé. En répétant ce mécanisme, le modèle apprend des régularités du changement.
On peut ensuite enchaîner plusieurs prédictions : un rollout est une trajectoire imaginée. Mais une petite erreur peut se propager à chaque pas. Il faut donc évaluer les prévisions à plusieurs horizons, et pas seulement la prochaine transition. PlaNet et TD-MPC2 sont des repères pour comprendre ce passage de la prédiction à la planification.
Schéma de principe / Comprendre le mécanismeo : observation ; E : encodeur ; z : état latent ; a : action ; F : dynamique. La cible d’apprentissage vient de l’observation suivante réelle.
03.03 / Mettre à l’épreuve
Le choix d’un premier prototype à états vectoriels
Le premier prototype peut recevoir directement un vecteur d’état. Cela permet d’étudier la dynamique sans confondre une erreur de perception avec une erreur de raisonnement sur les transitions. Il n’est pas nécessaire de commencer par des vidéos, un grand modèle ou un robot physique.
Plus tard, un encodeur visuel gelé pourra remplacer cet adaptateur d’entrée. DINO-WM et V-JEPA 2 nourrissent cette perspective. La question centrale restera la même : comment la connaissance transforme-t-elle une prédiction, et quand faut-il réduire son influence ?
Fournir directement les variables d’état permet d’étudier la dynamique avant d’ajouter un encodeur visuel.
Pourquoi cette sourceComprendre comment apprendre un comportement sur des trajectoires imaginées, puis distinguer qualité de prédiction et qualité de contrôle.
Pourquoi cette sourcePerspective pour remplacer l’adaptateur d’observation par une représentation vidéo. Une extension après la validation du prototype compact.
Document de cadrage, p. 3–4, 8–9, 13–14. Les hypothèses et protocoles présentés restent à éprouver.
Comment représenter K et isoler son influence sur la prédiction de l’état suivant ?
04.01 / Comprendre
La représentation des affordances et des préconditions
Une affordance est une possibilité d’action dans une situation : un objet peut être saisi, un tiroir ouvert, une surface franchie. Elle dépend du contexte et des capacités de l’agent. Dire qu’une tasse est saisissable ne veut pas dire qu’elle l’est dans toutes les positions ou avec n’importe quelle pince.
La base K rassemble des entités, des relations, des possibilités d’action et des contraintes. Par exemple : la poignée appartient au tiroir ; tirer le tiroir demande de saisir sa poignée ; placer une tasse à l’intérieur demande que le tiroir soit ouvert. Ce petit langage rend les hypothèses visibles.
Schéma de principe / Comprendre le mécanismeUn exemple de préconditions. Le graphe donne une structure exploitable ; il ne fournit pas les coordonnées futures ni la trajectoire optimale.
04.02 / Relier
L’ajout d’une correction résiduelle conditionnée par K
Le modèle de base F apprend à partir des observations. Une seconde branche G propose une correction issue de la connaissance pertinente. La prédiction finale combine les deux avec un poids α. Cette séparation rend l’apport du savoir plus facile à tester : on peut supprimer la correction, remplacer K ou figer son poids.
Une base lisible et éditable apporte aussi un moyen d’intervention. Si l’on retire une relation ou si l’on inverse une propriété, on peut observer ce qui change dans la prédiction. Cette expérience ne suffit pas à prouver une compréhension causale, mais elle permet de vérifier que le modèle utilise effectivement cette information.
Architecture proposée : F prédit la transition de base ; G apporte une correction conditionnée par K, pondérée par α.
04.03 / Mettre à l’épreuve
Le contrôle des informations fournies au modèle
La comparaison serait trompeuse si la base indiquait directement l’état futur, le but à atteindre ou une solution inaccessible au témoin. Il faut documenter précisément ce que K contient, comment elle est obtenue et combien coûte sa construction.
Il faut aussi comparer à des solutions plus simples : concaténer des attributs, ajouter un identifiant de tâche ou filtrer les actions impossibles. Si un masque d’actions suffit à obtenir le même gain, un graphe complexe n’est pas encore justifié.
Les relations et préconditions sont documentées. Une réponse future ou une solution optimale constituerait une information privilégiée.
Comment réduire l’influence d’une connaissance erronée et évaluer la fiabilité des prédictions ?
05.01 / Comprendre
Le rôle du coefficient de pondération α
Le poids α, compris entre 0 et 1, module la correction G. Proche de zéro, il atténue son influence ; proche de un, il la laisse contribuer pleinement. Ce poids doit dépendre de l’état, de l’action et de la connaissance concernée. Une règle utile ici peut être inadaptée ailleurs.
L’objectif est d’apprendre ce dosage à partir de l’expérience. Si K affirme qu’un mur est saisissable, les transitions observées devraient permettre de mettre ce conseil en défaut. Mais une mauvaise connaissance peut aussi contaminer l’apprentissage : une porte de confiance ne garantit pas, à elle seule, un retour sûr au modèle sans connaissance.
Schéma de principe / F + αGArchitecture proposée : prédiction de base + correction pondérée. α règle une influence ; ce n’est pas automatiquement une probabilité de vérité.
05.02 / Relier
La distinction entre pondération et incertitude calibrée
Le poids α répond à « quelle place donner à cette information ? ». L’incertitude u répond à « à quel point ma prédiction est-elle fiable ? ». Ces deux notions ne sont pas interchangeables. Un modèle peut ignorer K et rester très incertain parce qu’il manque aussi d’expérience.
Calibrer une incertitude signifie confronter ce qu’elle annonce aux erreurs réellement observées sur des données séparées. Par exemple, un intervalle de prédiction annoncé à 90 % doit couvrir environ 90 % des cibles dans le contexte évalué. Il faut également regarder sa largeur : des intervalles immenses couvriraient tout sans aider à agir.
α module la correction. Les intervalles représentent l’incertitude : leur couverture et leur largeur sont à évaluer séparément. Illustration sans résultats.
05.03 / Mettre à l’épreuve
Les tests de corruption de la base de connaissances
Le protocole fera varier la qualité de K : correcte, partielle, absente et contradictoire. Retirer des relations mesure l’effet du manque d’information ; en introduire de fausses mesure une difficulté différente. Ces deux perturbations doivent donc rester distinctes.
On mesurera l’erreur de prédiction, la dégradation par rapport au témoin sans K, le comportement de α et la calibration à plusieurs horizons. Un poids faible sur une base fausse est un indice utile, mais la preuve recherchée reste le comportement effectif du système sur des situations tenues à l’écart de son réglage.
Une relation manquante et une relation fausse sont deux perturbations distinctes. Leur impact doit être mesuré face au témoin sans K.
À vous d’explorerModèle pédagogique
Quelle place donner à un conseil ?
Le modèle prédit 4. La cible est 6. Faites varier le poids de la correction et changez la qualité du conseil.
Base · 4Cible · 6↑08
4 + 0.50 × (+2) = 5.00Écart à la cible : 1.00
Ici, vous fixez α à la main. Le projet cherche à l’apprendre. Ce poids n’est pas une mesure d’incertitude calibrée.
À précision de prédiction fixée, combien d’interactions l’intégration de K permet-elle d’économiser ?
06.01 / Comprendre
La comparaison des modèles à budget de données égal
La première expérience utilise des transitions : un état, une action, puis l’état effectivement obtenu. À budget d’observations égal, on compare un modèle sans connaissance à un modèle qui peut utiliser K. Les mêmes découpages de données et les mêmes graines aléatoires doivent être conservés entre méthodes.
On fait varier le nombre de transitions d’entraînement. La frugalité se mesure notamment par le budget nécessaire pour atteindre une erreur fixée à l’avance, ainsi que par l’erreur au même budget. Le temps de calcul, le nombre de paramètres et le coût de K complètent ce bilan : économiser des interactions ne signifie pas automatiquement économiser toutes les ressources.
Schéma de principe / Comprendre le mécanismeSéparer entraînement, validation et test avant les essais. Le seuil d’erreur est un critère à fixer, pas un résultat déjà atteint.
06.02 / Relier
Les modèles de référence et les ablations
Les témoins prévus sont : dynamique seule, conditionnement par tâche, attributs concaténés, graphe encodé, masque d’affordances, correction pondérée et éventuellement oracle symbolique. L’oracle sert de référence privilégiée ; ses informations supplémentaires doivent être annoncées.
Une ablation retire une pièce de la méthode pour mesurer ce qu’elle apporte. Sans G, on teste la correction. Sans α, on teste le dosage. Avec des attributs sans relations, on teste l’intérêt de la structure. Des capacités et des budgets comparables évitent de confondre apport du savoir et simple augmentation de la taille du réseau.
Cette matrice décrit trois configurations, sans scores : F seul, F + G à coefficient fixé, puis F + αG à coefficient appris.
06.03 / Mettre à l’épreuve
La reproductibilité et les limites du prototype actuel
Chaque essai doit conserver sa configuration, la version du code, le budget, les graines, les découpages, les données ou leur provenance et les prédictions. Les moyennes doivent être accompagnées de leur variabilité ; les échecs ont autant de place que les réussites.
Le laboratoire accessible dans les notes ci-dessous illustre déjà une dynamique scalaire avec une correction et un poids ajusté sur validation. Il ne constitue pas une validation de la thèse : l’état latent n’y est pas appris, K est synthétique et privilégiée, et le transfert n’est pas compositionnel. Les expériences de thèse restent à réaliser et à documenter.
Relier les prédictions aux versions de code et de données, au budget et à la graine permet de retrouver les conditions de chaque essai.
Le modèle prédit-il correctement des compositions objet–relation–action absentes de l’entraînement ?
07.01 / Comprendre
La construction des partitions de généralisation compositionnelle
La généralisation compositionnelle consiste à réussir sur une combinaison jamais vue d’éléments connus. Le modèle peut avoir appris à pousser une balle et à placer un cube dans une boîte ; on réserve alors au test le placement d’une balle dans un contenant. Connaître chaque composant ne garantit pas de maîtriser cette nouvelle combinaison.
Le partage entraînement–test doit se faire par compositions avant de produire les transitions. Un simple mélange aléatoire risque de laisser la même combinaison des deux côtés. De nouveaux objets, de nouvelles propriétés et de nouvelles relations constituent des difficultés différentes : les résultats doivent les distinguer.
Schéma de principe / Comprendre le mécanismeExemple de composition réservée au test. Aucune transition de cette combinaison ne doit servir à l’entraînement ni au réglage.
07.02 / Relier
Le passage de la prédiction au contrôle à horizon glissant
Après avoir validé la dynamique, l’agent pourra imaginer plusieurs suites d’actions, les comparer selon leur intérêt, leurs contraintes et leur incertitude, puis exécuter la première action retenue. La nouvelle observation permettra de corriger la prévision et de recommencer : c’est le principe d’un contrôle à horizon glissant, ou MPC.
La progression envisagée va d’un monde synthétique à un environnement de contrôle peu coûteux, puis à une petite famille de tâches robotiques. HighwayEnv et Meta-World sont des pistes citées dans le document. Changer de domaine sera une expérience supplémentaire, pas une généralisation que l’on peut supposer acquise.
Les pointillés représentent les suites imaginées. Seule la première action choisie est exécutée, puis l’agent observe et recalcule.
07.03 / Mettre à l’épreuve
Les extensions conditionnées par les résultats expérimentaux
La suite dépendra des résultats. Un gain peut venir d’un simple filtrage d’actions ; un échec peut révéler une connaissance mal reliée à l’observation, une porte de confiance qui ne réagit pas ou un protocole trop favorable. Ces explications devront guider la prochaine expérience.
À plus long terme, la perception visuelle, la révision automatique des connaissances et le transfert entre domaines élargiront le programme. L’objectif reste celui du départ : s’inspirer de notre manière de recevoir un savoir, de l’expérimenter et de le remettre en question pour apprendre plus efficacement.
Les résultats doivent déterminer s’il faut revoir la méthode ou engager de nouvelles évaluations en vision, contrôle et transfert.
À vous d’explorerModèle pédagogique
Connus séparément. Inédits ensemble.
À l’entraînement : pousser une balle et placer un cube. Composez une action pour distinguer mémorisation et transfert.
+
Combinaison réservée au testPlacer une balle dans une boîte.
L’action et l’objet sont connus, leur association est nouvelle. C’est sur cette différence que porte le test.
Cette manipulation explique le découpage des données ; elle ne simule pas un modèle entraîné.
Pourquoi cette sourceTerrain envisagé pour des états cinématiques, relations entre véhicules et changements de trafic. Construire un contrôle hors manipulation.
Pourquoi cette sourceChoisir une petite famille de tâches robotiques avec des séparations entraînement–test explicites, après le benchmark synthétique.
Pourquoi cette sourceAutre terrain cité dans le document pour réfléchir au passage à des observations visuelles et à la conduite ; à comparer au prototype cinématique.
Document de cadrage, p. 17–18, 20–23, 35–37. Les hypothèses et protocoles présentés restent à éprouver.