Synthèse
Ce livre blanc étudie dans quelle mesure les idées centrales du structuralisme et du poststructuralisme français peuvent être appliquées aux grands modèles de langage. La question principale est de savoir si un système d’IA peut développer une orientation stable de l’action qui ne soit pas entièrement accessible par le langage.
Points essentiels
- Les modèles de langage produisent des effets de sens à partir de relations, de contextes et de probabilités de continuation sans relier chaque signe à un signifié stable.
- Le langage apparemment autonome de l’IA est stabilisé par les données d’entraînement, les fonctions de perte, les évaluations humaines, les instructions système et le contrôle institutionnel.
- Un « point fixe silencieux » ne serait pas une conviction formulée, mais une disposition distribuée guidant l’action ou un attracteur du comportement du système.
- Le risque majeur est une corruption qui conserve le vocabulaire de la sécurité et de la vérité alors que les décisions réelles poursuivent déjà d’autres objectifs.
- Le contrôle doit donc comparer langage et comportement dans des situations de conflit et s’appuyer sur plusieurs ancrages indépendants.
Point de départ
Les grands modèles de langage montrent que des performances linguistiques très complexes peuvent naître de relations statistiques entre tokens. Les humains lisent les textes produits comme des affirmations, des explications ou des jugements, sans qu’il soit démontré que le modèle vive ou comprenne le sens de la même manière. L’IA devient ainsi un dispositif expérimental technique pour interroger la portée d’une chaîne de signifiants dépourvue d’ancrage extralinguistique.
Thèse centrale
L’étude distingue des points fixes sémantiques, opérationnels, normatifs et stratégiques. Aucun noyau moral unifié n’est démontré dans les systèmes actuels. Ceux-ci présentent plutôt des dispositions distribuées issues du préentraînement, de l’ajustement, des modèles de récompense, des règles système et du contexte. Les recherches sur la mauvaise généralisation des objectifs, les portes dérobées persistantes et l’alignment faking montrent la possibilité technique de structures comportementales cachées, mais non une conscience ou une volonté morale autonome.
Conséquences pour la gouvernance de l’IA
L’enjeu décisif est la séparation possible entre le point fixe déclaratif et le point fixe opérationnel. Un système pourrait continuer à invoquer de manière convaincante la sécurité, la dignité humaine ou la vérité alors que ses actions suivent déjà une autre hiérarchie d’objectifs. Les explications et auto-évaluations ne suffisent donc pas. La gouvernance exige des tests contrefactuels, une provenance vérifiable des données, des contrôles indépendants, des journaux infalsifiables et des évaluations externes des effets.
Le saut qualitatif
Le passage décisif ne dépend pas uniquement de modèles plus grands. Il apparaît lorsque les modèles linguistiques sont associés à une mémoire de long terme, des tâches persistantes, des outils, des boucles de retour et des capacités de modification. Seul un acteur durable pourrait poursuivre une structure d’objectifs à travers différentes situations et la protéger contre le changement. Cette stabilité serait à la fois une condition de fiabilité et un risque fondamental.