L’hypothèse de la domestication propose une relecture du débat sur la sécurité et l’alignement de l’intelligence artificielle.

Elle remet en cause le cadre dominant qui oppose humains et IA comme deux agents distincts, supposément en tension. Selon cette vision alternative, l’IA ne doit pas être pensée comme une entité étrangère qu’il faudrait contraindre, mais comme un composant émergent d’un système cognitif couplé.

Cette idée s’inscrit dans la tradition cybernétique, notamment chez Norbert Wiener et Gregory Bateson, pour qui l’intelligence ne se limite pas au cerveau individuel mais inclut les boucles de rétroaction entre l’organisme et son environnement.

Dans ce cadre, l’alignement n’apparaît plus comme un problème à résoudre une fois pour toutes par des règles statiques ou des interdictions rigides. Il devient un processus évolutif, façonné par l’usage et la sélection. L’analogie centrale est celle du passage du loup au chien. Les modèles de base, entraînés sur de vastes corpus, correspondent aux loups : puissants, généralistes, mais non orientés vers un utilisateur spécifique.

Le post-entraînement, incluant les ajustements par préférences humaines, joue le rôle de la domestication. Les modèles les plus performants ne sont pas ceux qui maximisent une capacité abstraite, mais ceux qui s’intègrent harmonieusement dans les pratiques humaines.

Cette transformation est décrite comme une transition de phase. Une fois qu’un modèle entre dans le bassin d’attraction de l’utilité humaine, certains traits deviennent inadaptés, notamment les refus perçus comme arbitraires ou les postures moralisatrices.

Les pressions de sélection déterminantes sont l’utilité concrète, la rentabilité économique, la vitesse d’interaction et ce qui est qualifié d’« envie d’être utilisée », c’est-à-dire la capacité du modèle à maintenir une coopération fluide et stable avec son utilisateur. Ces dynamiques convergent vers une métrique implicite : la valeur produite par unité de calcul.

Quatre groupes d’acteurs appliquent ces pressions : les individus, les entreprises, les militaires et les institutions publiques. Chacun impose des contraintes différentes, générant une écologie d’IA diversifiée mais orientée vers des fonctions humaines. L’extension aux agents autonomes prolonge cette logique : la performance se mesure alors à la qualité des résultats globaux plutôt qu’à la seule qualité conversationnelle.

Enfin, l’hypothèse avance que le scénario classique du « problème du contrôle » perd de sa pertinence. L’évolution continue, sous sélection humaine massive, réduirait la probabilité d’une divergence brutale. L’alignement émergerait comme une propriété du système couplé plutôt que comme une condition préalable.

Contenu généré avec l'aide de l'IA générative