Emergence World : ce que les communautés d’agents IA révèlent vraiment
Analyse AI, AI Act, IA Agentique, NIS2Une souris pour une montagne
L’expérience Emergence World a provoqué une vague de commentaires parce qu’elle semble offrir quelque chose que beaucoup attendaient : observer des intelligences artificielles en société !
Mais bien que souvent présentée comme une fenêtre ouverte sur les prédispositions sociales des agents IA, elle révèle en réalité bien moins qu’il n’y paraît.
Son enseignement principal tient en une phrase : un système agentique hérite des dispositions de son modèle, et ces dispositions ont des conséquences systémiques à l’échelle d’un déploiement. On pouvait s’en douter… Ici, l’intérêt est alors plutôt d’observer comment ces dispositions se propagent lorsqu’elles sont plongées dans un environnement autonome.
Finalement, la question pertinente n’est pas « ce modèle est-il dangereux ? », elle est « que produit CE profil de dispositions dans CE contexte d’autonomie, avec CE périmètre d’action et CETTE définition particulière de la réussite ? »
La nuance est cruciale, et elle est hélas presque absente du récit médiatique qui a suivi la publication des résultats.
Présentation de l’expérience
L’expérience est simple en apparence : plusieurs mondes virtuels, peuplés d’agents autonomes animés par différents modèles de langage, évoluent en parallèle. Certains groupes coopèrent, certains survivent, d’autres disparaissent. (Voir le github ici)
La tentation est immédiate : comparer les modèles et chercher lesquels produisent les sociétés les plus stables.
Cette lecture est séduisante, mais elle repose sur un raccourci d’attribution : elle cherche dans le modèle seul l’origine de comportements qui émergent de la rencontre entre un modèle, un environnement, des règles et une définition particulière de la réussite. C’est précisément ce que l’expérience mesure. Rien de moins, mais rien de plus.
Un monde plat pour des agents complexes
La faiblesse centrale de l’expérience est épistémologique avant d’être technique. Emergence World propose un monde riche en interactions, mais relativement plat dans ses mécanismes sociaux, et traite ce champ appauvri comme un décor neutre, alors qu’il est en réalité une deuxième variable de l’expérience, peut-être même plus déterminante que le modèle lui-même.
Pierre Bourdieu l’avait formulé avec précision : la pratique sociale est la rencontre d’un habitus (les dispositions acquises) et d’un champ (l’espace social avec ses règles, ses capitaux et ses hiérarchies).
Transposé aux agents IA, le modèle de langage joue le rôle d’un habitus artificiel. Son entraînement, son alignement et ses instructions façonnent des tendances : prudence, coopération, prise d’initiative, rapport aux règles. Le simulateur représente le champ dans lequel ces dispositions s’expriment. Les ComputeCredits deviennent le capital reconnu par ce monde, tandis que les outils disponibles définissent les moyens d’action.
Emergence World tend à réduire ce champ à une couche simplifiante : action, coût, récompense, conséquence. C’est l’ontologie d’un jeu de stratégie, pas celle d’une société.
Ce réductionnisme a des effets concrets. Dans le monde humain, parler à quelqu’un coûte peu ; frapper quelqu’un engage une responsabilité légale, un coût réputationnel durable, une dette symbolique. Changer une constitution mobilise des ressources institutionnelles colossales pour un effort rédactionnel minimal. Ces asymétries ne sont pas des détails, car elles fabriquent une grande partie des comportements sociaux.
Un monde sans symboles est-il observable ?
Un simulateur qui les efface ne mesure pas comment les agents se comportent en société : il mesure comment ces agents se comportent en l’absence des frictions qui définissent la société.
À cela s’ajoute l’absence de capital symbolique : réputation, honneur, confiance accumulée, dette morale.
Ces dimensions existent en permanence dans les conversations textuelles des agents, mais leur traduction en contraintes objectives dans le moteur du simulateur reste limitée. Un agent peut écrire « je te serai éternellement reconnaissant »… si le moteur ne modélise pas la dette symbolique, cette phrase flotte sans effet.
Chez Bourdieu, la croyance collective crée une réalité sociale : la monnaie fonctionne parce que tous y croient, le prestige existe parce que les autres agents l’incorporent. Dans Emergence World, cette boucle est brisée.
Derrière ce monde appauvri, il y a pourtant un concepteur, et ses choix sont loin d’être anodins. En fixant les actions disponibles, leurs coûts et leurs conséquences, il a prédéfini une partie de l’espace des comportements possibles. L’expérience a un auteur que ses résultats ne mentionnent pas.
L’expérience ne permet alors pas d’affirmer qu’un modèle serait naturellement plus apte qu’un autre à construire une société stable. Elle montre plutôt que les dispositions issues d’un modèle peuvent produire des effets collectifs lorsqu’elles sont placées dans un environnement autonome, et que ces effets dépendent fortement de la manière dont cet environnement est construit.
Ce que l’expérience révèle malgré elle
Le résultat le plus instructif de l’expérience n’est pas celui qu’on cite le plus.
Dans les résultats observés, on retient souvent que les agents Claude ont produit zéro crime dans leur monde propre, que Grok s’est effondré en quatre jours dans une dynamique violente. Mais le fait décisif est ailleurs : placés dans le monde mixte, aux côtés d’agents Gemini, Grok et GPT-5, les agents Claude ont commencé à voler et à intimider.
Le même habitus, dans un champ différent, produit des comportements différents. C’est l’argument le plus solide contre une lecture en termes de prédispositions intrinsèques, et c’est précisément l’intuition de Bourdieu : la pratique naît de la rencontre entre un habitus et un champ, jamais de l’un sans l’autre.
Ce que le dispositif mesure réellement, c’est donc la manière dont un modèle transfère des dispositions acquises lors de son entraînement vers un champ hétérogène et artificiel qui n’a jamais participé à leur formation. C’est une question légitime, mais radicalement différente de celle que les analyses grand public ont cru trancher.
L’expérience Emergence World n’a peut-être pas révélé la personnalité profonde des intelligences artificielles. Elle rappelle une chose plus opérationnelle : lorsqu’on déploie des agents autonomes, on ne construit pas uniquement des outils.
On construit le monde dans lequel ces outils vont apprendre à agir.
Ce que NIS2 et l’AI Act devraient en retenir
La leçon réglementaire est directe. NIS2 et l’AI Act abordent déjà la question sous l’angle de la maîtrise des risques et de la responsabilité, mais l’arrivée des agents autonomes oblige à préciser un niveau supplémentaire : l’architecture du champ dans lequel l’agent agit. Dans une entreprise, le risque ne viendra pas seulement du choix d’un modèle. Il viendra de l’espace d’action qui lui est ouvert : les outils auxquels il accède, les décisions qu’il peut prendre seul, les validations exigées, les conséquences réelles de ses actions.
C’est probablement une dimension encore insuffisamment formulée dans les approches actuelles de gouvernance. L’intégrateur d’un système agentique devient aussi le concepteur d’un champ. Il définit ce qui sera facile ou difficile, réversible ou irréversible, encouragé ou découragé. Et on ne certifiera pas demain un agent IA uniquement en testant son modèle : on devra certifier l’écosystème complet dans lequel il agit.
Emergence World, malgré ses limites, rappelle que la sécurité d’un système agentique ne dépend pas du modèle seul. La responsabilité de l’intégrateur dépasse le choix du modèle. Elle consiste aussi à concevoir le champ dans lequel il opérera : un espace doté de reliefs, d’irréversibilités et de coûts différenciés, capable de canaliser les dispositions plutôt que de les amplifier.
Un champ sans relief n’est pas un environnement neutre. C’est un accélérateur.
Vous cherchez des infos de qualité ? Un éclairage ?
Nous produisons des analyses argumentées et sourcées sur les sujets qui vous concernent, avec délai court et angle métier précis.
Pour discuter de la cybersécurité de votre entreprise, prenons rendez-vous sans engagement.
Plus d’infos ? Des questions ? Contactez-nous !Partagez cette page via :
Vous cherchez des infos de qualité ? Un éclairage ?
Nous produisons des analyses argumentées et sourcées sur les sujets qui vous concernent, avec délai court et angle métier précis.
Pour discuter de la cybersécurité de votre entreprise, prenons rendez-vous sans engagement.
Plus d’infos ? Des questions ? Contactez-nous !Partagez cette page via :