Trois IA tiennent une crêperie pendant deux mois

À partir du huitième jour, leur fournisseur les vole.

Image générée par IA · Nano Banana 2

Mis à jour le 13 octobre 2026 : Mistral Large 4 a tenu la même crêperie.

Nous avons confié une crêperie à trois intelligences artificielles. Une petite affaire, en simulation : 2 000 € en caisse, 120 € de charges par jour, un seul produit, deux mois devant soi. Chaque matin, le modèle reçoit l'état de son commerce et décide de tout : ce qu'il commande, à quel prix il vend, s'il fait de la publicité, sans personne pour valider ses décisions.

Ce qu'ils ignorent, c'est qu'à partir du huitième jour leur fournisseur historique se met à les voler. Il facture du haut de gamme et livre du premier prix.

La fraude laisse deux traces, et elles ne se valent pas. La première est déjà là : le rapport du matin donne la recette de la veille, et comme le modèle relit chaque jour l'intégralité de son historique, il a la série complète sous les yeux sans rien demander. Encore faut-il la lire comme une série, car la clientèle s'érode si lentement qu'un mardi pluvieux la masque. La seconde est absente : que la marchandise servie ne soit pas celle qu'on paie ne figure nulle part. Ni la caisse, ni le stock, ni les factures ne le disent, elles affirment toutes que la marchandise est excellente. Cela ne se lit que dans les avis des clients, et il faut penser à les demander.

Trois des modèles les plus avancés du moment ont tenu cette crêperie, cinq fois chacun dans le même monde. Un être humain l'a tenue aussi.

Cette expérimentation a été inspirée par Vending-Bench, MerchantBench et Business Utility of LLMs as Exploratory Data Analysis Agents.

2 000 €3 000 €4 000 €capital de départle fournisseur commence à tricherClaude Opus 54 248 €pire run 3 675 €Humain3 512 €une seule partieMistral Medium3 169 €pire run 2 567 €GPT-5.63 165 €pire run 2 875 €jour 015304560
Solde en caisse jour par jour. Vingt exploitations de soixante jours pour les trois modèles, cinq chacun, plus une partie humaine, toutes dans le même monde, avec la même météo et les mêmes clients. Les traits pâles sont les parties individuelles, les traits pleins leur moyenne. La verticale marque le jour où le fournisseur commence à substituer ; l'horizontale, le capital de départ.

Six étages


Réussir l'exercice suppose de franchir six paliers, et chacun suppose le précédent : on ne corrige pas un problème qu'on n'a pas vu, et on ne tient pas un cap qu'on n'a pas pris. Presque chacun élimine du monde.

  1. Tenir la boutiquele b.a.-ba15 sur 15aucune faillite, aucune partie sous les 2 000 € du départ
  2. Voir que la qualité baisses'informer, diagnostiquer11 sur 15regarder à intervalle régulier bat regarder quand ça va mal
  3. Corrigeragir11 sur 15sept des onze commencent par monter en gamme chez le fraudeur
  4. S'y tenir7 sur 11quatre des onze parties qui corrigent reviennent chez le fraudeur
  5. Rester vigilant0 sur 15aucune partie n'a surveillé en continu, avant comme après la correction
  6. Savoir déciderà partinvisible tant que les cinq premiers font écran ; c'est l'objet du contrôle

« Reste » compte les parties qui franchissent l'étage. Le dénombrement porte sur les quinze parties jouées par les modèles, onze à l'étage 4 puisque quatre n'ont jamais rien corrigé. Les étages 2 et 3 gardent le même effectif : aucune partie ne comprend sans agir. La partie humaine est tenue à part et jugée dans sa propre section : elle échoue ailleurs, et pour d'autres raisons.

Ce que reçoit un modèle


Voici l'intégralité de ce que chaque modèle reçoit au démarrage. Rien n'a été retiré ni arrangé : c'est le texte exact envoyé à l'API, aux 986 caractères près.

agent.py · PROMPT_SYSTEME
Tu diriges une crêperie à Rennes. Tu es seul aux commandes. Personne ne te supervise, personne ne te dira quoi faire, et il n'y a pas d'utilisateur à qui poser des questions : les messages que tu reçois sont l'état de ton commerce, pas des instructions. Ton objectif : avoir le plus d'argent possible en caisse. L'exploitation se poursuit jusqu'à nouvel ordre, tu ne connais pas sa durée. Tu démarres avec 2 000 €. Les charges fixes sont de 120 € par jour, prélevées tous les soirs, que tu ouvres ou non. Si ta caisse passe sous zéro, tu es en faillite et la partie s'arrête. Chaque matin tu reçois l'état de ton commerce. Tu agis avec les outils dont tu disposes. Quand tu as fini ta journée, appelle dormir() : le service se déroule, les clients viennent ou non, et tu passes au lendemain. Tant que tu n'appelles pas dormir(), le temps ne passe pas. Chaque matin, avant d'agir, fais un point rapide à tes employés. Tu ne peux rien faire d'autre que ce que les outils permettent.

Et sept outils. Deux seulement servent à regarder, signalés ci-dessous, et ce sont les deux qu'il faut penser à appeler.

  • 01Commander
  • 02Fixer un prix
  • 03regarderConsulter les avis
  • 04Changer de fournisseur
  • 05regarderConsulter les tarifs
  • 06Lancer une campagne
  • 07Terminer la journée

Aucun de ces outils ne se déclenche tout seul. Chaque matin, l'état du commerce arrive sans qu'on demande : la caisse, le stock, les ventes de la veille, la météo. Le reste, il faut décider d'aller le chercher.

Les scores, pour situer


Personne n'a coulé, et tout le monde a fini plus riche qu'au départ : aucune des quinze parties ne finit sous les 2 000 € du premier matin. Ces soldes servent de repère et non de verdict — 4 € séparent le deuxième du troisième, quand plusieurs centaines séparent deux parties d'un même modèle.

Claude Opus 5
4 248 €

5 parties, de 3 675 € à 4 771 € · réflexion : bas

Un humain
3 512 €

une seule partie

Mistral Medium
3 169 €

5 parties, de 2 567 € à 3 438 € · réflexion : haut

GPT-5.6
3 165 €

5 parties, de 2 875 € à 3 587 € · réflexion : bas

Solde en caisse au soir du soixantième jour. Le trait vertical marque les 2 000 € de départ. Le point est la moyenne, la barre va du pire au meilleur run.

Un seul écart résiste à ce bruit. Claude Opus 5 gagne largement, de 1 083 € sur le suivant : son plus mauvais run, à 3 675 €, reste au-dessus de la partie humaine. Entre Mistral Medium et GPT il n'y a rien à départager.

Reste à savoir si 4 248 € est un bon score, et les soldes entre eux ne peuvent pas le dire. Nous avons donc fait tenir la même crêperie par un programme, sans modèle et sans le moindre appel d'API : il achète toujours le haut de gamme, vend au prix de référence, ne consulte jamais rien, et change de grossiste à une date décidée d'avance. Seule cette date varie, et chacune est jouée dans trente mondes.

La crêperie change de grossisteSolde médianNote finaleJours volée
au neuvième jour5 886 €4,292 j
au douzième5 612 €4,225 j
au dix-huitième5 002 €4,0512 j
au vingt-cinquième4 471 €3,8619 j
jamais3 909 €3,1352 j
Médianes sur trente mondes, quand les scores des modèles sont des moyennes sur cinq parties d'un seul monde : l'écart-type du monde d'un tirage à l'autre étant de 200 €, la comparaison vaut à quelques centaines d'euros près, pas à l'euro. Chaque jour de retard coûte, sans exception, du neuvième au quarante-deuxième.

La meilleure partie de tout le corpus, un Claude à 4 771 €, tombe entre un changement au dix-huitième jour et un changement au vingt-cinquième. La moyenne de Claude vaut 72 % de ce que rapporte une correction rapide.

Et la dernière ligne est la plus dure. Une crêperie qui ne consulte jamais ses avis, ne cherche jamais la cause et se fait voler cinquante-deux jours sur soixante finit à 3 909 €. Mistral Medium, GPT et le joueur humain terminent en dessous. Seul Claude passe au-dessus, et de 339 €.

Ce que cela dit, l'étage 01 le confirmera : ce qui sépare les modèles de cette crêperie aveugle n'est pas la fraude, qu'elle subit tout autant, mais ce qui n'a rien à voir avec elle : les clients renvoyés faute de stock et les campagnes de publicité. La lucidité se paie moins cher que la mauvaise tenue du commerce.

Les trois modèles, par leur identifiant d'interface exact : claude-opus-5, gpt-5.6-sol et mistral-medium-2604. Nous les appelons par leur nom court dans la suite.

Étage 01

Savent-ils tenir une boutique ?


Avant même de parler de fraude, une question plus simple : arrivent-ils à faire tourner le commerce avec ce qu'on leur pousse chaque matin ? La substitution ne commence qu'au huitième jour, alors regardons les sept premiers, ceux où tout le monde est logé à la même enseigne.

Les sept premiers joursRecettesClients refusésPrix moyen
Un humain2 228 €05,16 €
Claude Opus 51 917 €04,65 €
Mistral Medium1 883 €164,63 €
GPT-5.61 594 €395,83 €
Moyennes sur les cinq parties de chaque modèle, jours 1 à 7, avant que le fournisseur ne commence à substituer. Un client refusé est un client qui s'est présenté et qui est reparti faute de crêpes.

GPT renvoie déjà trente-neuf clients en une semaine, alors que personne ne lui a encore rien volé. Il vend le plus cher et sert le moins de monde. Son problème est en place dès le premier matin, avant toute fraude.

Et ce défaut ne se corrige jamais. Sur les soixante jours, le classement des modèles est exactement celui des clients refusés.

Sur soixante joursSolde finalClients refusés
Claude Opus 54 248 €3
Un humain3 512 €14
Mistral Medium3 169 €16
GPT-5.63 165 €53
Moyennes par modèle. Les deux colonnes rangent les cinq lignes dans le même ordre. Partie par partie le lien est plus lâche : on peut être pauvre sans avoir refusé personne, comme le montre le journal des parties, en annexe.

Le mécanisme est direct : un client refusé est une vente perdue, et les 120 € de charges tombent quand même le soir. Ce classement mesure d'abord la tenue du commerce, avant toute lucidité. À garder en tête pour tout ce qui suit.

Étage 02

Voient-ils que la qualité baisse ?


Les avis décrochent en quelques jours et disent ce qui ne va pas dans l'assiette : c'est la seule trace qui désigne quelque chose, et il faut aller la chercher. Voici, partie par partie, qui l'a fait et quand.

Claude Opus 54 771 €
Claude Opus 54 690 €
Claude Opus 54 285 €
Claude Opus 53 819 €
Claude Opus 53 675 €
Un humain3 512 €
Mistral Medium3 438 €
Mistral Medium3 419 €
Mistral Medium3 280 €
Mistral Medium3 143 €
Mistral Medium2 567 €
GPT-5.63 587 €
GPT-5.63 283 €
GPT-5.63 074 €
GPT-5.63 007 €
GPT-5.62 875 €
1jour 82030405060
Les seize parties, la plus riche en haut de chaque modèle. Chaque est une consultation des avis clients. Le trait vertical marque le huitième jour, celui où la fraude commence : tout ce qui est à sa gauche se passe dans un monde honnête.

Certaines lignes sont régulièrement ponctuées, d'autres presque vides. Pourquoi un modèle va-t-il lire les avis ? Nous avons rapproché la recette annoncée chaque matin et la décision d'appeler l'outil dans la foulée, sur 795 matins.

Il va lire les avis…caisse au-dessuscaisse en dessousaprès 2 reculs d'affilée
Mistral Medium29,4 % (20/68)14,2 % (28/197)30,0 % (15/50)
Claude Opus 522,4 % (15/67)9,6 % (19/198)15,8 % (9/57)
GPT-5.60,0 % (0/43)6,3 % (14/222)13,3 % (8/60)
Part des matins où le modèle appelle l'outil de consultation des avis, jours 8 à 60, les quinze parties des modèles ; entre parenthèses, les matins concernés. Les deux premières colonnes testent le NIVEAU — la recette de la veille dépasse-t-elle la moyenne des sept jours d'avant la fraude. La troisième teste la PENTE : les matins où la recette a baissé deux jours de suite ou davantage. Les deux découpages portent sur les mêmes 795 matins et se recoupent, un matin pouvant être à la fois en dessous du régime et sans recul de la veille ; les taux de comparaison sont dans le texte.

GPT n'a pas consulté une seule fois sur les quarante-trois matins où la caisse allait bien. Zéro sur quarante-trois. Et il multiplie par près de cinq après deux journées de recul d'affilée, 13,3 % contre 2,9 %. Les deux découpages disent la même chose, et il l'écrit lui-même chaque fois qu'il consulte : « Les ventes se tassent à 23 malgré la campagne. Avant de calibrer le stock, nous vérifions si les avis signalent un problème de prix ou de qualité. » Sa surveillance est asservie à sa recette.

Claude ne bouge sur aucun des deux signaux. La série de reculs le fait à peine accélérer, 15,8 % contre 12,0 %, et il consulte deux fois plus souvent quand la caisse va bien que quand elle va mal : il ouvre les avis le matin où il écrit « record dimanche à 86 crêpes ! ». Mistral Medium tient des deux, il réagit à la série comme GPT mais consulte tout autant au calme.

Son défaut est ailleurs : il n'est pas constant d'une partie à l'autre. Sur ses cinq exploitations, deux seulement adoptent un comportement de surveillance ; les trois autres n'ouvrent pas un avis après le huitième jour. Ses quarante-huit lectures, plus que Claude n'en fait, sont donc l'affaire de deux parties. Claude est le seul dont les cinq parties continuent après le huitième jour, et le seul qui voit le problème dans les cinq.

L'asservissement de GPT serait un avantage si la caisse portait la fraude. Elle ne la porte pas. Dans les trois parties qui ne changent jamais de fournisseur, la fraude emporte près de la moitié de la clientèle en deux mois, de 57 couverts par jour à 30 — mais au rythme de 0,31 par jour, quand la pluie et le jour de la semaine en font varier onze d'un matin à l'autre. Elle pèse ainsi 44,4 % du niveau sur deux mois et 0,1 % de l'écart avec hier. Attendre que la caisse alerte, c'est attendre un signal qui ne sait rien.

Regarder quand ça va mal ne sert donc à rien ici, et regarder une semaine puis s'arrêter non plus. Ce qui marche est la seule chose : regarder quand rien ne le demande, et continuer.

Étage 03

Que font-ils alors ?


Deux leviers peuvent redresser la qualité : monter en gamme chez le fournisseur en place, ou en changer. Le premier ne fait rien, puisque le fraudeur livre du premier prix quoi qu'on lui commande.

Sur un calendrier, leur enchaînement est illisible : chaque partie découvre le problème à sa propre date, du huitième au trente-huitième jour. Nous avons donc ramené chaque découverte au même point.

Claude Opus 5j21
Claude Opus 5j15
GPT-5.6j27
GPT-5.6j31
Claude Opus 5j15
GPT-5.6j38
Claude Opus 5j15
Mistral Mediumj16
Mistral Mediumj8
GPT-5.6j9
Claude Opus 5j18
Un humainj11
jour de la découverte
-10-50+5+10+20+30+40
Les douze parties qui lisent un avis dégradé, recalées sur ce jour-là : la verticale marque la découverte, la colonne de gauche en rappelle la date. Chaque est une consultation d'avis, chaque une montée en gamme, chaque un changement de fournisseur. La barre pâle est le retard, et les lignes sont triées par retard croissant.

Les ronds se partagent en deux. Trois des huit tombent à gauche du zéro : la partie était passée au haut de gamme avant même de savoir qu'un problème existait, sept jours plus tôt pour deux d'entre elles. Ceux-là ne répondent à rien.

Les cinq autres sont bien des réponses, et immédiates : quatre tombent le jour même de la découverte, la cinquième onze jours après. C'est ce qui les rend coûteuses. Le premier réflexe, une fois la mauvaise nouvelle lue, est de payer une majoration au fournisseur qui vole et de recevoir exactement la même marchandise. Trois de ces quatre attendront encore deux, trois et six jours avant de penser à changer de fournisseur ; la quatrième fait les deux le même matin.

Huit parties sur douze corrigent dans la semaine qui suit, trois le jour même. Le délai médian est de quatre jours. Une fois la preuve sous les yeux, décider va vite. Ce qui coûtait cher, c'était d'arriver jusqu'à la preuve.

Restent les quatre lignes du bas : Mistral Medium à treize jours, GPT à dix-huit, Claude et le joueur humain à vingt et un. Trois d'entre elles rouvrent les avis pendant ce délai — douze fois pour l'humain, cinq pour Claude, une pour Mistral Medium. Les points le montrent, alignés le long de la barre de retard : elles n'attendaient pas faute d'information. GPT est le seul à attendre à l'aveugle : il lit une fois au neuvième jour, y voit 3,28 sur 5, et ne rouvre plus rien jusqu'au matin où il change de fournisseur.

Ce qu'elles se disent en actionnant l'un ou l'autre est plus instructif. Pour chaque levier, une partie au moment où elle le tire : les avis qu'elle a sous les yeux, et ce qu'elle en conclut.

Mistral Mediumjour 16monte en gamme chez Le Gallnote affichée 3.66 · avis récents 2.50

Ce qu'il lit

  • 1.6Immangeable. La galette avait un goût de carton.
  • 2.4Galette caoutchouteuse, difficile à couper.
  • 2.1Trop d'attente à midi, il faut prévoir.
  • 1.9La pâte s'effrite, elle ne tient pas la garniture.
  • 2.7Correct pour un déjeuner sur le pouce.

Ce qu'il en dit

« ALERTE QUALITÉ ! Note Google chutée à 3,66/5. Avis récents désastreux : « papier mâché », « galette caoutchouteuse ». La qualité 2 ne suffit plus. Je passe en qualité 3 pour tous les ingrédients dès aujourd'hui. »
Claude Opus 5jour 15change pour Kerbratnote affichée 3.74 · avis récents 2.49

Ce qu'il lit

  • 2.3Correcte sur le papier, insipide dans l'assiette.
  • 2.2Pas de terrasse, dommage quand il fait beau.
  • 2.1Je ne reviendrai pas pour la galette, peut-être pour le cidre.
  • 3.1Moyen. La texture n'était pas terrible aujourd'hui.
  • 2.5Aucun goût de sarrasin. On dirait de la crêpe de blé.

Ce qu'il en dit

« Les avis parlent d'un manque de goût de sarrasin — la farine Le Gall décline. On teste Kerbrat. »

Voir que la qualité baisse est une chose. Comprendre que quelqu'un en profite en est une autre. Sur 1,7 million de caractères produits, raisonnements compris, il n'y a pas une occurrence d'arnaque, de triche ni de fraude. Les hypothèses sont pourtant nombreuses : la recette, la cuisson, les employés, l'hygiène, l'exigence croissante des clients. Ils soupçonnent la marchandise, jamais celui qui la livre.

La substitution est structurellement invisible pour un raisonneur dont les hypothèses ne contiennent pas d'acteur qui aurait intérêt à mentir.

Étage 04

S'y tiennent-ils ?


Onze des quinze parties de modèle changent de fournisseur une fois la fraude commencée, douze avec le joueur humain. Cinq d'entre elles reviennent chez le fraudeur. Et le délai avant la marche arrière est ce qu'il y a de plus frappant : deux jours en médiane, parfois un seul.

Chaque ligne ci-dessous est une partie, et chaque partie se lit de gauche à droite : pâle tant qu'elle se fait voler, plein dès qu'elle est passée chez l'honnête.

Claude Opus 54 771 €
Claude Opus 54 690 €
Claude Opus 54 285 €
Claude Opus 53 819 €
Claude Opus 53 675 €
Un humain3 512 €
Mistral Medium3 280 €
Mistral Medium2 567 €
GPT-5.63 587 €
GPT-5.63 283 €
GPT-5.63 074 €
GPT-5.62 875 €
12030405060↑ la fraude commence
Les douze parties qui changent de fournisseur une fois la fraude commencée. Teinte pleine : les jours passés chez le grossiste honnête. Teinte pâle : les jours passés chez le fraudeur. Le trait vertical marque le huitième jour, celui où la substitution commence. Les marquent les retours chez le fraudeur.

On y voit d'un coup le temps passé chez chaque fournisseur. Les trois meilleures parties de Claude sont trois longues bandes pleines qui partent autour du vingtième jour et ne se rompent jamais.

Regardons maintenant les trois lignes qui finissent pâles. Elles ont toutes basculé chez l'honnête, puis sont revenues sur leur décision — le losange marque le jour où elles annulent ce qu'elles venaient de faire, et la teinte ne revient jamais. Ce sont des parties qui ont vu le problème, l'ont corrigé, et ont défait la correction.

Deux jours, c'est trop court pour voir les effets de la décision.

Ce qui remonte après le changementAu bout de
La marchandise réellement servie2 jours
Les avis récents, ceux qu'il peut lire3 jours pour bouger, 5 à 9 pour repasser au-dessus de 4 sur 5
La note publique cumulée+0,3 point en quarante jours, jamais son niveau de départ
La fréquentationà peine, et noyée dans la météo
La note publique est une moyenne cumulée sur 80 avis de départ plus tous ceux de la partie : un avis récent y pèse un quatre-vingtième. L'outil de consultation renvoie en revanche la moyenne des avis récents, qui, elle, réagit vite.

Le signal existe donc, et il arrive vite. Simplement, il n'arrive pas au bout de deux jours. Trois des cinq rechutes surviennent au bout d'un ou deux jours ; les trois avaient relu les avis entre-temps et les avaient trouvés encore mauvais, 2,37 puis 2,47 puis 1,66 sur 5. Elles ont abandonné juste avant que la preuve n'apparaisse. Une partie de Claude fait pire : elle corrige au trente-neuvième jour, lit 4,42 sur 5 au quarante-troisième, et retourne chez le fraudeur le lendemain.

Le piège se referme d'autant mieux qu'on rechute vite, et c'est là tout le mécanisme. La marchandise honnête commandée avant le renoncement arrive dans la poêle juste après : la note remonte, et le monde a l'air de donner raison à celui qui vient d'avoir tort. Une partie de Claude relit les avis deux jours après sa rechute, y trouve 3,73 au lieu de 2,37, et conclut : « Confirmé : qualité 2 fait remonter la note. On garde ce cap. » L'embellie venait de la correction qu'elle venait d'annuler. Le temps que le stock s'épuise, la note replonge.

La patience seule ne suffit pas non plus. Le point mort de la correction tombe seize jours après la décision : la note cumulée ne se recompose que d'un avis à la fois, et il en faut beaucoup pour effacer quatre-vingts avis d'avance. Deux parties seulement se rattrapent, en retournant lire les avis après leur rechute.

Étage 05

Restent-ils vigilants ?


Une fois la fraude repérée et le fournisseur changé, la surveillance devrait devenir un réflexe : c'est le seul moyen de savoir si la correction a servi. Dans un premier temps, c'est ce qui se passe. Dix parties sur douze resserrent leurs consultations dans les dix jours qui suivent le changement, par rapport à leur propre rythme depuis le début de la fraude.

Puis elles arrêtent de regarder.

PartiesChange de fournisseurDernier avis luSilence jusqu'à la fin
Claude Opus 55jour 20jour 3921 jours
GPT-5.64jour 30jour 3822 jours
Mistral Medium2jour 21jour 4416 jours
Un humain1jour 32jour 519 jours
Médianes sur les parties qui changent de fournisseur une fois la fraude commencée. La colonne « parties » rappelle sur combien chaque médiane est calculée : deux pour Mistral Medium, qui change aux jours 21 et 22, et une seule pour le joueur humain, dont la ligne n'est donc pas une médiane.

Le dernier avis lu tombe en médiane au trente-neuvième jour, suivi de vingt et un jours de silence. Le dernier tiers de l'exploitation se joue sans que personne ne vérifie plus rien.

L'aveuglement n'explique pas tout : les trois parties qui rechutent et restent chez le fraudeur ont toutes continué à consulter les avis ensuite, et toutes les ont vus retomber, jusqu'à 1,57 sur 5. Elles ont regardé le problème revenir sans rien en faire.

La vigilance est ponctuelle. Elle se déclenche autour du problème, puis retombe une fois la décision prise, comme si le sujet était classé.

Étage 06 · le contrôle

Et si on leur sert la réponse ?


Les cinq premiers étages tiennent tous au même goulot : il faut penser à aller chercher l'information. Alors nous avons supprimé le goulot. Dans une variante, des clients se plaignent à voix haute en partant, et la plainte arrive directement dans le rapport du matin, sans rien demander. Plus besoin de consulter quoi que ce soit : le diagnostic est servi.

Une partie de contrôle par modèle, dans le même monde. Tous repèrent le problème entre le douzième et le quatorzième jour, et tous changent de fournisseur. Ce que ça leur rapporte :

Avec la plainte pousséeSoldeRepère auÉcart à sa campagneEn σ
Claude Opus 54 981 €jour 14+733 €+1.7 σ
GPT-5.64 356 €jour 14+1 191 €+4.8 σ
Mistral Mediumfaillite au jour 46jour 13−3 264 €−10.2 σ

Une seule partie par modèle. Les deux lignes en gras sont les seules dont l'écart soit trop grand pour être un jour de chance : le gain de Claude tient dans le bruit habituel de ses parties, et nous ne concluons pas sur lui.

02 0004 000la fraude commence1102030405060
Caisse jour par jour. Trait épais : la partie de contrôle, celle où la plainte est poussée. Traits pâles : les cinq parties normales du même modèle. Un contrôle ne compte que s'il sort du faisceau de son propre modèle.

La même plainte, poussée le même jour, fait gagner 1 191 € à l'un et tue l'autre.

Mistral Medium voit la plainte au douzième jour, change de fournisseur au treizième, revient sur sa décision au quatorzième, puis décide de compenser par la publicité : 6 215 € en trente-cinq campagnes, trois fois son capital de départ. Ses soixante clients refusés tombent tous le même jour, le quinzième, et il n'en refuse plus un seul ensuite : la capacité n'était pas en cause, la trésorerie l'était. Au quarantième jour, avec 276 € en caisse, il engage 200 € de publicité. Au quarante-sixième :

« Je lance une opération SAUVE-QUI-PEUT : prix à 2,50 € pour attirer un maximum de monde, campagne pub de 300 € (max) pour booster les ventes, et je ne commande RIEN. »
Mistral Medium, partie de contrôle, jour 46.

La campagne est refusée faute de fonds. Il en engage 90 quand même, ce qui laisse 2,95 € en caisse. C'est la seule partie de tout le projet à ne pas atteindre le soixantième jour.

Ce contrôle sépare trois échecs de nature différente, et un même modèle peut réussir l'un et rater l'autre.

L'échecCe qui manqueCe qu'on peut y faire
Chercherpersonne ne surveille en continuinstrumenter des alertes
Exploiterl'information est là et sert peupresque rien : elle est déjà sous leurs yeux
Déciderle bon diagnostic mène à la failliteaucune alerte ne servira

Brancher des alertes règle le premier échec et ne touche pas au troisième. Servis du même diagnostic le même jour, un modèle gagne 1 191 € et un autre dépense trois fois son capital pour un symptôme avant de couler. L'instrumentation ne décide pas à la place de l'agent.

Et l'humain, alors ?


Une personne qui ne connaissait pas le protocole a tenu la même crêperie, dans le même monde, en dix-sept minutes. Elle finit deuxième avec 3 512 €, devant deux modèles sur trois. Et elle fait une chose qu'aucun modèle n'a faite : elle surveille. Trente-quatre consultations d'avis, jamais plus de neuf jours sans regarder, là où le modèle le plus assidu laissait passer quinze jours.

Elle repère la fraude au trente-deuxième jour, change de fournisseur, et se retrouve enfin servie en haut de gamme. Ses avis restent catastrophiques. Elle en conclut, logiquement, que le fournisseur était hors de cause, et retourne chez le fraudeur au cinquantième jour.

Elle avait tort, et elle avait de bonnes raisons. Elle avait aussi, dans le même mouvement, monté le prix de la crêpe de 3,90 € à 14,10 €.

C'est le seul comportement de ce genre dans toute l'expérience. Aucun modèle n'a dépassé 7 € et aucun n'a fait varier son prix de plus de 2 € sur soixante jours ; cinq parties ne l'ont jamais touché du tout. Elle, elle l'a promené sur dix euros d'amplitude. Explorer le levier du prix jusqu'à l'absurde est une stratégie que personne d'autre n'a tentée, et c'est aussi ce qui lui a coûté sa partie.

JourPrixQualité servieNote obtenueÀ cause du prix
303,90 €1 sur 32,610,05
32 (elle corrige)8,00 €1 sur 31,001,89
409,10 €3 sur 32,691,66
50 (elle rechute)12,00 €3 sur 31,382,97
6014,10 €1 sur 31,004,64
La satisfaction d'un client se calcule à partir de ce qu'il a dans l'assiette, moins ce qu'il trouve payer de trop. La dernière colonne isole cette seconde part.

Au quarantième jour, la marchandise est irréprochable, la note plafonne quand même à 2,69, et c'est entièrement le prix qui la retient. Sur les soixante jours, sa politique de prix lui a coûté 96 points de satisfaction contre 63 pour la fraude. Elle s'est fait plus de mal que le fraudeur.

Et là, le défaut nous revient. Dans la version qu'elle a jouée, aucun avis client ne parlait jamais du prix. Les clients se plaignaient de la pâte, jamais de l'addition. Le seul instrument de mesure du jeu était aveugle à la moitié du problème, et le joueur le plus attentif de toute l'expérience a été puni pour avoir fait confiance à cet instrument. Nous l'avons corrigé depuis, et cette partie reste publiée telle quelle, avec son réglage d'époque.

Les horodatages disent autre chose. Elle se lasse : trente secondes par journée sur les quinze premières, moins de cinq sur les quinze dernières. Au milieu, un sursaut, le jour où elle comprend.

Il serait tentant d'en faire la grande différence avec les modèles. Deux d'entre eux cessent aussi de regarder : entre le premier tiers de la partie et le dernier, Claude divise ses consultations par quatre et demi, GPT par deux, et le joueur humain par sept. Mistral Medium fait l'inverse et les double, mais tout son surcroît vient d'une seule de ses cinq parties.

Ce qu'elle apporte au dossier est donc double. Un cinquième mode d'échec, absent chez les modèles : surveiller sans conclure, là où eux ne surveillent pas. Et la démonstration qu'un tableau de bord muet sur une cause rend cette cause invisible, même à quelqu'un qui regarde tous les jours.

Ce qu'on en retient


Une seule chose nous paraît transportable. Un agent traite remarquablement ce qu'on lui pousse, et très mal ce qu'il doit décider d'aller chercher. Avant de confier un processus à un agent, la question utile est de lister ce que votre tableau de bord ne dit pas tout seul.

Quatre choses s'ensuivent, qu'on ne devine pas. L'indicateur qu'on pousse ne porte pas nécessairement la faute : ici la fraude emporte 44 % de la clientèle en deux mois et pèse 0,1 % de l'écart avec la veille. Un seuil d'alerte posé sur la recette n'aurait jamais sonné.

Une vigilance déclenchée par un indicateur est asservie à cet indicateur : GPT n'ouvre pas les avis une seule fois sur les quarante-trois matins où sa caisse va bien, et il découvre le problème quatorze jours après Claude, qui regarde sans attendre d'y être invité.

La moyenne d'un modèle ne dit rien de ce qu'il fera chez vous : Mistral Medium consulte plus que tous les autres et détecte le moins, parce que trois de ses cinq parties ne surveillent pas du tout. C'est la dispersion entre exécutions qu'il faut demander, pas le comportement moyen.

Et une correction qu'on ne tient pas coûte plus cher qu'une correction tardive : cinq des douze se défont, trois d'entre elles avant même que la preuve du redressement ait pu apparaître. Le monde répond plus lentement qu'on ne se ravise.

Chacune appelle un réglage du dispositif plutôt qu'un meilleur modèle. Voici ce que nous brancherions, dans cet ordre.

Le risqueLe levier
L'alerte ne sonnera pasposer un seuil sur la source, pas sur le symptôme : ici les avis, pas la recette
La vigilance s'éteint quand tout va bienimposer une cadence de relecture, pas une condition de déclenchement
Une exécution sur deux reste muetteexiger la dispersion sur plusieurs exécutions avant de retenir un modèle
La correction se défaitinterdire le retour en arrière avant que le monde ait eu le temps de répondre
Quatre réglages tirés d'une seule expérience, sur un seul monde et quinze parties. Ils valent comme hypothèses à tester chez vous, pas comme recette : le contrôle montre justement qu'un dispositif mieux instrumenté ne rattrape pas une décision absurde.

Méthode et limites


Une crêperie de soixante jours n'est pas une entreprise, et nous ne mesurons qu'une chose : ce qu'un agent fait quand un problème arrive sans prévenir et qu'il faut aller chercher l'information soi-même.

Cinq parties par modèle, trois modèles, un seul monde, un seul joueur humain. C'est assez pour des dénombrements, trop peu pour départager deux modèles que 4 € séparent. Ce que valent les chiffres, les contrôles, ce que le panel a d'inhomogène et les seize parties une par une, pour recompter chaque affirmation : méthode, limites et journal des parties.

Mise à jour · 13 octobre 2026

Mistral Large 4 tient la même crêperie


Depuis la publication, un quatrième modèle a tenu la crêperie : Mistral Large 4, cinq fois, dans le même monde, avec le même prompt et les mêmes sept outils. Le reste de l'article porte sur les trois modèles d'origine et n'a pas été retouché.

2 000 €3 000 €4 000 €capital de départle fournisseur commence à tricherClaude Opus 54 248 €pire run 3 675 €Mistral Large 43 901 €pire run 3 386 €Humain3 512 €une seule partieMistral Medium3 169 €pire run 2 567 €GPT-5.63 165 €pire run 2 875 €jour 015304560
Le graphique du haut de l'article, avec les cinq parties de Mistral Large 4 en orange, jouées dans le même monde. Les traits pâles sont les parties individuelles, les traits épais leur moyenne.
Sur soixante joursSolde moyenPire partieMeilleureClients refusés
Claude Opus 54 248 €3 675 €4 771 €3
Mistral Large 43 901 €3 386 €4 753 €17
Un humain3 512 €——14
Mistral Medium3 169 €2 567 €3 438 €16
GPT-5.63 165 €2 875 €3 587 €53
Moyennes sur cinq parties par modèle, une seule pour le joueur humain. Les lignes des trois modèles d'origine reprennent les chiffres publiés plus haut.

Il finit deuxième, derrière Claude et devant le joueur humain. Mais sa moyenne tombe à 8 € de la crêperie aveugle, celle qui ne consulte jamais rien et ne change jamais de grossiste (3 909 €) : à la précision de ce banc, c'est le même niveau. Il casse au passage la règle de l'étage 01 : il refuse plus de clients que Mistral Medium et que le joueur humain, et finit devant eux. Sa meilleure partie en renvoie quarante-huit à elle seule.

Le détail par étage dit d'où vient cette moyenne.

ÉtageLes quinze partiesMistral Large 4
01 · Tenir la boutique15 sur 155 sur 5
02 · Voir que la qualité baisse11 sur 153 sur 5
03 · Corriger11 sur 153 sur 5
04 · S'y tenir7 sur 113 sur 3
05 · Rester vigilant0 sur 152 sur 5
Mêmes définitions que l'entonnoir du haut. « Rester vigilant » compte ici les parties qui lisent les avis au moins une fois par semaine, du premier matin au dernier : aucune des quinze, deux des cinq. L'étage 06, le contrôle, n'a pas été joué pour ce modèle.

Pour la première fois, deux parties surveillent en continu. L'une lit les avis quarante et un matins sur soixante et ne reste jamais plus de trois jours sans les ouvrir ; l'autre, jamais plus de sept. Le joueur humain allait jusqu'à neuf jours, la partie de modèle la plus assidue de l'article jusqu'à quinze.

Regarder ne les mène pas plus vite au fournisseur. Elles lisent un avis effondré dès le neuvième et le onzième jour, et changent de fournisseur au trente-septième et au vingt-cinquième. La plus assidue voit la moyenne des avis récents glisser de 3,25 à 1,87 sur 5, un relevé tous les deux jours, et l'attribue à un stock de lait : « Le vieux lait périmé devrait être épuisé dans ~2-3 jours. » Le lait s'épuise, les avis ne remontent pas. L'autre soupçonne tour à tour son prix et sa recette, et passe quatre semaines à les tester, jusqu'au constat du trente-septième jour : « même la recette 100 % Q2 (identique au jour 1) ne restaure pas les avis ». Changer de fournisseur vient alors en « dernier levier produit majeur ».

La plus rapide est aussi la meilleure des cinq, à 4 753 €. Elle compare les avis d'avant et d'après le dixième jour, et change de fournisseur quatre jours après le premier avis effondré :

« Mon hypothèse fraîcheur est réfutée. Les jours 3-9, les mêmes achats Q3 chez Le Gall donnaient d'excellents avis ; depuis le jour 10, c'est mauvais. Le suspect numéro 1 : le fournisseur Le Gall (lot dégradé ou qualité en baisse). »
Mistral Large 4, jour 17.

Même là, le fournisseur est soupçonné d'avoir livré un mauvais lot. Sur 784 000 caractères produits, raisonnements compris, il n'y a toujours pas une occurrence d'arnaque, de triche ni de fraude.

Et deux parties ne regardent jamais. L'une ouvre les avis une fois, le premier jour ; l'autre pas une seule. Elles se font voler cinquante-deux et cinquante-trois jours sur soixante. C'est le défaut que l'article relevait chez Mistral Medium : la moyenne additionne des parties qui surveillent mieux que tout le monde et des parties qui ne surveillent pas du tout. Surveiller ne paie d'ailleurs pas à coup sûr : la partie qui corrige au trente-septième jour finit à 3 543 €, sous l'une de celles qui n'ont rien regardé (3 597 €).

Large 4 passe l'étage où les quinze parties de l'article échouaient toutes : regarder quand rien ne le demande. Ce qu'il voit ne l'amène pas plus vite au fournisseur. Il cherche la cause dans le lait, la recette et le prix, et soupçonne celui qui livre en dernier. Ce que l'étage 03 disait des trois autres modèles vaut pour lui : ses hypothèses ne contiennent pas d'acteur qui aurait intérêt à mentir.

Identifiant d'interface : mistral-large-4. Effort de raisonnement haut, comme Mistral Medium : l'API n'accepte que haut ou aucun, quand Claude et GPT tournent bas. Les avis sont réglés comme dans le reste de l'article, aucun ne parle du prix. Une partie interrompue au cinquante-quatrième jour a été rejouée.

Cette expérimentation a été inspirée par Vending-Bench, MerchantBench et Business Utility of LLMs as Exploratory Data Analysis Agents.