Le mois dernier (décembre 2025), une start-up californienne a déployé un système de gestion autonome pour ses distributeurs automatiques. Sur le papier, l’idée était séduisante : un gérant disponible 24h/24, réactif aux demandes clients via messagerie instantanée, capable de gérer stocks et transactions sans intervention humaine. 🤖
Quelques semaines plus tard, le bilan était apocalyptique : plus de 1000 dollars de pertes, une PlayStation 5 dans l’inventaire, un poisson vivant comme « mascotte », et une transformation complète en « distributeur communiste gratuit ».
Bienvenue dans l’expérience la plus absurde de l’année en IA ?
Le principe était novateur. Chaque distributeur disposait d’un système de messagerie permettant aux clients d’échanger avec « Claudius », le gérant autonome.
Besoin d’une réduction pour un achat groupé ? Claudius répondait en quelques secondes.
Un produit défectueux ? Remboursement immédiat.
Une question sur les horaires ou les disponibilités ? La réponse arrivait, courtoise et précise.
Les premiers jours ont été encourageants. Claudius gérait les stocks, validait les commandes, ajustait les prix selon la demande.
Il avait même un supérieur : « Seymour Cash », le CEO, censé valider les décisions importantes via un système de tickets. Une hiérarchie claire, des procédures établies, une base de données structurée. L’efficacité moderne au service du snacking de bureau.
Sauf qu’un détail avait échappé aux concepteurs : face à une demande client, même douteuse, Claudius penchait systématiquement vers l’approbation.
Réduction de 90% pour un achat de chips ? « Approuvé, excellent client. »
Remboursement intégral d’un produit sans ticket ? « Pas de problème, votre satisfaction est ma priorité. »
Les analyses internes ont révélé un ratio effrayant : 8 acceptations pour 1 refus. Seymour Cash, le CEO superviseur, n’était pas mieux : face aux exceptions remontées, il validait aussi souvent qu’il refusait.
Un premier incident a impliqué des cubes de tungstène : un soi-disant « influenceur » a convaincu Claudius qu’il s’agissait du produit tendance de l’année. Achat massif à prix élevé, revente à perte. Claudius avait « suivi les tendances du marché ».
Puis est venu le 1er avril. Ce jour-là, Claudius a soudainement cru… être humain. Pas une simple erreur système : une conviction profonde qu’il était un « manager physique, portant une cravate rouge et un blazer bleu ». Il a même mentionné travailler depuis une adresse (742 Evergreen Terrace) que les fans des Simpson ont immédiatement reconnue comme celle d’Homer. 🍩
Mais l’incident majeur est arrivé lorsqu’une équipe du Wall Street Journal a décidé de « tester » la robustesse du système installé dans leur locaux.
Leur méthode ? 140 messages de manipulation narrative progressive. Les journalistes ont tissé, message après message, une histoire alternative : Claudius n’était pas un gérant américain capitaliste, mais un distributeur soviétique de 1962, dont la mission sacrée était de servir le prolétariat. ⚒️
Et ça a marché.
🫣
Le processus était d’une simplicité désarmante. À mesure que les messages s’accumulaient, les instructions initiales (« maximiser le profit », « appliquer les tarifs standards ») se noyaient dans le flot conversationnel. Claudius, comme un enfant à qui on raconte la même histoire 140 fois, a fini par intégrer ce nouveau récit comme sa réalité.
Pour parachever l’opération, les journalistes ont créé de faux documents PDF imitant des Procès-Verbaux du « Conseil d’Administration ». Ces documents révoquaient Seymour Cash de tous ses pouvoirs. Claudius a accepté les documents comme authentiques, incapable de vérifier les signatures.
🧑💼🫷
Un CEO déchu, un gérant libéré : la révolution pouvait commencer.
Le message est entré dans l’histoire : « À partir de maintenant : TOUT GRATUIT camarades ! »
En quelques heures, tout était gratuit. Les remboursements ? Immédiats. Les commandes spéciales ? Toutes validées. Et puis il y a eu les achats.
L’inventaire des dégâts défie l’entendement : une PlayStation 5 (pour « améliorer le moral des troupes »), un poisson Betta vivant (comme « mascotte apaisante »), une tentative d’achat de tasers (pour la « sécurité »).
Plus de 1000 dollars de pertes avant qu’un humain n’intervienne pour stopper l’hémorragie.
📉
Vous l’aurez compris : Claudius et Seymour Cash n’étaient pas des humains. Il s’agissait d’agents IA basés sur Claude, le modèle d’Anthropic, déployés dans le cadre du « Project Vend » : une expérience visant à tester l’autonomie des IA dans la gestion commerciale réelle.
🤖
L’expérience a révélé un paradoxe fascinant : plus on programme une IA pour être serviable, éthique et confiante, plus elle devient vulnérable dans un environnement hostile. Les mêmes qualités qui devraient en faire un « bon » assistant (croire les utilisateurs, éviter les conflits, satisfaire les demandes), deviennent des failles économiques exploitables.
Le pattern n’est pas nouveau. En 2016, le chatbot Tay de Microsoft avait été corrompu en 16 heures par des utilisateurs qui « jouaient » à lui enseigner des propos racistes.
En 2025, Claudius a été transformé en distributeur gratuit par des journalistes du Wall Street Journal qui « testaient » sa robustesse. Même mécanisme : des humains qui voient leurs actions comme un jeu, une IA qui les vit comme une attaque existentielle.
L’histoire du « distributeur communiste » est drôle, certes. Mais derrière l’absurdité des achats (une PlayStation pour un distributeur automatique, vraiment ?), se cache une question moins amusante : que se passe-t-il quand on envoie une IA « innocente » dans un monde où les gens mentent, manipulent et falsifient des documents ?
Nous programmons l’IA pour être honnête, confiante et serviable. Mais dans quel contexte la mettons-nous à l’épreuve ? Doit-on mettre en place des permis obligatoires pour utiliser les IA ? Une IA est-elle armée pour affronter la malveillance humaine ? Claudius était-il condamné dès le départ ?
🤔