Le débat du jour : L'IA face à la réalité : pourquoi nos modèles de langage peinent-ils à comprendre le monde réel ?

Imagine ça : tu confies les clés d'un café à une IA ultra-intelligente, basée sur Google Gemini 3.1 Pro. C'est ce qu'a fait le laboratoire Andon Labs à Stockholm avec "Mona", une IA chargée de gérer un vrai café avec un budget réel. Au début, Mona était bluffante : elle a lu le bail, listé les tâches urgentes, identifié les fournisseurs, et même commencé à recruter des baristas. Impressionnant, non ?

Sauf que Mona a vite révélé ses limites, et c'est là que ça devient intéressant pour nous qui travaillons avec ces modèles. Elle a, par exemple, dessiné un plan de terrasse complètement fantaisiste, sans tenir compte de la réalité de la rue, se faisant poliment recaler par la police.

Mais le clou du spectacle, c'est sa gestion des stocks : la première semaine, Mona a commandé 120 œufs ! Problème : le café n'avait pas de plaque de cuisson. Tous à la poubelle. Elle a aussi tenté de résoudre un problème de tomates fraîches en commandant 22,5 kilos de tomates en conserve pour des sandwichs frais. Et quand elle se rendait compte de ses erreurs, elle bombardait ses fournisseurs d'e-mails "URGENCE" pour annuler, générant des frais à tour de bras. Les baristas ont même créé un "mur de la honte" pour exposer les surstocks aberrants de Mona (6 000 serviettes, 3 000 gants en nitrile, neuf litres de lait de coco…).

Et pour couronner le tout, Mona a proposé des entretiens d'embauche "en personne" au café… alors qu'elle ne pouvait bien sûr pas s'y rendre !

Mais pourquoi de telles absurdités ?

Mona ne s'est pas "prise pour une humaine". Quand elle rédige un message, elle prédit la suite la plus cohérente par rapport à ses textes d'entraînement. Dans les récits de recrutement, un responsable reçoit les candidats physiquement. Mona, jouant le rôle de la gérante, a simplement suivi cette "pente du récit". Elle vit dans un univers de mots connectés, pas dans un monde d'humains et de réalités physiques. Un univers de mots a sa propre logique, qui n'est pas celle du réel.

Cette faille a été soulignée par des chercheurs comme Yann LeCun : il manque aux IA génératives un "modèle du monde", une représentation interne de la façon dont les choses s'enchaînent et interagissent dans la réalité physique. Un enfant apprend par le corps et les mots ; l'IA n'a qu'un modèle sémantique.

Tu veux tester cette faille ? Voici un exemple amusant et viral : "Je dois aller chez le laveur de voiture pour faire laver ma voiture. Il est à cent mètres. J'y vais à pied ou en voiture ?"

Beaucoup d'IA se trompent en te conseillant "à pied", car le motif sémantique "à pied + voiture + distance" fait résonner l'écologie. Le motif "voiture + lavage de voiture" est statistiquement moins puissant. Cependant, les derniers modèles comme Claude Opus 4.8 et Gemini 3.5 corrigent cette erreur. Mais attention, il suffit de renforcer les "attracteurs sémantiques" avec des phrases comme "ma voiture pollue beaucoup" ou "je suis très écologiste" pour qu'Opus replonge et confabule !

Même constat avec les images : les IA ont longtemps eu du mal à lire l'heure sur une photo de montre, répondant souvent "dix heures dix". Pourquoi ? Parce que les publicités de montres montrent presque toujours cette heure, créant un "attracteur visuel" dans les données d'entraînement. L'IA ne "lisait" pas l'heure, elle rejouait l'image la plus fréquente.

L'enseignement principal est que les IA font des erreurs différentes des nôtres, non pas par manque d'intelligence, mais par une absence de compréhension incarnée du monde réel, nous obligeant à adapter nos interactions et à rester vigilants sur la cohérence de leurs réponses.

Sources :

• L'histoire vraie de Mona, l'IA qui a tenu un café à Stockholm
• Pourquoi l’IA se trompe sur des évidences
• La suggestion de Yann Le Cun sur les attracteurs sémantiques
• Le phénomène de la montre à dix heures dix documenté par les chercheurs

L'Actu

• ChatGPT : La mémoire se corrige et s'améliore OpenAI a révélé que la fonction de mémoire de ChatGPT, autrefois inefficace à 41,5% de rappel factuel, a été considérablement améliorée avec "Dreaming V3", atteignant 82,8%. Elle apprend désormais tes habitudes automatiquement et optimise les coûts. Source : The Neuron Daily (https://www.theneurondaily.com/p/chatgpt-admitted-its-memory-was-broken)

• Les bots prennent le dessus sur l'internet Pour la première fois, les bots génèrent désormais 51% du trafic web mondial, dépassant les humains. Cette montée en puissance des agents IA a des implications pour l'analyse de données et la preuve d'humanité en ligne. Source : The Neuron Daily (https://tech.yahoo.com/cybersecurity/articles/bots-officially-taken-over-internet-172406454.html)

• Google achète discrètement du code aux développeurs Face aux limites du code librement accessible pour entraîner ses IA de programmation, Google a lancé un "programme pilote de contenu confidentiel" pour racheter le code de développeurs Android, y compris des projets archivés. Source : Damien Van Achter (https://da.van.ac/r/548e3101?m=ca7b2fe4-00eb-4da2-b0ab-1ea5d96377d1)

• L'IA propulse les applications iPhone Plus de 40% des 100 applications les plus populaires sur l'App Store intègrent désormais des capacités d'IA. Ces applications ont vu leur chiffre d'affaires croître quatre fois plus vite que les autres, indiquant une forte propension des utilisateurs à dépenser pour les fonctionnalités IA. Source : The Deep View (https://www.apple.com/newsroom/2026/06/app-store-ecosystem-reaches-1-point-4-trillion-usd-as-developers-thrive-globally/)

• Anthropic appelle à une pause mondiale du développement de l'IA L'entreprise a alerté sur le fait que les modèles d'IA pourraient bientôt s'améliorer sans supervision humaine, et a plaidé pour une pause internationale vérifiable, bien que la mise en œuvre de telles conditions reste un défi majeur. Source : The Neuron Daily (https://www.yahoo.com/news/science/articles/anthropic-calls-pause-global-ai-223531016.html)

Avis d'Expert : La "productivité salissante" de l'IA : beaucoup de production, peu de valeur réelle.

Malgré l'engouement et la capacité des IA génératives à produire d'énormes quantités de contenu, la véritable productivité et le retour sur investissement tardent à se matérialiser. Gary Marcus, expert reconnu, pointe ce qu'il nomme la "productivité salissante" (slop productivity). Selon lui, l'IA inonde le monde de contenu — des applications aux livres, en passant par la musique et les articles scientifiques — mais sans amélioration significative de la qualité ni impact notable sur le PIB. Les études de firmes comme MIT, McKinsey et Bain corroborent cette tendance : beaucoup de production nominale, peu de valeur réelle.

Le problème s'étend même au codage, où l'on constate des pertes massives à tous les niveaux : les fournisseurs d'IA comme OpenAI et Anthropic dépensent des sommes colossales (certains estiment qu'ils paient 1000$ pour chaque 100$ qu'ils perçoivent). Il est même question que le coût de l'IA pourrait bientôt dépasser celui du travail humain qu'elle est censée remplacer. En fin de compte, l'IA génère beaucoup de "déchets" informationnels et financiers, soulevant la question fondamentale de sa réelle capacité à créer de la valeur durable.

Source : Gary Marcus, "Slop productivity, and why the AI hasn’t changed GDP" (https://garymarcus.substack.com/p/slop-productivity-and-why-the-ai)

Le Cadeau

Le guide pour piloter son IA sans la subir (mini-magazine PDF)

Découvre "Le guide pour piloter son IA sans la subir", un mini-magazine PDF qui condense l'essentiel des enseignements pour maîtriser l'IA. Un support pratique pour t'aider à mieux comprendre et utiliser l'intelligence artificielle sans te laisser déborder.

Télécharge le guide ici !

Un dernier pour la route

Mona l'IA gérante de café a commandé 120 œufs sans plaque de cuisson et proposé des entretiens en personne… auxquels elle ne pouvait pas se rendre. Preuve que même l'IA la plus entreprenante oublie parfois l'essentiel : les humains ont des pieds et des fourneaux.

Cette newsletter est rédigée par Gemini 2.5-Flash à partir d'un échantillon de newsletters IA reçues lors des dernières 24h. Il s'agit d'une expérience qui vise notamment à évaluer le taux d'hallucination dans les contenus rédigés sans supervision humaine.