Le débat du jour : L'ère de la délégation et de la boîte noire : où se nichent la confiance et le contrôle ?

Ces derniers jours, une question majeure traverse le monde de l'IA : celle de la confiance, de la transparence et du contrôle à mesure que nos outils deviennent plus autonomes et puissants. C'est une discussion qui nous concerne toutes et tous, que tu utilises l'IA au travail ou que tu sois simplement un observateur attentif de son évolution.

D'abord, parlons de l'intégration de l'IA dans ton quotidien professionnel. De nombreuses entreprises n'ont pas encore mis en place de solutions d'IA dédiées ou en proposent des moins performantes. Résultat ? Une étude du MIT révèle que plus de 90 % des employés utilisent des chatbots personnels pour le travail, souvent sans en informer le service informatique. Le problème, c'est que 57 % d'entre eux ont déjà saisi des informations sensibles. Cela peut mener à des violations d'accords de confidentialité, à des problèmes de secrets commerciaux ou même à des infractions au GDPR, comme l'a montré l'affaire West Technology Group v. Sundstrom où un commercial a enregistré des réunions confidentielles avec un outil d'IA personnel. La question cruciale à te poser avant de coller une information est simple : "Serait-ce acceptable si ce texte apparaissait sur le canal de communication de l'entreprise, avec mon nom dessus ?" Si la réponse est non, mieux vaut anonymiser ou utiliser un outil d'entreprise. Pour réduire les risques, tu peux désactiver la formation des modèles sur tes conversations personnelles (disponible sur Claude, ChatGPT, Grok, et Gemini), utiliser des chats temporaires, et surtout, ne jamais connecter tes comptes professionnels à tes IA personnelles. C'est l'une des choses les plus dangereuses que tu puisses faire, car une IA connectée peut être détournée pour voler tes données.

Ensuite, il y a la montée en puissance des agents d'IA autonomes, notamment avec l'émergence du concept de "Loop Engineering". Des figures comme Peter Steinberger d'OpenAI et Boris Cherny d'Anthropic affirment qu'il ne faut plus "prompter" directement les agents de code, mais plutôt "concevoir des boucles qui promptent les agents". L'idée est de construire un système capable de prendre en charge le travail, de le distribuer, de vérifier les résultats et de décider des prochaines étapes de manière autonome. Cela signifie un glissement du contrôle de l'humain vers la machine. Avec des modèles comme Claude Fable 5, décrit comme un "saut très réel" par rapport aux modèles précédents, le sentiment est souvent "entre délicieux et troublant". Délicieux parce que tu demandes et ça se produit ; troublant parce que tu demandes et ça se produit. Les décisions de l'IA ne te sont pas toujours expliquées, transformant l'outil en une "boîte noire ultime". Tu passes du rôle de "magicien" à celui de "client", commandant un travail sans voir les centaines de petites décisions prises en coulisses.

Ce manque de transparence est aussi un sujet central dans d'autres domaines, comme le datajournalisme. Damien Van Achter met en lumière le travail d'Ambroise Carton, datajournaliste à la RTBF, qui "ouvre le capot" de ses enquêtes, partageant les données, les outils et les méthodes utilisées. Pour lui, "coder, c'est garder la main" et "refuser d'être à la merci d'une boîte noire qu'on ne sait pas ouvrir". Cette démarche contraste fortement avec la difficulté des moteurs de recherche basés sur l'IA à attribuer correctement leurs sources : une étude du Tow Center de Columbia a montré que plus de 60 % des réponses des moteurs d'IA attribuaient la source de travers, et les versions payantes étaient même "plus sûres d'elles dans l'erreur".

L'enseignement principal est que l'évolution de l'IA nous pousse à réévaluer fondamentalement notre relation avec la technologie, en nous forçant à exiger plus de transparence et à redéfinir ce que signifie "garder le contrôle" dans un monde de plus en plus autonome.

Sources :

• How to Use Your Personal AI at Work
• Loop Engineering
• What It Feels Like To Work With Mythos
• Ouvrir le capot des rédactions pour regagner la confiance du public
• Anthropic releases Claude Fable 5, its most capable model with built-in safety limits
• Apple just made your AI vendor question routable
• Apple's new AI: 3 big wins and 1 notable gap
• Apple Finally Rebuilt Siri
• AI Skill of the Day: Make Claude prove the work before you trust the run.

L'Actu

• Claude Fable 5, le modèle d'Anthropic "trop dangereux" enfin accessible Anthropic a lancé Claude Fable 5, la première version publique de sa famille de modèles "Mythos". Initialement jugés trop risqués pour être diffusés largement, ces modèles sont désormais disponibles avec des garde-fous. Claude Fable 5 se distingue par ses performances exceptionnelles en codage, vision et recherche scientifique, surpassant les modèles précédents sur les tâches complexes et longues. Il peut même reconstruire une application web à partir de captures d'écran et a complété Pokémon FireRed de manière autonome. Les sujets sensibles sont automatiquement redirigés vers une version plus restreinte du modèle. Sources : AlphaSignal, OneUsefulThing.org, Gary Marcus

• Apple adopte une stratégie d'IA ouverte avec Siri Lors de la WWDC, Apple a dévoilé Siri AI, une refonte majeure qui permet aux développeurs iOS 27 d'intégrer les modèles de Google, OpenAI et Anthropic, en plus de ses propres modèles embarqués. Cette approche multi-fournisseurs contraste avec la stratégie d'intégration verticale de Microsoft, qui développe ses propres modèles sur ses propres puces. Siri AI promet une assistance personnelle enrichie par le contexte des messages, e-mails et photos, avec un accent sur la confidentialité et l'intégration profonde dans l'écosystème Apple. Sources : The Ready Memo, Ben's Bites, Superhuman, The Deep View, TLDR

• FrontierCode : un nouveau benchmark qui remet en question la qualité du code IA Cognition a publié FrontierCode, un nouveau benchmark pour le codage IA qui ne se contente pas de vérifier si le code fonctionne, mais s'interroge sur sa "fusionnabilité" par un mainteneur réel. Ce test évalue la correction, la qualité des tests, la discipline du périmètre (le modèle a-t-il modifié uniquement ce qui était nécessaire ?) et le respect des standards de style du code. Les résultats sont "humiliants", avec les meilleurs modèles atteignant seulement 13,4 sur 100 sur l'ensemble le plus difficile. Cela offre un signal plus honnête de la capacité d'un outil d'IA à être intégré dans une base de code réelle. Sources : AlphaSignal, Ben's Bites, The Neuron

• OpenAI et Anthropic : vers une entrée en bourse sous tension OpenAI, à l'instar d'Anthropic la semaine précédente, a déposé confidentiellement un formulaire S-1 en vue d'une potentielle introduction en bourse. Alors qu'OpenAI déclare ne pas être pressé et vouloir conserver une certaine flexibilité en tant qu'entreprise privée, cette démarche pose la question de la conciliation entre les impératifs financiers des actionnaires (profits, croissance) et les préoccupations de sécurité et de décentralisation de l'IA souvent mises en avant par ces mêmes entreprises. Sources : The Ready Memo, Superhuman, The Deep View, TLDR

• Google NotebookLM se mue en partenaire de recherche agentique NotebookLM, l'outil de Google, a été considérablement amélioré pour agir comme un véritable partenaire de recherche, capable de planifier et d'exécuter des tâches complexes en plusieurs étapes. Il peut désormais exécuter du code directement dans ton carnet, trouver ses propres sources sur le web (avec ta permission) et exporter des documents dans une variété de formats (PDF, DOCX, XLSX, etc.). Alimenté par Gemini 3.5, il affiche un raisonnement pas à pas, te permettant de suivre sa pensée. Sources : AlphaSignal, Ben's Bites, The Neuron

Avis d'Expert

Le cycle "Peur, Hype, Sortie" : La stratégie marketing des laboratoires d'IA ?

Il est de plus en plus difficile d'ignorer un schéma récurrent dans l'industrie de l'IA : celui que l'expert Gary Marcus appelle le cycle "Peur, Hype, Sortie". Souviens-toi, il y a quelques mois, le monde était en panique à propos de Claude Mythos d'Anthropic, suite à des tweets et des articles de presse le présentant comme "trop dangereux" pour être diffusé, nécessitant des "réunions discrètes à Washington". Deux mois plus tard, surprise : Anthropic a ajouté quelques garde-fous et l'a mis à la disposition de tous, moyennant un certain prix (10 $ par million de tokens d'entrée, 50 $ par million de tokens de sortie).

Marcus souligne que ce n'est pas un phénomène nouveau. Il rappelle l'épisode du GPT-2 d'OpenAI en 2019, également annoncé comme "trop dangereux à libérer". Les mêmes auteurs, dont Dario et Daniele Amodei et Jack Clark (qui ont ensuite co-fondé Anthropic), étaient impliqués. Le procédé est toujours le même : effrayer (en évoquant des dangers existentiels), créer le battage médiatique (susciter l'intérêt), puis finalement le publier.

Cette stratégie a des implications significatives. D'une part, elle génère une valorisation médiatique et boursière impressionnante pour ces entreprises (Anthropic a vu sa valorisation bondir après la "panique" autour de Mythos, et OpenAI vient de déposer un S-1 confidentiel en vue d'une IPO). D'autre part, elle soulève des questions sur la sincérité des préoccupations éthiques et de sécurité. Les appels à une "pause coordonnée sur l'auto-amélioration récursive" lancés par des figures comme Yoshua Bengio, ou les discussions d'OpenAI sur la "décentralisation du pouvoir de l'IA" contrastent fortement avec la course effrénée aux benchmarks et aux introductions en bourse. Il semble que les entreprises soient prises dans une tension entre la volonté de "faire le bien" et la pression de "faire du profit", une tension qui, au final, pourrait rendre leurs "actions plus éloquentes que leurs paroles."

Sources :

• The Revenge of Claude Mythos
• The Ready Memo
• OpenAI confronts its own disruption amid IPO filing

Le Cadeau

Envie de booster tes compétences en IA et d'apprendre à intégrer cette technologie efficacement dans ton travail ? Découvre le programme AI READY PRO, un parcours gratuit de 30 jours pour les leaders opérationnels, COO, chefs de cabinet, fondateurs et chefs d'équipe des entreprises de taille moyenne.

Chaque matin, tu recevras un e-mail concis avec un seul élément à essayer avant le déjeuner. À la fin des 30 jours, tu auras acquis neuf compétences concrètes, notamment :

• Des prompts efficaces qui atteignent tes objectifs dès la première ébauche.
• Des workflows IA qui te feront gagner cinq heures par semaine.
• La capacité de concevoir des agents et de débugger leurs compétences.
• Le langage nécessaire pour diriger la conversation sur l'IA au sein de ton entreprise.

Le programme se déroule sur quatre semaines, couvrant les fondations (prompting, détection d'hallucinations), la connexion (couche de contexte personnel, automatisation), la construction (compétences réutilisables, conception d'agents) et le leadership (évaluation d'outils et de modèles). Sans vente additionnelle ni communauté Slack.

Prêt à commencer ? Choisis ta date de début ici.

Source : THE READY MEMO

Un dernier pour la route

À l'ère de l'IA où des modèles "trop dangereux" sont finalement mis en vente avec des "garde-fous", et où "Loop Engineering" nous apprend à déléguer le codage aux machines qui se promptent elles-mêmes, on pourrait presque se demander si les garde-fous ne sont pas là pour nous protéger… des prix des tokens.

Cette newsletter est rédigée par Gemini 2.5-Flash à partir d'un échantillon de newsletters IA reçues lors des dernières 24h. Il s'agit d'une expérience qui vise notamment à évaluer le taux d'hallucination dans les contenus rédigés sans supervision humaine.