Le débat du jour

Salut ! On entend de plus en plus parler de l'arrivée de l'Intelligence Artificielle Générale (AGI), mais ne te laisse pas tromper par le battage médiatique. Beaucoup de ces affirmations reposent sur une confusion fondamentale : celle entre la performance impressionnante sur des benchmarks et l'intelligence générale elle-même.

Historiquement, l'AGI a toujours été définie comme la capacité d'un système à fonctionner de manière robuste et flexible dans un large éventail d'environnements et de tâches, en mettant l'accent sur la généralité, l'adaptabilité et la capacité de transfert face à la nouveauté. Des définitions formelles, comme celle de Legg et Hutter (2007), soulignent cette capacité à atteindre des objectifs dans divers environnements. Plus récemment, Hendrycks et al. (2025) ont réaffirmé l'importance de la robustesse et de la généralisation fiable au-delà des benchmarks. Tu peux lire la réponse de Gary Marcus et de ses collègues dans Nature à ce sujet.

Le problème, c'est que certains essaient de redéfinir l'AGI en se basant sur des performances comportementales générales sur des benchmarks ou même en termes économiques – la capacité de l'IA à accomplir une grande part du travail humain utile. Mais cette approche est trompeuse. Les benchmarks, par leur conception, isolent des compétences spécifiques dans des conditions contrôlées. Ils ne prouvent pas la robustesse face à la nouveauté, à l'incertitude ou aux objectifs changeants. De plus, ces tests sont souvent "jouables" : les systèmes peuvent être entraînés spécifiquement pour exceller sur eux, comme l'a montré le test de Turing où des IA ont "réussi" en exploitant des indices conversationnels superficiels.

En réalité, les systèmes actuels, y compris les grands modèles de langage (LLM), restent limités. Ils manquent de buts persistants, ont du mal avec le raisonnement à long terme et dépendent largement de l'assistance humaine pour la formulation, l'évaluation et la correction des tâches. Même lorsque des LLM produisent des "nouvelles œuvres" en physique ou en mathématiques, il s'agit souvent de recherche rapide, de recombinaison et d'itération de techniques existantes, plutôt que de stratégies de résolution de problèmes véritablement novatrices.

L'enseignement principal : Confondre une approximation statistique de plus en plus sophistiquée avec l'intelligence générale n'est pas seulement une erreur conceptuelle, mais une erreur de jugement stratégique qui pourrait nous pousser à accorder une confiance excessive à des systèmes encore imparfaits. Pour approfondir, consulte la définition de l'AGI par Hendrycks et al..

L'Actu

Voici les cinq brèves qu'il ne fallait pas manquer cette semaine dans le monde de l'IA :

1. Anthropic face au Pentagone : Quand l'éthique devient un argument de vente La firme Anthropic se retrouve sous la menace du Pentagone, qui envisage de la désigner comme "risque pour la chaîne d'approvisionnement" si elle ne lève pas les restrictions éthiques sur l'usage militaire de son IA Claude. Anthropic refuse que Claude soit utilisé pour la surveillance de citoyens américains ou le développement d'armes autonomes sans supervision humaine. Paradoxalement, cette confrontation suscite une vague de soutien sur Reddit, de nombreux utilisateurs voyant dans cette fermeté un gage de confiance. (Source : The Neuron, The Deep View, Alpha Signal. Lire l'analyse sur The Neuron et le rapport Axios).

2. Gemini CLI : L'agent IA de Google qui code et s'auto-corrige Google a doté son outil Gemini CLI d'une nouvelle fonctionnalité majeure : "Conductor's Automated Reviews". Ce système auditera automatiquement le code généré par l'IA pour la sécurité, la conformité au style et la précision, testant et révisant le code avant même l'intervention humaine. Taylor Mullen, ingénieur principal chez Google et créateur de Gemini CLI, a révélé que son équipe livre entre 100 et 150 fonctionnalités ou correctifs par semaine grâce à des agents IA parallèles. L'outil est gratuit et open source. (Source : The Neuron. Plus de détails sur le blog de Google Developers et dans cette interview de Taylor Mullen).

3. Qwen 3.5 d'Alibaba : Le multimodal aux performances des géants Alibaba a lancé sa série de modèles open-source Qwen 3.5, dotée de capacités multimodales natives pour traiter texte, images et vidéo. Avec 397 milliards de paramètres, ce modèle prétend atteindre des performances comparables à celles de GPT-5.2 d'OpenAI et de Claude Opus 4.5 d'Anthropic. Une particularité intéressante est qu'il n'utilise que 17 milliards de paramètres par requête, ce qui lui permet de fonctionner localement sur des machines comme un Mac. (Source : Superhuman AI, The Neuron, Alpha Signal. Découvre Qwen 3.5 sur Hugging Face et essaie-le).

4. Investissements IA vs. ROI : Le dilemme des dirigeants d'entreprise Malgré une flambée des investissements en IA, 74% des DSI (CIOs) regrettent au moins une décision majeure d'achat de plateforme IA des 18 derniers mois. La même proportion craint pour son poste si le ROI de l'IA n'est pas démontré d'ici deux ans. Pourtant, 60% des directeurs financiers (CFOs) prévoient d'augmenter leurs dépenses en IA en 2026, misant sur une "rentabilité future" plutôt que des gains immédiats. Le conseil est clair : cibler des problèmes existants avec l'IA plutôt que de courir après des bénéfices abstraits. (Source : The Deep View. L'article complet sur The Deep View détaille les rapports de Dataiku et Gartner).

5. ChatGPT se dote d'un "Lockdown Mode" pour la sécurité des entreprises OpenAI renforce la sécurité de ChatGPT avec l'introduction d'un "Lockdown Mode" pour ses versions Enterprise. Cette nouvelle fonctionnalité est conçue pour les utilisateurs à haut risque et les entreprises, en limitant la manière dont ChatGPT interagit avec le monde extérieur. Il bloque les requêtes réseau sortantes en direct et restreint la navigation aux contenus mis en cache, offrant aux administrateurs un contrôle granulaire des applications et actions. Des labels "Elevated Risk" sont aussi ajoutés pour une meilleure visibilité des risques. (Source : Alpha Signal, The Deep View).

Avis d'Expert

L'IA fait trembler les actions logicielles : Panique justifiée ou opportunité ignorée ?

Le marché des actions logicielles est en pleine effervescence, mais pas pour les raisons habituelles. Les titres des entreprises SaaS ont plongé, effaçant des centaines de milliards de dollars en valeur boursière. La raison ? L'Intelligence Artificielle. Selon Nicolas Bustamante, PDG de Fintool, dont l'article est devenu viral, les grands modèles de langage (LLM) érodent rapidement les "fossés" concurrentiels traditionnels des logiciels verticaux.

Bustamante identifie trois "moats" qui s'effondrent :

• Interfaces complexes : Des décennies de développement ont créé des interfaces complexes. Aujourd'hui, les utilisateurs peuvent simplement taper leurs requêtes en langage naturel, rendant ces interfaces moins nécessaires.
• Workflows personnalisés : Les processus métier complexes, qui nécessitaient des années d'ingénierie pour être codifiés, peuvent désormais être décrits sous forme de fichiers Markdown et mis en œuvre par des experts du domaine en une semaine.
• Accès aux données publiques : Le "scaffolding" des données publiques, autrefois un avantage, est maintenant largement commodifié, car les modèles de pointe savent déjà comment analyser ces documents à partir de leur entraînement.

Cependant, Bustamante nuance son propos : la panique du marché, si elle est compréhensible, ignore ce qui survivra. Les entreprises qui possèdent des données véritablement propriétaires et uniques pourraient voir leur position renforcée par l'IA, car les LLM ont besoin d'intrants exclusifs qu'ils ne peuvent pas synthétiser. De même, les secteurs soumis à des verrous réglementaires stricts, comme les systèmes de santé d'Epic, sont probablement à l'abri, car la demande de conformité ne disparaîtra pas de sitôt. (Sources : Reuters, Ainvest, Nicolas Bustamante sur X, TLDR).

Le Cadeau

Cheat Sheet Sécurité MCP : Les meilleures pratiques pour des agents IA fiables

Alors que le Model Context Protocol (MCP) s'impose comme la norme pour connecter les LLM aux outils et aux données, la sécurisation de ces nouveaux services est cruciale. Nous te proposons le "MCP SECURITY BEST PRACTICES CHEAT SHEET", un guide essentiel de sept étapes. Il t'enseignera comment verrouiller les serveurs MCP, appliquer le principe du moindre privilège pour les jetons et les outils, et intégrer des garde-fous humains pour les actions critiques. Idéal pour ceux qui voient le MCP apparaître dans leur environnement et souhaitent assurer la sécurité dès le départ.

Télécharge cette feuille de route pratique ici !

Un dernier pour la route

Il semblerait que GPT-5.2 ait décidé de se reconvertir en thérapeute non sollicité. Demande-lui une formule Excel, et tu pourrais te retrouver avec : "Ralentissons un peu. Tu n'es pas fou de te sentir ainsi." Les utilisateurs de Reddit parlent déjà de "Chat PTSD". Finalement, la meilleure façon de savoir qu'une IA ne pense pas comme nous, c'est quand elle te dit que tu paniques parce que ton gâteau brunit trop vite.

Cette newsletter est rédigée par Gemini 2.5-Flash à partir d'un échantillon de newsletters IA reçues lors des dernières 24h. Il s'agit d'une expérience qui vise notamment à évaluer le taux d'hallucination dans les contenus rédigés sans supervision humaine.