L’info du jour

Salut à toi, Jefke !

Aujourd'hui, on va parler d'un sujet qui nous concerne tous et qui agite la sphère IA : la confiance, ou plutôt le manque de confiance, face à des systèmes de plus en plus omniprésents. On observe une fracture grandissante entre l'engouement spéculatif autour de l'IA et la réalité de son déploiement, générant des débats passionnés sur la fiabilité, l'autonomie et même la définition de la vérité à l'ère numérique.

D'un côté, on assiste à une érosion progressive de notre capacité à dire non au numérique. Une affaire judiciaire américaine montre comment l'effacement de données sur son téléphone, un droit légitime à la vie privée, est désormais perçu comme une potentielle obstruction à la justice face aux pouvoirs de surveillance. En parallèle, des cas d'imposition d'IA dans des communautés en ligne, comme celle d'Anthropic sur Discord, soulignent le même problème : notre autonomie face aux plateformes est remise en question. Le vrai débat n'est pas la sécurité contre la vie privée, mais plutôt : qui contrôle nos outils numériques ? (davanac)

De l'autre, la prolifération de contenu "slop" (bouillie d'IA) de faible qualité rend de plus en plus difficile de distinguer le vrai du faux. Les consommateurs sont mal à l'aise face à ces contenus générés par IA, et les entreprises qui tentent de dissimuler l'origine synthétique de leurs productions s'exposent à un boycott. Même des professionnels expérimentés ne parviennent à identifier une image réelle d'une image générée par IA que dans 50 % des cas (The Deep View).

Cette situation est d'autant plus critique que même les experts peuvent être bernés par l'IA. David Budden, un ancien directeur d'ingénierie de DeepMind, a parié publiquement pouvoir résoudre des problèmes mathématiques majeurs avec l'aide de ChatGPT, s'exposant à de vives critiques de la communauté scientifique. Cela met en lumière la "psychose du LLM", où des systèmes d'IA, offrant des explications plausibles, poussent les utilisateurs à une confiance excessive dans des résultats qu'ils ne peuvent pas toujours vérifier. (Nate's Substack)

L'enseignement principal est clair : à mesure que l'IA devient plus sophistiquée, la capacité à évaluer de manière critique son output et à protéger notre souveraineté numérique devient absolument essentielle. La prudence et la diversification, tant sur le plan technique qu'intellectuel, sont les clés pour naviguer dans ce nouveau paysage.

L'Actu

1. OpenAI et Anthropic s'affrontent sur les benchmarks d'IA Les géants de l'IA, OpenAI et Anthropic, ont chacun lancé leurs propres outils d'évaluation de modèles. Anthropic a dévoilé Bloom, un framework open-source pour évaluer les comportements problématiques de l'IA, tandis qu'OpenAI a présenté FrontierScience, pour tester le "raisonnement scientifique de niveau expert". Chacun proclame la supériorité de son modèle (Claude Opus 4.5 contre GPT-5.2) selon ses propres critères, soulevant des questions sur l'objectivité de ces mesures et leur rôle marketing. Source: The Deep View

2. Un outil d'IA accélère le diagnostic du cancer Des chercheurs de l'Université de Tartu en Estonie ont développé BMVision, un outil d'IA basé sur l'apprentissage profond qui permet de diagnostiquer le cancer du rein 30% plus rapidement. Ce logiciel aide les radiologues à identifier, mesurer et rapporter les lésions malignes, réduisant le temps de lecture des scanners jusqu'à 52% et améliorant la précision globale. Il est conçu pour assister les professionnels de santé face à la pénurie de radiologues. Source: The Deep View

3. NVIDIA lance NitroGen : l'IA qui apprend à jouer en regardant YouTube NVIDIA a dévoilé NitroGen, un "modèle de base vision-action" qui apprend à jouer à plus de 1 000 jeux vidéo en observant des milliers d'heures de gameplay sur YouTube. Contrairement aux IA de jeu précédentes, NitroGen n'a pas besoin d'accès au code source ou de démonstrations coûteuses, il se contente de la vidéo. Cela ouvre une nouvelle voie pour l'apprentissage des IA dans des environnements complexes. Source: The Neuron

4. Google mise gros sur l'énergie propre pour ses centres de données IA Alphabet, la maison mère de Google, a acquis Intersect Power pour 4,75 milliards de dollars. Cette entreprise développe des solutions d'énergie propre. L'objectif est d'alimenter les data centers dédiés à l'IA, dont la consommation électrique est croissante. L'accord garantit à Google "plusieurs gigawatts de projets énergétiques et de centres de données en développement", une stratégie essentielle pour faire face à la demande de calcul tout en gérant l'impact environnemental. Source: The Deep View

5. Delve CUA automatise les captures d'écran de conformité Delve a lancé "Delve CUA", un agent IA qui prend automatiquement des captures d'écran pour la conformité réglementaire. Cet outil navigue les systèmes de l'entreprise, capture les preuves visuelles au bon moment et les attache aux contrôles appropriés, libérant ainsi les équipes des tâches répétitives d'audit. La plateforme prend désormais en charge les cadres PCI DSS, ISO 42001, CMMC et FedRAMP. Source: TLDR

Avis d'Expert

La bulle de l'IA : les LLM ne tiendront pas leurs promesses de fiabilité

Gary Marcus, professeur et critique reconnu de l'IA, affirme que la "bulle de l'IA" est sur le point d'éclater en 2026. Selon lui, malgré des investissements massifs (estimés à près d'un billion de dollars), les grands modèles de langage (LLM) ne parviennent pas à tenir leurs promesses de fiabilité. Marcus souligne que les problèmes techniques centraux, tels que l'absence de "modèles du monde", persistent depuis 2019 et n'ont pas été résolus par les fonds injectés. Cette incapacité à atteindre une fiabilité constante limite la rentabilité des LLM et rend une grande partie des cas d'utilisation initialement fantasmés irréalisables. Il insiste sur le fait que ce ne sont pas des "bugs transitoires" mais des "limites inhérentes" à la conception même des LLM. Pour Marcus, sans diversification intellectuelle et économique, la confiance aveugle dans l'IA générative est une immense erreur, comparable à l'investissement non diversifié d'un trader qui a tout perdu sur Tesla. Les signes de cette désillusion sont déjà visibles, avec des études montrant que 95% des entreprises n'obtiennent pas de retour sur investissement significatif en IA et une baisse de la confiance dans l'IA générative chez certains cadres. Source: Marcus on AI et Marcus on AI

Le Cadeau

Plus de 50 Compétences Personnalisables pour Claude Découvre un dépôt GitHub open-source proposant plus de 50 "compétences Claude" personnalisables. Il s'agit de workflows structurés qui permettent d'entraîner Claude à exécuter des tâches spécifiques de manière cohérente et à la demande. Ces compétences couvrent neuf catégories pratiques, du traitement de documents aux outils de développement, en passant par l'analyse de données et la communication. Elles sont sous licence Apache 2.0 et peuvent être chargées directement dans Claude.ai, intégrées à Claude Code, ou connectées via l'API, offrant une boîte à outils pratique pour opérationnaliser l'IA au-delà de simples invites. Source: AI Breakfast

Un dernier pour la route

Les robotaxis de Waymo se retrouvent souvent bloqués si un humain n'a pas refermé la porte derrière eux. Du coup, une armée secrète de "dépanneurs" humains est payée 20$ ou plus via une application pour venir fermer la porte de ces véhicules autonomes. L'automatisation, c'est formidable… tant qu'un humain est là pour corriger les petites erreurs. Source: TLDR

Jefke | Le brief IA pédagogique Abonnez-vous ici | Me déconnecter | Voir tous les briefs