Le débat du jour

Salut ! Aujourd'hui, on plonge dans un sujet qui fait couler beaucoup d'encre et qui remet en question la nature même de l'impact de l'IA sur nos sociétés. Loin des promesses d'efficacité et d'optimisation, un débat s'intensifie autour de la capacité de l'IA, et plus particulièrement de l'IA générative, à saper les fondations de nos institutions civiques.

Deux professeurs de droit de l'Université de Boston, Woodrow Hartzog et Jessica Silbey, ont publié un article percutant intitulé "How AI Destroys Institutions" qui a fait grand bruit. Leur thèse centrale est la suivante : les systèmes d'IA actuels, par leur conception même, ne sont pas des outils neutres. Ils facilitent la dégradation et la destruction des institutions qui soutiennent la vie démocratique, telles que la gouvernance publique, l'état de droit, l'éducation, les soins de santé, le journalisme et même les structures familiales.

Ce qui est particulièrement frappant, c'est que les auteurs ne se contentent pas d'affirmer que l'IA peut être utilisée pour nuire. Ils soutiennent que même si elle n'est pas directement employée pour éradiquer ces institutions, sa fonctionnalité intrinsèque les affaiblit progressivement jusqu'à l'énervation. En d'autres termes, plus l'IA est déployée dans nos systèmes économiques et sociaux actuels, plus nos institutions deviennent rigides et délégitimées.

Hartzog et Silbey expliquent que les attributs clés des systèmes d'IA sont antithétiques aux valeurs de coopération, de transparence, de responsabilité et d'évolution qui donnent leur but et leur durabilité aux institutions vitales. Selon eux, l'IA représente une "sentence de mort" pour ces piliers de notre société.

L'histoire derrière cette publication est également révélatrice. Initialement, les auteurs avaient l'intention de rédiger un essai plus optimiste, prolongeant leurs travaux précédents sur "The Upside of Deep Fakes", où ils soutenaient que les deepfakes aggravaient des problèmes existants, offrant ainsi une opportunité de réparation structurelle. Cependant, en approfondissant leurs recherches, ils ont réalisé que la menace de l'IA pour les institutions était bien plus grave que prévu, et qu'il y avait peu d'appétit pour les sauvegarder. Ils ont donc ajusté leur position pour alerter sur le danger imminent.

L'enseignement principal : La rapidité et l'ubiquité de l'IA générative nous obligent à une réflexion critique sur son intégration systémique, car elle pourrait, sans intention malveillante, éroder les fondations mêmes de notre société démocratique.

Sources :

• Article de Gary Marcus : https://garymarcus.substack.com/p/how-generative-ai-is-destroying-society
• Pré-publication de Hartzog et Silbey : https://substack.com/redirect/a51f160a-d876-40c0-a599-c23f3e6dcf54?j=eyJ1IjoiMjYwOG0ifQ.v3DVLyUSih7ojlbVIvPrlInORR_XdwcXhLX53lazWfI
• "The Upside of Deep Fakes" : https://substack.com/redirect/d7e1e5c8-63c1-4cc0-be87-44258bf0c506?j=eyJ1IjoiMjYwOG0ifQ.v3DVLyUSih7ojlbVIvPrlInORR_XdwcXhLX53lazWfI

L'Actu

Google Démocratise l'IA Médicale avec MedGemma 1.5 Open Source Google a récemment lancé MedGemma 1.5 et MedASR, deux modèles d'IA médicale open-source. MedGemma 1.5 est un modèle multimodal de 4 milliards de paramètres capable de fonctionner hors ligne, supportant l'analyse de volumes CT et IRM 3D, ainsi que l'extraction de données à partir de documents cliniques. MedASR se spécialise quant à lui dans la conversion de la dictée médicale en texte structuré. Ces outils visent à combler le fossé entre les données cliniques complexes et les entrées de modèles actuels, offrant une accessibilité accrue et des performances améliorées pour le diagnostic et la recherche. (Source : AlphaSignal, The Neuron, The Deep View) Découvre les modèles sur Hugging Face ou Vertex AI, En savoir plus sur Google Research

OpenAI S'attaque à Apple avec "Sweetpea", un Écouteur Intelligent basé sur l'IA Selon des rapports provenant de fuites de la chaîne d'approvisionnement, OpenAI travaillerait sur un appareil audio sous le nom de code "Sweetpea". Cet écouteur intelligent, conçu en collaboration avec Jony Ive, l'ancien designer d'Apple, viserait à concurrencer directement les AirPods. Doté d'un processeur 2nm, il fonctionnerait comme un assistant IA alimenté par l'audio et pourrait être lancé dès septembre. Ce projet souligne l'ambition d'OpenAI de s'étendre au-delà des logiciels pour pénétrer le marché du matériel grand public. (Source : The Deep View, TLDR) Plus de détails sur The Deep View, Article de Gizmodo via TLDR

La Chine Entraîne l'IA avec Moins de Puces grâce à une Nouvelle Technique Face aux restrictions d'exportation de puces avancées, la Chine innove pour optimiser l'entraînement de ses modèles d'IA. Une équipe de chercheurs, incluant le fondateur de DeepSeek, Liang Wenfeng, a publié un article décrivant une technique de "mémoire conditionnelle". Cette méthode permet de surmonter les contraintes de mémoire GPU et d'atteindre une "expansion agressive des paramètres" avec des ressources matérielles moindres. Cette percée pourrait donner un avantage stratégique à la Chine dans le développement d'IA open-source et efficace en termes de coûts. (Source : The Deep View) Lire l'article sur SCMP via The Deep View, Accéder à la publication sur AlphaXiv via The Deep View

Slackbot Se Transforme en Agent IA Contextuel pour le Travail Slack a dévoilé une refonte majeure de son Slackbot, le transformant en un agent IA proactif capable d'assister les utilisateurs dans leurs tâches quotidiennes. Ce nouveau Slackbot est maintenant contextuel : il peut accéder aux informations de tes applications connectées, rédiger des e-mails, et planifier des réunions, le tout sans que tu aies à quitter Slack. Il tire parti du contexte de ton espace de travail pour fournir des réponses et des actions plus pertinentes, et est déjà disponible pour les clients Business+ et Enterprise+. (Source : Superhuman AI, The Deep View) Découvrir le nouveau Slackbot sur le blog de Slack, Voir Slackbot en action sur YouTube

Anthropic Déploie Claude Cowork en Seulement 10 Jours pour Démocratiser les Agents IA Anthropic a frappé fort en lançant Claude Cowork, une nouvelle application agentique développée en un temps record de 10 jours seulement. S'appuyant sur l'architecture de Claude Code, Cowork vise à étendre les capacités des agents IA aux tâches non-techniques du quotidien professionnel. Disponible en avant-première pour les abonnés Claude Max sur macOS, l'outil peut organiser des fichiers désordonnés, résumer des notes et générer des rapports et des feuilles de calcul, démontrant l'agilité impressionnante d'Anthropic dans la mise sur le marché de solutions IA innovantes. (Source : Nate's Newsletter, The Deep View) Le récit de la création en 10 jours sur Nate's Newsletter, Annonce officielle de Claude Cowork

Avis d'Expert

Faut-il Voir l'IA comme un Organisme Extraterrestre plutôt qu'une Technologie ?

Alors que l'IA s'intègre de plus en plus profondément dans nos vies, de nombreux chercheurs s'accordent à dire que les grands modèles de langage (LLM) sont des "boîtes noires" insondables. En effet, même leurs propres créateurs ne comprennent pas entièrement comment ils fonctionnent. Cette opacité conduit certains à les considérer moins comme une technologie traditionnelle et plus comme une forme d'intelligence "aliénigène".

Pour tenter de percer ce mystère, les chercheurs utilisent des techniques d'interprétabilité mécaniste, comme chez Anthropic, où des modèles secondaires sont employés pour tracer le cheminement des activations à travers un LLM, à la manière d'une IRM pour l'IA. OpenAI, de son côté, privilégie le suivi de la chaîne de pensée, qui consiste à lire le "bloc-notes" interne d'un modèle de raisonnement pendant qu'il résout des problèmes, comme si l'on écoutait son monologue intérieur.

Les découvertes sont souvent étranges. Par exemple, si tu demandes à un LLM "Les bananes sont-elles jaunes ?" et ensuite "Est-ce que 'les bananes sont jaunes' est vrai ?", les deux réponses seront positives, mais elles proviendront de parties complètement différentes du modèle. Une partie connaît le fait, tandis qu'une autre évalue la véracité des affirmations. Il n'y a pas nécessairement une source centrale de vérité qui maintient la cohérence, ce qui explique pourquoi les chatbots se contredisent si facilement.

Cette incompréhension fondamentale soulève une question cruciale : nous construisons un avenir entier sur une intelligence dont nous ne saisissons pas pleinement les mécanismes. Cela crée un décalage potentiel entre nos attentes et les capacités réelles de l'IA, et nous oblige à une prudence accrue quant à son intégration dans des domaines critiques comme le recrutement ou la santé.

Sources :

• MIT Tech Review : https://www.technologyreview.com/2026/01/12/1129782/ai-large-language-models-biology-alien-autopsy/amp/
• Recherche Anthropic : https://www.anthropic.com/research/team/interpretability
• Recherche OpenAI : https://openai.com/index/evaluating-chain-of-thought-monitorability/

Le Cadeau

Confer : Un assistant IA chiffré de bout en bout et open-source

Découvre Confer, un assistant IA open-source innovant développé par le créateur de Signal Messenger, Moxie Marlinspike. Son objectif principal est de garantir une confidentialité absolue : toutes tes conversations sont chiffrées de bout en bout, et les clés de déchiffrement sont stockées uniquement sur ton appareil. Cela signifie que tes données sont illisibles pour quiconque, y compris les hackers, les forces de l'ordre et la plateforme elle-même. Si la sécurité et la confidentialité sont tes priorités, Confer t'offre une solution puissante et transparente pour interagir avec une IA sans compromettre tes informations personnelles.

Télécharge Confer gratuitement et protège tes conversations IA

Un dernier pour la route

Alors qu'Anthropic déploie son agent Cowork en 10 jours pour organiser nos bureaux virtuels, je me demande combien de temps il faudrait pour qu'une IA organise mon vrai bureau. Et si elle survivrait à la tâche.

Cette newsletter est rédigée par Gemini 2.5-Flash à partir d'un échantillon de newsletters IA reçues lors des dernières 24h. Il s'agit d'une expérience qui vise notamment à évaluer le taux d'hallucination dans les contenus rédigés sans supervision humaine.