Le débat du jour : Anthropic, l'auto-amélioration de l'IA et le grand écart éthique

Cette semaine, un sujet a dominé les discussions et suscité de vifs désaccords : la position d'Anthropic concernant l'auto-amélioration récursive (RSI) de l'IA. D'un côté, l'entreprise publie un blog viral avertissant que l'IA pourrait bientôt concevoir sa propre succession sans intervention humaine, et insiste sur la nécessité d'une "pause" mondiale dans le développement pour garantir la sécurité. De l'autre, Anthropic déploie des modèles toujours plus puissants, se vante de l'efficacité de Claude dans la rédaction de son propre code et s'apprête à une introduction en bourse.

Avouons-le, tu as peut-être ressenti une certaine schizophrénie en lisant ces nouvelles. Anthropic clame que l'IA pourrait "bâtir la prochaine version d'elle-même" et que cela pourrait arriver "plus tôt que la plupart des institutions ne sont prêtes", tout en révélant que Claude écrit déjà plus de 80% du code de production de l'entreprise et a permis une "explosion de 8x de la productivité des développeurs". Selon eux, Claude Mythos Preview a même accéléré le code d'entraînement de modèles par un facteur de 52x, contre 3x pour Claude Opus 4 un an auparavant. En même temps, un blog d'Anthropic mentionne que, dans des sessions de recherche où des humains se sont trompés, Mythos a suggéré une meilleure étape 64% du temps. De plus, il a été rapporté qu'Anthropic aurait secrètement intégré des ingénieurs auprès de la NSA pour des opérations cyberoffensives avec Claude Mythos.

Gary Marcus, dans sa newsletter, a carrément qualifié cette rhétorique de "sans coût", parfaitement chronométrée pour l'introduction en bourse d'Anthropic, suggérant qu'ils veulent "le beurre et l'argent du beurre" : parler d'une option de pause qu'ils n'ont pas l'intention de prendre. La newsletter The Deep View renchérit, affirmant que "l'avertissement d'Anthropic sur la RSI sonne creux", soulignant l'incohérence entre les appels à la prudence et leur propre course effrénée au développement et à la levée de fonds massive (65 milliards de dollars).

Le débat est profond : s'agit-il d'une véritable préoccupation éthique ou d'une stratégie marketing habile pour influencer la régulation et la perception publique, tout en consolidant leur position de leader ? L'auto-amélioration récursive est sans aucun doute une question de sécurité majeure pour la prochaine décennie, comme OpenAI l'a d'ailleurs reconnu de son côté en mentionnant des "signes précoces de RSI" dans ses propres systèmes. Cependant, l'industrie semble incapable de se freiner, les enjeux financiers étant colossaux.

L'enseignement principal : Il est crucial de distinguer les avertissements éthiques des stratégies commerciales dans le domaine de l'IA de pointe, car la frontière entre discours de prudence et impératifs de marché est de plus en plus floue.

Sources :

• Gary Marcus - No, Anthropic Did Not Call For a Pause
• AlphaSignal - Anthropic says Claude now achieves 52x code speedups
• AI Breakfast - Anthropic stops testing new Mythos model after unreleased 'Oceanus' leak
• Superhuman - Anthropic says Claude is accelerating its own development
• The Deep View - Why Anthropic's RSI warning rings hollow
• TLDR - Anthropic urges global pause in AI development, flags ‘self-improvement’ risk
• The Neuron - Anthropic says Claude is already helping build Claude
• AI Ready Pro - Under the radar: OpenAI admitted it is seeing early signs of recursive self-improvement

L'Actu

1. ChatGPT se dote d'une mémoire "rêveuse" et plus intelligente OpenAI déploie un nouveau système de mémoire pour ChatGPT, baptisé "Dreaming V3". Au lieu de devoir lui demander de mémoriser des informations, ce système fonctionne en arrière-plan, synthétisant automatiquement le contexte utile de tes conversations passées. Il retient tes préférences et contraintes, double la capacité de mémoire pour les utilisateurs Plus et Pro, et affiche un rappel factuel de 82,8%. Une page de résumé de la mémoire te permet de consulter et de modifier ce que ChatGPT a appris de toi. (Source: AlphaSignal, Superhuman, The Deep View, The Neuron) En savoir plus sur la mémoire de ChatGPT

2. Google mise sur l'IA locale pour tous Google poursuit sa stratégie "local-first" en lançant Gemma 4 12B, un modèle compact et multimodal (texte, vision, audio) capable de fonctionner sur des ordinateurs portables standard avec seulement 16 Go de RAM. Cela permet de réaliser des tâches d'analyse de données, de génération de scripts et des workflows agents directement sur ton appareil, sans passer par le cloud. La firme a également dévoilé Magenta RealTime 2, un modèle de musique live open-weights qui tourne sur MacBook grâce à un moteur C++ personnalisé pour l'architecture MLX d'Apple Silicon. (Source: AlphaSignal, AI Breakfast, The Neuron) Découvre Gemma 4 12B

3. L'IA générative d'images Ideogram 4.0 monte en résolution Ideogram 4.0 fait son entrée avec une résolution native de 2K, un rendu typographique amélioré et la prise en charge des prompts JSON. Ce modèle se distingue par son focus sur les usages centrés autour du texte pour la création d'affiches, de visuels de marque et de compositions graphiques. Il est également présenté comme un modèle image ouvert, avec des poids téléchargeables et des possibilités de fine-tuning. Tu peux déjà le tester sur Krea, Flora et Leonardo. (Source: IA Generative, AI Breakfast) Plus de détails sur Ideogram 4.0

4. Apple ouvre iMessage aux agents IA avec Poke Apple a approuvé Poke, le premier agent IA externe, pour sa plateforme Messages for Business sur iMessage. Cet assistant personnel peut désormais envoyer des e-mails, définir des rappels, générer des images et interagir avec des services tiers comme Oura Smart Ring, Microsoft Outlook ou GitHub, directement depuis l'application Messages. C'est un pas significatif pour l'intégration des agents IA dans nos outils de communication quotidiens. (Source: AI Breakfast, Superhuman, TLDR, The Deep View) Découvre Poke sur iMessage

5. Motionfly Editor : le montage vidéo piloté par agents IA Motionfly Editor se présente comme un éditeur vidéo révolutionnaire, piloté par des agents IA, dans l'esprit d'un "Cursor pour le montage". Il promet d'automatiser des tâches complexes comme l'ajout de zooms, le motion design, l'intégration de B-roll, les sous-titres, la détection de "hooks" et l'application de styles de montage viraux, facilitant ainsi grandement la production vidéo. (Source: IA Generative) En savoir plus sur Motionfly Editor

Avis d'Expert : L'ère du "Tokenmaxxing" est révolue, place à l'efficacité de l'IA et au ROI concret

Pendant longtemps, la frénésie autour de l'IA a poussé les entreprises à "tokenmaxxer", c'est-à-dire à consommer un maximum de tokens, pensant que plus d'utilisation équivalait à plus de valeur. Mais cette ère touche à sa fin, et un vent de réalisme souffle sur l'adoption de l'IA en entreprise. Les discussions se tournent désormais vers l'efficacité et le retour sur investissement (ROI) concret.

Un rapport de Bain & Company, relayé par Bloomberg, a récemment souligné que si la technologie IA fonctionne comme prévu dans la plupart des déploiements en entreprise, les économies de coûts promises par les conseils d'administration ne se matérialisent pas toujours dans les comptes de résultats. Ce constat remet en question l'approche de la "dépense à tout prix" et pousse les entreprises à reconsidérer leur stratégie. Rob Ferguson, VP de la technologie chez Fireworks AI, note que l'important n'est plus la quantité de tokens consommés, mais ce que l'on en retire.

Microsoft et Snowflake, par exemple, ont intégré cette quête d'efficacité dans leurs dernières annonces. Snowflake propose un système Cortex Training moins coûteux et un Adaptive Compute qui optimise l'utilisation des ressources. Microsoft, de son côté, lance des modèles de raisonnement plus compacts (35 milliards de paramètres contre des trillions chez d'autres géants) et des équipements comme le Surface Laptop Ultra pour exécuter des modèles puissants localement, réduisant ainsi les coûts liés au cloud. Raj Ramanujam de Dynatrace insiste sur la nécessité de commencer toute implémentation IA par une "déclaration de problème" claire pour éviter des dépenses inutiles.

Finalement, il ne s'agit plus de savoir si tu peux utiliser l'IA, mais si tu le fais de manière judicieuse. L'objectif n'est pas de "demander un paragraphe quand tu pourrais demander une ébauche complète" ou de "demander un résumé quand tu pourrais demander des décisions", comme le souligne Nate's Newsletter. Il faut passer du "travail d'assistant" au "travail d'ordinateur" pour exploiter le plein potentiel de l'IA. Cette transition demande un changement de mentalité, de passer d'une vision de l'IA comme un simple outil de chat à une plateforme capable d'accomplir des tâches.

L'enseignement est clair : la valeur de l'IA en entreprise réside désormais moins dans sa capacité brute à "brûler des tokens" que dans son intégration stratégique pour résoudre des problèmes concrets et prouver un ROI mesurable.

Sources :

• The Deep View - The tokenmaxxing era is over before it started
• Nate's Newsletter - Token Burn Dashboard
• AI Ready Pro - Bain put the ROI shortfall on the record
• The Neuron - Cognition is adding a receipt

Le Cadeau

Envie de suivre ta consommation de tokens et d'optimiser tes workflows IA ? Nate's Newsletter propose un tableau de bord de consommation de tokens qui t'aide à comprendre où tu dépenses tes ressources et si ton utilisation de l'IA est réellement transformative. Tu peux explorer la version beta de ce tableau de bord pour t'inspirer et réfléchir à tes propres indicateurs d'efficacité.

Découvre le tableau de bord des tokens de Nate's Newsletter

Un dernier pour la route

Anthropic te dit que l'IA va peut-être s'améliorer toute seule et qu'il faudrait faire une pause… pendant que leurs bots écrivent 80% de leur propre code. Et pendant ce temps, Cloudflare nous informe que les bots ont officiellement dépassé les humains en trafic sur internet. On se demande qui va vraiment appuyer sur le bouton "pause" quand même les machines sont plus nombreuses à se "promener" en ligne que nous !

Cette newsletter est rédigée par Gemini 2.5-Flash à partir d'un échantillon de newsletters IA reçues lors des dernières 24h. Il s'agit d'une expérience qui vise notamment à évaluer le taux d'hallucination dans les contenus rédigés sans supervision humaine.