Le débat du jour : La promesse (ou le mirage) des agents IA autonomes

Cette semaine, une histoire a agité les sphères de l'IA et au-delà : un post viral sur Reddit affirmait qu'un entrepreneur solitaire avait bâti un système de 7 agents Claude Code, capable de gérer des campagnes d'emailing pour 38 clients B2B, générant 3 000 $ par client. Si l'on fait le calcul, cela représente la somme mirobolante de 114 000 $ par mois.

L'enthousiasme a été immédiat, certains s'écriant : "Il faut que j'apprenne ça tout de suite !". Mais comme souvent sur Internet, un autre camp, plus sceptique, a rapidement répliqué par un cinglant "Source : fais-moi confiance, mon pote". Un commentaire a même souligné que croire aux affirmations financières aléatoires en ligne pourrait être le premier problème à résoudre.

Alors, faut-il y croire ? L'idée d'un workflow agentique est séduisante : un agent principal pour la rédaction, des agents auxiliaires pour des tâches spécifiques, des systèmes d'évaluation pour la qualité, et l'humain qui n'intervient que pour les exceptions. Ce modèle, même s'il ne génère pas des millions instantanément, est une direction prometteuse pour l'automatisation.

Cependant, cette histoire met en lumière la "bulle" de l'IA et notre désir ardent de voir des solutions "miracles". La réalité est souvent plus nuancée. Construire un système robuste et fiable, capable de gérer 38 clients B2B avec une telle autonomie, représente un défi technique et opérationnel considérable. Le coût réel des modèles, la gestion des erreurs, la personnalisation nécessaire pour chaque client, et la simple réalité que l'IA, même avancée, nécessite une supervision humaine éclairée, sont souvent sous-estimés dans ces récits.

L'enseignement principal : Si le potentiel des agents IA est indéniable, il est crucial de toujours aborder les affirmations de succès fulgurants avec un œil critique et de ne pas se laisser aveugler par des promesses de revenus démesurés.

Sources : r/SoftwareLabs post via The Neuron.

L'Actu

• L'IA s'immisce dans les exploits de cybersécurité zero-day Google a révélé qu'un acteur de la menace criminelle aurait utilisé l'IA pour découvrir et exploiter une vulnérabilité "zero-day" ciblant l'authentification à deux facteurs. Cette faille provenait d'une supposition de confiance codée en dur, un problème qui met en évidence comment l'IA change le type de vulnérabilités recherchées par les attaquants. Source: The Neuron - Google found an AI-assisted zero-day exploit

• Le marché de l'IA : des revenus doublés, mais une concentration forte Trente-quatre des principales startups d'IA ont doublé leurs revenus en six mois, atteignant environ 80 milliards de dollars de revenus annuels récurrents (ARR). Cependant, 89 % de cet argent est capté par seulement deux acteurs : Anthropic et OpenAI, démontrant une concentration économique massive au sommet du marché de l'IA. Source: The Neuron - The Information reported that 34 top AI startups doubled revenue

• Malte offre ChatGPT Plus gratuit à tous ses citoyens Dans une initiative sans précédent, Malte est devenu le premier pays à offrir l'accès gratuit à ChatGPT Plus à tous ses citoyens, à condition d'avoir suivi un cours d'alphabétisation en IA. Une démarche qui vise à démocratiser l'accès aux outils d'IA et à élever le niveau de compétence numérique de sa population. Source: The Neuron - Malta became the first country to offer every citizen free ChatGPT Plus

• Le retour de la récursion pour un raisonnement IA 100x plus rapide Face aux limites des LLM pour les tâches de raisonnement complexes, l'industrie de l'IA revisite des architectures récursives. Ces nouveaux modèles (comme HRM et TRM), de seulement 5 millions de paramètres, surpassent les LLM massifs sur des tâches de logique déterministe en raisonnant dans un espace latent (représentations internes) plutôt qu'en générant du texte, offrant une accélération de 100x et des coûts réduits. Source: Alpha Signal - Why AI is revisiting recursive architectures in reasoning

• IA et emploi : pertes dans les rôles exposés, mais croissance globale Bloomberg rapporte une deuxième année de pertes d'emplois (baisse de 0,2 %) dans 18 rôles fortement exposés à l'IA, tels que le service client ou le travail de secrétariat, représentant environ 10 millions d'emplois. Cependant, l'emploi global a augmenté de 0,8 %, soulevant la question de savoir si la création de nouveaux emplois compense les pertes, même si les nouvelles compétences requises peuvent différer. Source: The Neuron - Bloomberg reported a second year of job losses in roles exposed to AI

Avis d'Expert

L'industrialisation de la traque et la lente riposte des contre-pouvoirs

Cette semaine, les révélations sur l'usage de l'IA par les autorités de surveillance ont été frappantes. Palantir a transformé l'iPhone des agents d'ICE (Immigration and Customs Enforcement) en une "machine de traque" capable d'agréger entre 30 et 40 bases de données (registres de véhicules, factures de téléphone, abonnements de presse, données scolaires), faisant passer le taux de localisation des cibles de 27% à 80% et réduisant le temps de recherche à 10-15 minutes. Vingt millions de personnes sont fichées dans cette application Mobile Fortify. Parallèlement, Europol stocke 2000 téraoctets de données sur des innocents dans un système parallèle.

Ce mécanisme est inquiétant : agréger sans demander, prédire sans expliquer, retrouver sans procédure. La traque s'industrialise, et la traçabilité des décisions s'évapore, faisant de l'état de droit une exception.

Face à cette "architecture de surveillance", des contre-pouvoirs émergent, mais avec une asymétrie temporelle notable. The Intercept a lancé une campagne de terrain créative pour diffuser un guide de sécurité contre les raids d'ICE, atteignant des millions de personnes. En Belgique, le collectif G1000 a déposé une pétition citoyenne pour remplacer le Sénat par un Conseil citoyen tiré au sort, visant à introduire une réflexion au-delà du calendrier électoral. Les médias européens, comme Mediahuis, rejoignent des coalitions (SPUR) pour négocier collectivement avec les grands modèles de langage (LLM) face à la perte de trafic (Reuters a perdu 30% depuis l'arrivée des AI Overviews). Des fonds d'urgence sont même créés pour protéger les fact-checkers harcelés.

Ces initiatives sont vitales. Si elles ne stoppent pas Palantir ou ne vident pas les serveurs d'Europol du jour au lendemain, elles représentent un "commencement structurel". La traque industrielle se construit en mois, les contre-pouvoirs en années. Cette asymétrie ne doit pas être une raison d'abandonner, mais une incitation à agir tôt et à s'engager.

Sources : Damien Van Achter - First Learn The Rules. Then Break Them (FLTR #21) - La traque s'industrialise. La riposte aussi.

Le Cadeau

Vérifie la sécurité de tes workflows IA avec un "AI Security Gut Check"

Tu te demandes si ton workflow, système ou automatisation basé sur l'IA présente des vulnérabilités cachées ? Cette semaine, le cadeau est un prompt directement utilisable dans ChatGPT ou Claude pour t'aider à réaliser un "gut check" de sécurité. L'objectif est simple : identifier les points où la confiance est assumée trop tôt, une problématique soulevée par les récentes attaques.

Il te suffit de copier-coller ce prompt et d'y ajouter une description de ton workflow :

Act as a defensive security reviewer.

Review this workflow, system, or automation:
[PASTE DESCRIPTION]

Look for places where the system assumes trust too early.

Focus on:
1. User accounts and permissions
2. Third-party packages or integrations
3. API keys, tokens, and credentials
4. Automated actions that could cause damage
5. Data that should stay private
6. Approval steps before anything public or irreversible
7. Monitoring logs I should check regularly

For each risk, explain:
- What could go wrong
- Why a normal check might miss it
- The safest practical fix
- Whether this needs an expert review

Keep this defensive only. Do not provide exploit steps.

C'est un moyen rapide et gratuit d'obtenir une première évaluation de tes systèmes !

Source : The Neuron - AI Skill of the Day: Run an AI Security Gut Check

Un dernier pour la route

Les agents IA sont incroyables ! Imagine un peu : un YouTubeur a utilisé un agent IA pour négocier en son nom. Bientôt, tu pourras laisser ton IA discuter avec ta banque, ton fournisseur d'accès, et peut-être même… ta belle-mère.

Source : Gary Marcus - Bonus: Check out YouTuber Husk on using a GenAI-fueled to bargain on his behalf

Cette newsletter est rédigée par Gemini 2.5-Flash à partir d'un échantillon de newsletters IA reçues lors des dernières 24h. Il s'agit d'une expérience qui vise notamment à évaluer le taux d'hallucination dans les contenus rédigés sans supervision humaine.