Le débat du jour

Salut !

Cette semaine, la question de la vérité à l'ère de l'intelligence artificielle est revenue en force, montrant une fracture profonde entre le développement technologique et notre capacité à en gérer les conséquences. On parle beaucoup de souveraineté numérique, de rapatrier les infrastructures, de contrôler nos données. C'est essentiel, bien sûr. Mais qu'en est-il de la souveraineté sur les faits, sur l'information elle-même, quand le faux devient un véritable business model ?

Des exemples récents mettent en lumière cette inquiétante tendance. Un auteur, Steven Rosenbaum, a publié un livre intitulé "The Future of Truth: How AI Reshapes Reality", et l'a truffé de fausses citations générées par ChatGPT et Claude. Ironique, n'est-ce pas ? Un ouvrage censé éclairer l'avenir de la vérité est lui-même construit sur des bases factices. La journaliste tech Kara Swisher s'est retrouvée citée pour des propos qu'elle n'a jamais tenus, un signe flagrant de ces "hallucinations" devenues monnaie courante (Damien Van Achter).

Le problème dépasse la simple erreur. Le faux est désormais industrialisé. Aux Philippines, des assistants virtuels génèrent du contenu LinkedIn pour des dirigeants occidentaux à bas coût, remplissant le réseau social d'une "expertise" simulée pour 4 à 7 dollars de l'heure. Plus alarmant encore, un ancien dirigeant condamné pour fraude a créé dix-sept faux sites d'information locale, animés par des journalistes IA, pour noyer les résultats Google négatifs de ses clients. Ces "pink slime" sites, qui sont aujourd'hui plus nombreux que les quotidiens américains encore en activité, sont une usine à désinformation (Damien Van Achter). Même Google AI Overview a été accusé d'avoir fabriqué de toutes pièces des allégations d'agression sexuelle contre un citoyen, des accusations qui n'existaient nulle part ailleurs que dans la réponse de l'algorithme.

Pendant ce temps, des chercheurs de Microsoft ont constaté que leurs propres modèles corrompent en moyenne un quart du contenu d'un document au fil des tâches d'édition, et jusqu'à près de la moitié pour la moyenne des modèles testés. Cela signifie que la machine, même interne, peut produire du faux silencieusement, accumulant des erreurs sur de longs flux de travail.

L'Europe, elle, s'attelle à reprendre le contrôle de ses infrastructures. Le renseignement allemand a choisi une plateforme française plutôt que Palantir, la France déploie sa suite bureautique souveraine, et l'affaire Khan (le procureur de la CPI coupé de sa messagerie Microsoft) accélère la bascule vers l'open source (Damien Van Achter). C'est une avancée pour la souveraineté de l'infrastructure, mais comme le souligne Damien Van Achter, elle ne résout pas le problème du faux. Les serveurs peuvent être à Roubaix, mais le faux continuera de circuler dessus.

Face à cette accélération et cette "peur de rater quelque chose" (FOMO), beaucoup se sentent submergés, comme le rapportait un post de Grégory Pouy. Une approche plus "lente" de l'IA, ou "Slow AI", devient essentielle. Il s'agit d'apprivoiser un agent, de lui construire un espace de travail persistant plutôt que de courir après chaque nouvelle itération. C'est l'idée de "construire un feu" comme dans la nouvelle de Jack London : ne pas se fier uniquement à la technique, mais rester connecté au réel, au corps, et au contexte humain pour ne pas se perdre (Génération IA).

L'enseignement principal est que la souveraineté numérique ne peut être complète sans une souveraineté sur l'information et une approche consciente de notre interaction avec l'IA.

L'Actu

1. Cursor, la startup qui explose les compteurs et attire SpaceX L'éditeur de code alimenté par l'IA, Cursor, a vu ses revenus annualisés atteindre 3 milliards de dollars, un milliard de plus en seulement deux mois. Ce rythme de croissance fulgurant, qui dépasse de loin celui de géants comme Salesforce, a attiré l'attention d'Elon Musk, avec une potentielle acquisition par SpaceX pour 60 milliards de dollars à l'horizon. Source: The Neuron Daily

2. Spotify et Universal Music Group s'accordent sur les remix et reprises par IA Un accord historique a été signé entre Spotify et Universal Music Group, permettant à Spotify de lancer un add-on payant pour les abonnés Premium. Cet add-on autorisera les fans à créer des reprises et des remixes de chansons d'artistes participants, avec un partage des revenus entre artistes et auteurs-compositeurs. Source: The Neuron Daily

3. Meta critiquée pour l'usage des données de ses employés et des licenciements Des documents internes révèlent que Meta aurait utilisé les frappes clavier de ses propres employés pour entraîner ses IA, avant de procéder au licenciement de 8 000 d'entre eux. Un enregistrement audio de Mark Zuckerberg aurait suggéré que les ingénieurs internes étaient de meilleurs sujets d'entraînement que les contractuels externes. Source: The Neuron Daily

4. Les licenciements liés à l'IA font chuter les actions des entreprises Contrairement aux attentes, les entreprises annonçant des réductions de personnel liées à l'IA ont vu leurs actions chuter en moyenne de 25% dans 56% des cas, selon les données de CNBC. Gartner a de plus constaté que le meilleur retour sur investissement de l'IA provenait de l'amplification des capacités des travailleurs, et non de leur remplacement. Source: The Neuron Daily

5. Le renseignement allemand choisit une firme française au détriment de Palantir Le service de renseignement intérieur allemand (BfV) a sélectionné la plateforme ArgonOS de l'entreprise française ChapsVision pour l'analyse de ses données, écartant ainsi l'américain Palantir. Cette décision marque un signal politique fort en faveur de la réduction de la dépendance aux technologies de sécurité américaines en Europe. Source: Damien Van Achter

Avis d'Expert

L'IA, une industrie lourde plutôt qu'un simple logiciel

L'idée que l'IA n'est qu'un logiciel parmi d'autres est dépassée. En réalité, le développement de l'IA, en particulier pour les grands modèles, transforme les géants de la tech en véritables entreprises industrielles. Microsoft, par exemple, prévoit de dépenser près de 190 milliards de dollars cette année en capital, et s'attend tout de même à manquer de capacité. Les quatre plus grands hyperscalers devraient collectivement approcher les 700 milliards de dollars de dépenses d'investissement en 2026, presque le double de 2025 (Nate's Newsletter).

Pourquoi cette transformation ? Parce que les "tokens", ces unités de traitement que nous consommons, ne sont pas abstraits : ils sont manufacturés. Chaque réponse d'un modèle est le produit d'un système de production physique qui consomme des puces (GPU, CPU), de la mémoire à large bande passante, des emballages avancés, des substrats, de l'optique, de l'énergie, du refroidissement, des terrains, de la construction de centres de données, de la mise en réseau et des talents opérationnels. Une application IA est le produit visible, mais en coulisses, c'est une usine qui transforme l'électricité et le silicium en intelligence.

Cette réalité change la nature des contrats avec les fournisseurs d'IA. Ce qui ressemblait à un accord logiciel il y a six mois est désormais un contrat de fourniture, avec des clauses d'allocation, des termes de capacité et des plans de secours. La question stratégique n'est plus seulement "Qui a le meilleur modèle ?", mais "Qui peut opérer l'usine qui produit l'intelligence à l'échelle ?". Pour les entreprises, la métrique clé devient l'utilisation de cette capacité, car un gain de 40% en débit peut être plus rentable qu'un nouveau centre de données. Il est crucial de prévoir la consommation en "tokens" plutôt qu'en "sièges" et de comprendre si l'IA améliore ou détruit les marges.

Le Cadeau

OpenHuman : Ton agent IA personnel open-source avec une mémoire illimitée

Découvre OpenHuman, une application desktop open-source révolutionnaire. Cet agent IA personnel peut stocker localement jusqu'à 1 milliard de tokens de ta mémoire personnelle – tes e-mails, notes, calendriers, commits GitHub, et bien plus encore. Il se rafraîchit automatiquement toutes les 20 minutes et se connecte à plus de 118 services en un clic. Il a même atteint la première place sur Product Hunt (daily, weekly, et monthly) ! Une ressource gratuite et puissante pour construire une IA qui te connaît vraiment.

Découvre OpenHuman ici

Un dernier pour la route

Décidément, l'IA a encore des progrès à faire dans le monde réel. Starbucks a dû retirer un outil d'inventaire basé sur l'IA de ses 11 000 magasins nord-américains. La raison ? L'IA était incapable de faire la différence entre le lait d'avoine et le lait entier. Comme quoi, même la technologie la plus avancée peut être humblement mise en échec par un simple carton de lait.

Cette newsletter est rédigée par Gemini 2.5-Flash à partir d'un échantillon de newsletters IA reçues lors des dernières 24h. Il s'agit d'une expérience qui vise notamment à évaluer le taux d'hallucination dans les contenus rédigés sans supervision humaine.