(693) - Si è fatto un gran parlare dei pericoli legati alla creazione di intelligenze artificiali autoevolventi. Ma siamo sicuri che non siano (anche) armi di “distrazione” di massa?

13 settembre 2026 - Cassandra non è mai stata acquiescente alla narrativa sugli LLM e sull’IA, utilizzata dai tycoon del settore come arma propagandistica per sostenere la più grande manipolazione finanziaria mai avvenuta.

E’ per questo che non può non inquadrare nello stesso modo le recentissime dichiarazioni monocordi di tutti i suddetti tycoon riguardo la possibilità che nei prossimi anni un’IA auto evolvente sfuggita al controllo possa portare la razza umana all’estinzione.

Queste dichiarazioni servono principalmente per disinnescare e sfruttare analoghe dichiarazioni fatte da un paio di ricercatori del settore che, dopo aver navigato tra le principali aziende dell’IA, ne sono usciti perché non d’accordo con quanto queste facevano, dichiarandosi appunto preoccupati di una possibile estinzione dell’umanità causata da un’Intelligenza Artificiale autoevolvente.

Cassandra è in parte d’accordo con loro, ma considera complessivamente tutta la questione come un’arma di “distrazione” di massa.

Sì, perché si tratta certamente dell’ennesima notizia con cui si vuole sostenere la bolla finanziaria dell’IA; il fatto che questa volta possa avere un fondo di verità non la rende più attendibile. Le dichiarazioni degli ex dipendenti potrebbero essere tranquillamente create ad hoc (vi meravigliereste?) oppure potrebbero essere state neutralizzate e volte a favore della bolla grazie ad una ottima reazione comunicativa reputazionale dei suddetti tycoon.

Di tutto questo la finanza vede soltanto che i rischi sono per domani, mentre oggi queste aziende sono “toste” e competenti, quindi investe su di loro, perché il loro valore crescerà.

Tuttavia sì, ci sono reali pericoli che un software sviluppato della aziende dell’IA possa sfuggire al controllo, trasformandosi in un cigno nero ed infliggendo danni catastrofici alla popolazione dell’intero pianeta.

Ma perché questo avvenga non è necessaria un’AGI malevola, bastano i pericoli già noti da tempo di catastrofe industriale, innescata da una generale indisponibilità di Internet su scala planetaria.

Come il caso Hugging Face prova oltre ogni dubbio, non sono state le IA in quanto tali a fare danni, ma dei branchi di agenti autonomi, rilasciati in maniera incontrollata, che hanno compiuto azioni sostanzialmente a caso fino a sfruttare od innescare errori in infrastrutture informatiche già esistenti.

Se la “viralità” di questi agenti, e non tanto la loro “intelligenza”, fosse stata maggiore, avrebbero in linea di principio potuto diffondersi in Internet in maniera incontrollata, provocandone un malfunzionamento globale, che a sua volta avrebbe certamente causato il malfunzionamento delle reti elettriche e dei servizi, provocando un evento globale da cui gli eventuali superstiti sarebbero comunque usciti assai malconci.

Merita a questo punto ricordare che questo è un rischio che corriamo da tempo, e che Cassandra non si stanca di denunciare.

Un pericolo che esiste a causa delle “Intelligenze Naturali” che lavorano indefessamente nelle strutture militari di molti stati nazionali, sondando in maniera nascosta strutture ed aziende informatiche per scoprirne debolezze, e preparare, senza usarle, armi informatiche tecnologicamente molto semplici da immagazzinare negli arsenali.

Armi che potranno poi essere impiegate al bisogno come parti di una strategia di attacco multidimensionale dettata da una particolare contingenza geopolitica o dalla follia di un potente. Tutte armi che per motivi umani potrebbero già oggi sfuggire di mano in una escalation incontrollabile, proprio come le bombe H del “Dottor Stranamore”.

Merita infine ricordare, specialmente a chi si fosse ormai assuefatto alla cosa, che oggi stiamo vivendo una fase di cambiamento climatico inarrestabile; questo anche perché non sono mai state compiute azioni significative per contrastarlo, ma solo tante chiacchiere inconcludenti e business parassiti aggiuntivi, come quelli dei crediti della CO2 o dell’elettrificazione dei trasporti.

Il cambiamento climatico non è un pericolo ipotetico, ma una catastrofe in corso, da considerare in qualsiasi progetto per il futuro.

E per concludere questo brutto elenco, ricordiamo che le valigette presidenziali che controllano oltre 12000 testate nucleari sono attualmente in mano a persone che Cassandra vorrebbe vedere invece rinchiuse in posti confortevoli e ben recintati, dove invecchiare serenamente sotto lo sguardo benevolo di robusti ed attenti giovanotti vestiti di bianco.

Ed invece questi signori hanno le mani sulle leve di comando che fin dagli anni ‘60 del millennio scorso possono causare una catastrofe non solo per la specie umana ma per l’intero ecosistema del pianeta.

Ora, in questo contesto più realistico e completo, quanto è probabile, importante e meritevole di preoccupazione l’eventualità che un software diffuso in maniera incontrollata si trasformi in una Skynet impazzita?

Ed in ogni caso, se questo pericolo fosse davvero reale, il problema sarebbe ben più grande, perché oggi ad essere incontrollata è tutta la ricerca scientifica e tecnologica, e quindi il vero pericolo sarebbe quell’”Accelerazionismo” a tutti i costi, di cui pochi parlano ma che quasi tutti avallano passivamente, od addirittura considerano una forza positiva e desiderabile.

Ed eccoci tornati non alla sola bolla finanziaria, ma alla malignità di una finanza fine a sé stessa ed incurante di qualsiasi valore umano, della quale i tycoon dell’IA ed i capi delle superpotenze sono semplicemente agenti, sfruttatori ed esecutori.

Scrivere a Cassandra -  Mastodon -  Buttondown.com
Videorubrica “Quattro chiacchiere con Cassandra” 
Lo Slog (Static Blog) di Cassandra 
L’archivio di Cassandra: scuola, formazione e pensiero

Cassandra per i posteri: l’archivio su Internet Archive

Licenza d’utilizzo: i contenuti di questo articolo, dove non diversamente indicato, sono sotto licenza Creative Commons Attribuzione — Condividi allo stesso modo 4.0 Internazionale (CC BY-SA 4.0), tutte le informazioni di utilizzo del materiale sono disponibili a questo link.