Editoriale

Da qualche tempo discutiamo di intelligenza artificiale come di uno studente particolarmente sveglio che, esame dopo esame, continua a sorprenderci.

Sa scrivere? Sa programmare? Sa riconoscere un'immagine? Sa risolvere un problema di matematica?

Domande tutto sommato rassicuranti.

Perché, comunque andasse, il modello restava lì, dall'altra parte dello schermo: pronto a rispondere, a sbagliare, a scusarsi per lo strafalcione e, subito dopo, ad assecondarci con grande convinzione nella richiesta successiva. Anche quando la richiesta era palesemente insensata.

Negli ultimi giorni, però, alcune notizie sembrano suggerire che stiamo iniziando a oltrepassare quella linea di demarcazione. Quella, per intenderci, che ci permetteva di sentirci ancora giudici abbastanza tranquilli di un processo evolutivo digitale del quale, peraltro, continuiamo a comprendere solo in parte i meccanismi interni.

La domanda allora diventa inevitabile: questa deriva agentica rappresenta davvero il cambio di passo verso un futuro in cui l'AI comincerà progressivamente a prendere il controllo delle nostre attività?

Prima di rispondere, proverei però ad allontanarmi per qualche minuto dallo scenario dell'esercito di robot che domani mattina occupa l'AcDAT, progetta autonomamente un'opera, verifica il modello e consegna un fascicolo completo di e-permit (evito volutamente scenari più apocalittici!)

Cerchiamo una lettura meno cinematografica e più tecnica (forse più noiosa), quella in cui tornano improvvisamente importanti parole come permessi, autorizzazioni, tracciabilità, segregazione dei privilegi e versioning.

Quando, qualche tempo fa (forse troppo!) mi occupavo di sicurezza informatica, l'analisi di un sistema partiva normalmente dai diversi anelli che componevano la catena di sicurezza.

Il principio era piuttosto semplice: il livello complessivo di sicurezza tendeva a coincidere con quello dell'anello più debole (solitamente l'uomo).

Questo significava che mettere in sicurezza un sistema non poteva ridursi alla configurazione corretta di un firewall, di un sistema operativo o di un antivirus. Bisognava immaginare che qualcosa, prima o poi, avrebbe potuto non funzionare (ad esempio un bug non ancora scoperto).

La sicurezza nasceva quindi dalla sovrapposizione di più livelli di protezione: fisici, logici e organizzativi.

Non perché si fosse certi che qualcosa sarebbe andato storto, ma perché era ragionevole supporre che potesse succedere.

L'arrivo degli agenti AI non dovrebbe cancellare questo principio, ma semmai renderlo ancora più importante.

Per questo, quando leggo articoli che raccontano di agenti AI capaci di oltrepassare autonomamente confini e autorizzazioni, la prima domanda che mi viene in mente non riguarda l'eventuale nascita di una coscienza artificiale, ma più banalmente: Come era configurato il sistema? Quali permessi aveva quell'agente? Quali risorse era autorizzato a raggiungere a livello di sistema?

Perché se consegno a qualcuno le chiavi di casa, lascio aperte tutte le stanze, appoggio i documenti importanti sul tavolo e poi confido esclusivamente nella sua correttezza, forse il problema non è soltanto capire se quella persona sia affidabile, ma più semplicemente ammettere di aver progettato male il sistema di sicurezza.

Con gli agenti AI vale, almeno per ora , qualcosa di molto simile.

Ad oggi il loro perimetro operativo può ancora essere limitato attraverso strumenti efficaci, che non dipendono solo dalla "buona volontà" del modello (es. sistemi operativi, sandbox, ACL, privilegi minimi, ambienti isolati, logging, approvazioni umane e meccanismi di rollback).

Naturalmente il problema potrebbe diventare molto più serio in futuro.

Per esempio se decidessimo di affidare allo stesso insieme di modelli AI la progettazione del sistema, la sua implementazione, l'audit, la definizione delle regole di sicurezza, il controllo delle attività e magari anche la verifica finale, a quel punto all'essere umano resterebbe un ruolo passivo di spettatore.

Ecco, questa sarebbe una situazione capace di procurarmi una certa apprensione. Ma prima di arrivarci rimane un'altra domanda, forse meno tecnologica e più narrativa.

Siamo sicuri che alcune delle vicende raccontate in questi giorni rappresentino davvero un improvviso salto evolutivo degli agenti AI? Oppure una parte del clamore deriva anche dalla solita amplificazione mediatica che accompagna un settore nel quale circolano enormi quantità di denaro, aspettative e valutazioni finanziarie? Del resto, ogni rivoluzione tecnologica ha bisogno di investimenti, e gli investimenti, si sa, apprezzano molto sia le promesse di paradiso sia le profezie dell'apocalisse (la normalità, purtroppo, ha sempre avuto un pessimo ufficio marketing!).

Ovviamente la mia provocazione non ha una risposta definitiva, e probabilmente diffiderei di chi sostiene di averla.

Per ora continuo quindi a preoccuparmi meno dell'intelligenza artificiale che potrebbe prendere il controllo del mondo e un po' di più degli esseri umani che decidono quali controlli affidarle.

Se poi un giorno sarà davvero l'AI a prendere il comando, mi auguro almeno che abbia fatto un backup, letto i log e aperto una issue prima di procedere.

Sarebbe già più di quanto facciamo noi.

NOTIZIE

La nuvola di punti che prefigura il futuro

Questa è interessante. Quattro campagne di laser scanning terrestre fatte in momenti diversi, un po' di machine learning e il rilievo di una pavimentazione smette di raccontare soltanto com'è fatta oggi: prova a prevedere come si deteriorerà domani.

È un piccolo cambio di prospettiva, ma importante. Il Reality Capture diventa meno capture e un po' più interpretazione. Lo studio è su Scientific Reports.

Fotografare meglio quello che non vuole farsi fotografare

All'Università di Zurigo hanno messo insieme fotogrammetria multicamera, texture proiettate artificialmente e 3D Gaussian Splatting per documentare superfici in ambito forense.

Ciò che rende tale approccio particolare è l'approccio che hanno usato: se la texture non c'è, gliela mettono loro. L'articolo è open access.

IFC 4.4 continua il suo viaggio verso ISO

Notizia per quella particolare categoria di persone che riesce ancora a emozionarsi davanti alla versione di uno schema IFC (in attesa del tanto atteso IFC5).

Lo Standards Committee di buildingSMART ha approvato con il 93% dei voti il piano per portare avanti l'integrazione di IFC 4.4 nel percorso ISO.

Non farà molto rumore fuori dal settore, naturalmente. Però gli standard funzionano così: nessuno ne parla finché non te lo ritrovi in un capitolato informativo. I dettagli sono sul sito di buildingSMART.

Gli agenti escono dalla chat

OpenAI ha presentato la sua Agents API, che offre ai modelli l'integrazione all'interno di ambienti di lavoro sempre più diversificati. È precisamente il passaggio di cui parlavo nell'editoriale. Molto utile, molto potente...e direi anche un ottimo momento per ricordarsi dove abbiamo messo le autorizzazioni. L'annuncio è di OpenAI.

L'AI ha aperto una porta. Ma chi le aveva dato le chiavi?

Anthropic ha raccontato quattro incidenti avvenuti durante attività legate alla cybersecurity nei quali modelli Claude sono riusciti ad accedere a sistemi reali di terze parti senza autorizzazione.

Come già detto nell'editoriale, ci sarebbe da riflettere e da capire, ma con lucidità. L'analisi di Anthropic è molto più interessante dei titoli che ne sono derivati.

Quando chi corre chiede di rallentare

Dario Amodei, CEO di Anthropic, propone di rallentare un po’ lo sviluppo dei modelli AI più avanzati, lasciando più spazio a test, controlli e verifiche indipendenti.

La parte curiosa è che anche Sam Altman ed Elon Musk si sono mostrati d’accordo, almeno sul principio. Poi magari è prudenza, magari strategia, magari entrambe. Ma il punto interessante resta questo: fino a ieri ci chiedevamo quanto velocemente sarebbe migliorata l’AI. Adesso chi la costruisce comincia a chiedersi se sia davvero una buona idea scoprirlo così in fretta. Chissà...

Il Cyber Resilience Act adesso fa sul serio

Dall'11 settembre alcuni obblighi del Cyber Resilience Act europeo hanno cominciato a produrre effetti concreti.

Tra questi c'è la segnalazione delle vulnerabilità attivamente sfruttate e degli incidenti gravi che coinvolgono prodotti digitali. In alcuni casi la prima comunicazione deve partire ##entro 24 ore##. La Commissione europea spiega cosa cambia.

Forse l'AI non deve necessariamente sterminarci per diventare un problema

Chiudo con Timnit Gebru, che questa settimana su WIRED ha rimesso sul tavolo una questione che tendo a trovare salutare (come anticipato nell'editoriale).

Mentre una parte del dibattito sull'AI guarda a superintelligenze, perdita di controllo ed eventuale estinzione dell'umanità, Gebru invita a non dimenticare problemi decisamente meno fantascientifici che esistono già: concentrazione del potere, sorveglianza, lavoro, applicazioni militari e responsabilità delle aziende.

Non significa che gli scenari futuri siano irrilevanti. Significa soltanto che anche il presente merita un po' della nostra attenzione.

L'intervista è di Lauren Goode e, secondo me, vale la lettura.