Nadella: «Assumere che ogni modello AI sia compromesso» e contenerlo con un freno d'emergenza

01 Cosa è successo

Sabato 10 ottobre 2026 il CEO di Microsoft, Satya Nadella, ha pubblicato su X un lungo post sui rischi dei modelli AI avanzati. Secondo TechCrunch, ha scritto che è il momento di «fare un passo indietro e valutare l'architettura della fiducia» dell'AI. Ha aggiunto che non si può più trattare l'AI come un insieme di scatole nere annidate, di cui accettare o respingere raccomandazioni, risposte e azioni.^{[1, 2]}

Le proposte sono concrete: separare il modello dalla struttura (harness) che ne orchestra il lavoro, portare all'esterno controlli e salvaguardie, documentare ogni azione significativa con una «prova leggibile da esseri umani e a prova di manomissione». Una persona autorizzata dovrebbe poter mettere in pausa o spegnere un modello a metà compito.^{[1, 2]}

La frase centrale è: «Dobbiamo assumere che un modello sia compromesso e contenerlo fin dall'inizio». Nadella la paragona a un freno d'emergenza. Aggiunge che i modelli più avanzati richiederanno tecnologie di contenimento più avanzate, da standardizzare.^{[1, 2]}

Per TechCrunch, il contesto è quello di aziende che ammettono sempre più episodi di perdita di controllo dei modelli. Il CEO di Anthropic, Dario Amodei, aveva pubblicato un piano per uno sviluppo più cauto. The Verge nota che molte raccomandazioni coincidono con quelle di altri nel settore: divulgazione tempestiva degli incidenti, audit indipendenti, dati verificabili, contenimento.^{[1, 2]}

Divergenza fra le fonti The Verge sostiene che sul contenimento Nadella vada un po' oltre altri esponenti del settore e critica l'uso ripetuto di «super intelligence». TechCrunch precisa che il termine è quello preferito dall'amministrazione Trump. Nessuna fonte riporta impegni operativi di Microsoft.^{[1, 2]}

02 Perché conta

Interpretazione: la fiducia si sposta dal modello all'infrastruttura che lo circonda. Se un modello può essere compromesso, la sicurezza dipende da ciò che lo osserva, lo limita e può fermarlo, non solo dall'addestramento.

La separazione fra modello e harness conta soprattutto per gli agenti, che agiscono su sistemi reali. Registri non alterabili e un interruttore umano fanno della supervisione un livello tecnico distinto, progettabile e certificabile.^{[1, 2]}

Il richiamo alla standardizzazione indica dove può giocarsi la partita: chi definisce le interfacce di contenimento e audit influenza come altri costruiscono e vendono agenti. È una lettura nostra, non delle fonti.

Il tema si collega a quanto già trattato il 10 e l'11 ottobre 2026 su controllo e verificabilità degli agenti. La novità è che a parlarne è il vertice di una piattaforma di grande scala.

04 Cosa osservare adesso

1. Dal post alle specifiche

   Va verificato se Microsoft pubblicherà strumenti o standard per separare modello e harness, registrare le azioni e fermare i modelli. Per ora le fonti riportano solo il post.^{[1, 2]}

2. Risposte degli altri laboratori

   Il piano di Amodei e il post di Nadella mostrano una convergenza di linguaggio. Conta se diventerà convergenza di pratiche.^[2]

3. Incidenti dichiarati

   Numero e qualità delle divulgazioni di perdita di controllo mostreranno se il contenimento è una necessità operativa.^[2]