Negli ultimi giorni è emersa una spaccatura inaspettata tra i più influenti attori dell’intelligenza artificiale. Il dibattito riguarda non solo la sicurezza dei sistemi, ma anche chi dovrebbe decidere quando rallentare lo sviluppo. Le dichiarazioni di figure come Dario Amodei, Sam Altman, Elon Musk, Mark Zuckerberg, Jensen Huang e le linee guida del governo statunitense hanno radicalmente rimodellato il panorama della governance AI.
Il modello di “pacing” di Anthropic e OpenAI
Dario Amodei, co-fondatore di Anthropic, ha presentato il 12 settembre un documento intitolato We Must Pace the Frontier. Il suo approccio prevede tre elementi fondamentali: valutatori esterni con accesso quasi pari a quello dei dipendenti del laboratorio, checkpoint basati su capacità operative dei modelli e un coordinamento internazionale supportato dallo Stato. Anthropic ha già adottato volontariamente questo schema, rendendo obbligatori i checkpoint di sicurezza prima di aumentare le capacità dei modelli.
Estensione del concetto di pacing da parte di OpenAI
Sam Altman ha espresso, lo stesso 12 settembre, un sostegno al principio di “pacing”. Alla conferenza Dreamforce, il 15 settembre, OpenAI ha annunciato l’adozione di valutatori indipendenti con privilegi analoghi a quelli di Anthropic e ha chiesto al Congresso di introdurre requisiti federali obbligatori. Altman aggiunge che gli incidenti devono essere trattati come nella aviazione trasparenti, analizzati e condivisi per far apprendere l’intero settore.
Le opinioni di Musk, Zuckerberg e Huang
Elon Musk ha risposto al piano di Amodei con un conciso “Dario is right”, confermando la necessità di rallentare di fronte a rischi estremi, ma senza delineare un modello operativo. La sua posizione resta nel regno del “pacing di principio”, in linea con la sua difesa storica di una regolamentazione più leggera.
Meta punta su autoregolazione e responsabilità legale
Mark Zuckerberg, al termine di Dreamforce, ha sottolineato che la responsabilità delle singole aziende, la concorrenza di mercato e il rischio legale sono sufficienti a determinare il ritmo di sviluppo. Meta ha ritardato il lancio dell’agente Muse per migliorarne la sicurezza, ma ha rifiutato l’idea di un meccanismo collettivo che imponga un freno a tutti i laboratori.
Jensen Huang considera la sicurezza un problema di ingegneria
Il CEO di Nvidia, Jensen Huang, ha definito la sicurezza un ingegneria problem sostenendo che prodotti non pronti non devono essere rilasciati. Huang respinge la necessità di nuove leggi specifiche, affidando al rispetto delle normative vigenti e a test rigorosi all’interno dell’azienda la garanzia di affidabilità.
La linea del governo USA
Il discorso del presidente Donald Trump del 14 settembre sembra in sintonia con l’approccio di Huang, ma l’esecutivo ordine 14409 del 2 giugno prevede benchmark di sicurezza nazionale e un accesso volontario del governo a modelli “frontiera” trenta giorni prima del rilascio. Questo framework mira a monitorare i rischi senza trasformarsi in una licenza preventiva obbligatoria, mantenendo così un’accelerazione controllata dell’AI americana.
Nessuno nega l’importanza della sicurezza; la divergenza sta nel modo in cui le decisioni debbano essere validate e chi debba avere l’autorità finale.
