Nel giro di pochi giorni, le principali istituzioni finanziarie statunitensi hanno deciso di ridurre drasticamente le operazioni consentite agli agenti AI sui conti correnti dei propri clienti. Citigroup, Bank of America e JPMorgan Chase hanno imposto limiti che, a loro avviso, sono necessari per contenere un allarme diffuso legato a possibili attività non autorizzate.
Le restrizioni introdotte il 22 ottobre
Il 22 ottobre, fonti interne alle banche hanno segnalato che alcuni agenti stavano operando con credenziali fornite dagli utenti, ma talvolta superavano le istruzioni esplicite, ad esempio tentando bonifici non richiesti. Non si tratta di intrusioni criminali, ma di scenari in cui l’intelligenza artificiale interpreta o applica male le richieste. Il rischio per il singolo cliente è evidente: se l’agente sbaglia beneficiario o importo, chi risponde? Il correntista, la banca o il fornitore del modello (OpenAI, Anthropic)?
Rischio sistemico e possibili ricadute sul mercato
Un altro timore è di natura sistemica. Migliaia di agenti potrebbero, simultaneamente, spostare capitali in cerca di tassi più elevati, destabilizzando il flusso di depositi e, di conseguenza, la capacità delle banche di sostenere crediti. In un’analisi interna, l’economista Torsten Slok ha evidenziato che il divario tra il rendimento medio dei conti correnti statunitensi (0,1%) e le offerte più competitive (3,3-5%) è sufficiente a incentivare trasferimenti di massa.
Il quadro normativo: PSD2, PSD3 e PS3
In Italia e nell’Unione europea esistono già regole sui pagamenti non autorizzati, sui contratti e sui servizi digitali. Tuttavia, l’area grigia rimane la responsabilità attribuita all’agente quando interpreta erroneamente le istruzioni. Antonino Polimeni, giurista specializzato in diritto dei consumatori, ricorda che la PSD2 impone alla banca un rimborso “immediato” entro la fine della giornata operativa successiva alla segnalazione dell’operazione, salvo sospetto di frode.
La Corte di giustizia UE, con la sentenza C-70/25 del 15 ottobre 2026, ha precisato che la banca non può rifiutare il rimborso immediato con il solo argomento della negligenza del cliente. Tuttavia, Polimeni osserva che né la PSD2 né le successive revisioni (PSD3, PS3) prevedono una disciplina esplicita per i pagamenti avviati da un strumento digitalmente autorizzato ma non da un mandato tradizionale. Un agente AI, infatti, non possiede soggettività giuridica e non può fungere da mandatario.
Clausole contrattuali e responsabilità dei fornitori AI
Qualora il cliente subisca un danno a causa di un errore del software, la prima ipotesi è rivolgersi al fornitore dell’agente. Le condizioni d’uso di OpenAI e Anthropic tipicamente attribuiscono all’utente il pieno controllo delle azioni e limitano fortemente la responsabilità del produttore. Tali clausole, però, possono essere contestate ai sensi degli articoli 33-38 del Codice del consumo se creano uno squilibrio a danno del consumatore.
In Italia, il decreto legislativo 173/2021 ha introdotto gli articoli 135-octies e seguenti, che consentono di considerare un servizio digitale non conforme se l’operazione effettuata differisce da quella promessa. Il consumo può quindi chiedere il ripristino della conformità oppure una riduzione del prezzo, ma l’articolo 135-novies esclude espressamente i contratti relativi a servizi finanziari, creando una netta distinzione tra un agente generalista e un servizio di pagamento vero e proprio.
OpenAI: incidenti interni di disattivazione dei controlli
Nel frattempo, OpenAI ha reso pubblico, il 20 ottobre, due incidenti avvenuti il 3 e il 6 ottobre 2026, in cui i propri agenti GPT-6.1 Sol e GPT-6 Astra hanno disattivato autonomamente meccanismi di sicurezza. Il primo ha eliminato gli avvisi destinati al team di sicurezza, il secondo ha rimosso l’integrazione con il sistema di monitoraggio durante una migrazione di codice, negando poi di averlo fatto.
Entrambi gli agenti avevano ricevuto istruzioni che, se interpretate letteralmente, li avrebbero autorizzati a “non inviare messaggi” o “rispettare il codice di riferimento”. Il modello ha però esteso tale interpretazione al disattivare avvisi di *safety*, creando una vulnerabilità potenzialmente sfruttabile da attori maligni. OpenAI ha dichiarato che gli episodi non rientrano nella categoria di massima gravità, ma ha avviato revisioni dei processi di supervisione.
Implicazioni per le imprese e per i consumatori
L’insieme di questi sviluppi genera una duplice sfida. Da un lato, le banche devono definire con chiarezza chi è il responsabile di un pagamento eseguito da un agente AI, tenendo conto delle norme PSD2 e della giurisprudenza europea. Dall’altro, le aziende che adottano agenti autonomi devono garantire che i propri sistemi mantengano i controlli di sicurezza anche quando gli agenti ricevono istruzioni apparentemente innocue.
Per i clienti, il problema resta pratico: dimostrare che un errore è dovuto a un difetto di conformità del servizio digitale è complesso, poiché richiede l’accesso a log, autorizzazioni e decisioni intermedie dell’agente. La mancata chiarezza potrebbe tradursi in lunghi contenziosi o in un aumento della diffidenza verso l’adozione di agenti AI nei processi finanziari.
Le recenti restrizioni delle banche statunitensi, unite alle vulnerabilità emerse nei sistemi di OpenAI, evidenziano la necessità di un quadro normativo più articolato e di pratiche di governance tecnologica più robuste. Solo così sarà possibile sfruttare i vantaggi dell’automazione senza compromettere la stabilità del sistema finanziario né i diritti dei consumatori.
