L’adozione dell’Intelligenza artificiale nelle organizzazioni umanitarie sta crescendo a un ritmo senza precedenti. Tuttavia, questa rapida diffusione pone sfide significative in termini di governance e gestione dei rischi.
Mentre l’80% dei lavoratori umanitari utilizza strumenti AI quotidianamente, meno del 25% delle organizzazioni ha politiche formali per gestire questa tecnologia. Questo divario crea un ambiente in cui l’innovazione procede senza una guida adeguata, aumentando i rischi operativi e etici.
Il problema della governance nelle organizzazioni umanitarie
Molte organizzazioni umanitarie sono paralizzate dalla complessità della governance AI. Creano comitati etici elaborati e processi di approvazione lunghi che rallentano il deployment, mentre i dipendenti continuano a utilizzare strumenti come ChatGPT e Claude senza alcuna guida.
Questa situazione crea un paradosso: da un lato, si discute a lungo delle implicazioni filosofiche dell’AI, dall’altro, i lavoratori sul campo devono prendere decisioni critiche senza supporto istituzionale. Questo approccio non solo rallenta l’adozione, ma mette anche a rischio la qualità e l’etica delle operazioni umanitarie.
Perché i framework di governance falliscono
I framework di governance AI tradizionali spesso falliscono perché sono progettati da comitati per comitati. Questi framework richiedono competenze tecniche che molte organizzazioni umanitarie non possiedono, creano bottiglie di approvazione e si concentrano su soluzioni perfette piuttosto che su soluzioni pratiche.
Inoltre, questi framework ignorano la realtà operativa delle organizzazioni umanitarie, che spesso lavorano in contesti con risorse limitate e condizioni difficili. Questo rende l’applicazione di principi astratti quasi impossibile.
Il framework SECURE: una soluzione pratica
Il framework SECURE, sviluppato dall’Università Charles Sturt, offre un approccio pratico alla governance AI. Invece di principi astratti, fornisce un elenco di sei domande sì/no che qualsiasi lavoratore umanitario può rispondere:
- Security credentials Stai inserendo credenziali di accesso, password o chiavi API?
- Ethical use Stai lavorando con popolazioni vulnerabili o conoscenze culturali rare?
- Confidential information Stai condividendo dati vitali per la posizione competitiva dell’organizzazione?
- Use of personal information Stai elaborando informazioni personali identificabili?
- Rights protection Stai utilizzando materiali coperti da copyright senza permesso?
- Evaluation of outputs Stai utilizzando l’output AI senza revisione umana per decisioni critiche?
Se la risposta a tutte le domande è ‘no’, il lavoratore può procedere. Se una qualsiasi delle domande riceve una risposta ‘sì’, il lavoratore deve fermarsi, mitigare il rischio e, se necessario, coinvolgere il dipartimento IT.
Vantaggi del framework SECURE
Il framework SECURE accelera il deployment dell’AI definendo chiaramente cosa richiede approvazione. Questo permette ai lavoratori di utilizzare l’AI per compiti come la stesura di report, la traduzione e l’analisi di dati anonimi senza attendere l’approvazione dell’organizzazione.
Al contrario, applicazioni ad alto rischio, come l’elaborazione di dati personali dei beneficiari o la presa di decisioni critiche, vengono segnalate per una revisione appropriata. Questo approccio permette alle organizzazioni di concentrare le loro risorse di governance dove sono realmente necessarie.
L’importanza della governance AI per i praticanti ICT4D
Il paradosso dell’adozione dell’AI nel settore umanitario è un fallimento di implementazione che si è visto ripetutamente in altre tecnologie come il mobile money e l’integrazione del cloud computing. Le organizzazioni che riescono a stabilire framework di governance pratici avranno un vantaggio significativo.
Queste organizzazioni saranno in grado di sfruttare le competenze AI esistenti del loro personale, implementare soluzioni più rapidamente e iterare basandosi su casi d’uso reali piuttosto che su scenari teorici. Si prevede che le organizzazioni umanitarie che utilizzano framework come SECURE implementeranno soluzioni AI 3-6 mesi prima dei loro concorrenti.
In un contesto di risposta alle crisi, questo vantaggio di velocità si traduce direttamente in vite salvate e risorse ottimizzate.
