Ciò che devi sapere
- Investire nell’intelligenza artificiale dà i suoi frutti solo in presenza di controlli in grado di garantire risultati accurati, affidabili e allineati agli obiettivi della tua organizzazione.
- Una gestione efficace dell’AI inizia dall’individuare le principali aree di rischio, mappandole rispetto alle normative attuali ed emergenti.
- Comprendendo il tuo ruolo all’interno della catena del valore dell’AI, potrai dare la giusta priorità ai requisiti legali e di compliance che ti riguardano.
- L’AI necessita di supervisione umana, con controlli e responsabilità ben definiti in ogni fase, dalla progettazione al monitoraggio delle prestazioni.
- Introducendo controlli proporzionati al rischio, puoi proteggere la tua organizzazione senza rallentare l’innovazione.
L’investimento non basta a valorizzare al massimo l’intelligenza artificiale; che tu sia uno sviluppatore o un utente di AI, devi gestirla in maniera efficace tramite una supervisione chiara, ruoli definiti e controlli in grado di allineare rischio, compliance e innovazione lungo tutto il suo ciclo di vita.
Cosa succede quando l’AI va più veloce del controllo?
Come molte organizzazioni, starai probabilmente cercando di sfruttare al massimo l'intelligenza artificiale per ridurre i costi, incrementare l'innovazione e distinguerti dalla concorrenza. In pochissimi anni l’AI è passata da ruolo marginale a elemento chiave per la strategia e la crescita a lungo termine. Il punto non è più chiedersi se investire o meno nell’intelligenza artificiale: dobbiamo decidere dove investire e l’entità dell’impegno.
Eppure l'AI può ancora sbagliare. Il Chicago Sun-Times ha recentemente riportato un elenco di libri da leggere, generato dall’AI, che non esistono, mentre iTutor Group ha dovuto pagare un risarcimento di 365.000 dollari perché il proprio strumento di recruitment basato su intelligenza artificiale ha automaticamente respinto le candidate over 55. Esempi che mostrano quanto velocemente gli errori dell’intelligenza artificiale possono tradursi in conseguenze nella vita reale.
L’intelligenza artificiale può far risparmiare tempo e denaro; ma non gestirla in maniera corretta può far perdere entrambi. Gli errori possono minare la fiducia, esporre a rischi legali e danneggiare la reputazione.
La difficoltà è che talvolta, nell’impeto di adottarla, si tralascia di identificare o gestire i nuovi rischi. Secondo la nostra ricerca, solo il 47% delle organizzazioni controlla l’uso dell’AI con processi formali, e solo il 57% ritiene che la propria forza lavoro disponga delle competenze per utilizzarla in maniera efficace. E' in questo gap tra adozione e controllo che gli investimenti nell’AI iniziano a non dare i risultati sperati.
Affinché gli investimenti nell’intelligenza artificiale siano proficui, servono sistemi di gestione che garantiscano i giusti risultati.
Qual è il tuo ruolo nell’utilizzo dell’AI?
Una gestione efficace dell’intelligenza artificiale inizia dal comprendere il proprio ruolo nel suo ciclo di vita.
Prima di progettare un sistema efficace di gestione dell’AI, devi fare chiarezza su come si inserisce nella tua organizzazione.
- Qual è la tua vision in tema di intelligenza artificiale?
- Cosa vuoi ottenere?
- Dove iniziano e dove finiscono le tue responsabilità?
La tua organizzazione costruisce soluzioni di AI? Ti occupi di integrarle negli ambienti dei tuoi clienti? Oppure sei un semplice utente di sistemi di AI sviluppati da terzi?
Il ruolo della tua organizzazione definisce il rischio e l’accountability in maniera diretta. Scegli quello che ti rappresenta tra le definizioni della ISO/IEC 42001, lo standard internazionale per la gestione dell’AI.
- Produttore: si assume i rischi di progettazione, soprattutto in tema di sicurezza informatica.
- Partner: si assume il rischio di implementazione.
- Fornitore: è responsabile dell'affidabilità, della sicurezza e della continuità del servizio.
- Cliente: è il responsabile finale della modalità in cui l'AI viene utilizzata.
I ruoli definiscono anche le capacità necessarie. Se ti occupi di sviluppare soluzioni di AI avrai bisogno di competenze tecniche approfondite, mentre come cliente ti serve maggiore consapevolezza a livello di organizzazione.
Non esiste un modello universale di gestione dell’AI. Ma una volta che avrai definito i tuoi ruoli, potrai determinare le tue responsabilità specifiche. Questo diventerà il punto di partenza per creare strutture di governance adatte alle tue esigenze. Un'adozione responsabile dell'AI protegge la tua organizzazione e favorisce al contempo l'innovazione.
Quali sono i rischi e gli obblighi dell'intelligenza artificiale?
Una volta compreso il tuo ruolo, il passo successivo è identificare i rischi a cui sei esposto e come la normativa si applica alla tua situazione. L’AI Act della UE fornisce ad esempio un framework per un’adozione più sicura e responsabile in Europa.
Probabilmente sei già soggetto a obblighi legali che prescindono dall’applicazione di leggi specifiche sull'AI, come le normative su privacy, sicurezza informatica e sicurezza dei prodotti. I requisiti sulla trasparenza e l’automazione dei processi decisionali previsti dal Regolamento generale sulla protezione dei dati (GDPR) sono in vigore da anni. La compliance non inizia con le leggi specifiche sull’intelligenza artificiale: bisogna esaminare anche gli obblighi di conformità vigenti.
Comprendendo innanzitutto il tuo ruolo, potrai concentrarti sui rischi e gli obblighi più importanti. Con AI Foundation Framework di BSI, puoi identificare i rischi nel contesto della tua organizzazione al fine di introdurre il livello di controllo adeguato. Senza reprimere l'innovazione.
Sei ancora nel loop?
Per costruire fiducia, l’AI ha bisogno della supervisione umana. In quale forma dipende dall'utilizzo ma la responsabilità va sempre ricondotta all’individuo, dalle posizioni apicali dell'organizzazione verso il basso. Integrando ruoli e responsabilità a ogni livello affinché non vengano elusi.
Ponendosi la seguente domanda: la nostra supervisione copre l'intero ciclo di vita dell'AI?
E questo dalla progettazione e l'ideazione fino al monitoraggio dei risultati per verificarne accuratezza, distorsioni e rischi. Allo stato attuale, solo il 33% delle imprese dispone di un processo definito per l'introduzione di nuovi tool di intelligenza artificiale. Senza di questo, diventa difficile garantire accuratezza e accountability man mano che l'uso dell'AI si dirama. Solo il 35% ha standardizzato la modalità per valutare se l’AI è in linea con le aspettative. Una supervisione efficace richiede che i parametri decisionali entro cui l'AI deve operare siano definiti da un essere umano. E sempre un essere umano deve garantirne l’affidabilità.
Per raggiungere questo obiettivo, bisogna investire in competenze e formazione allineate alle best practice internazionali. Negli ambienti di sviluppo software si potrebbero introdurre delle verifiche obbligatorie che permettono di passare alla fase successiva solo dopo aver esaminato rischi e controlli. O magari intendere l'intelligenza artificiale centrata sull'uomo (HCAI) come una metodologia di design, mettendo bisogni e valori umani al centro della soluzione di AI. Tutte modalità che possono supportare un’adozione responsabile e l’innovazione nel campo dell’intelligenza artificiale.
Se stai pensando di integrare l'AI nell'organizzazione, valuta la tua situazione attuale.
- Che ruolo hai nel ciclo di vita dell'AI?
- In che modo il tuo ruolo influisce sui rischi e sulle responsabilità?
- E come puoi integrare la responsabilità umana all'interno dell'intero ciclo?
Se operata in maniera efficace, la gestione non dovrebbe diventare un onere superfluo ma ridurre il rischio e creare opportunità per generare valore a lungo termine.
Come progredire con sicurezza
Una gestione efficace dell’intelligenza artificiale inizia dal comprendere in che fase ti trovi e su cosa concentrarti in futuro.
La modularità di AI Foundation Framework di BSI ti aiuta a valutare le capacità attuali, identificare il profilo di rischio specifico e dare priorità alle azioni pratiche che avranno il maggiore impatto.
All’interno del framework, il modulo AI Management si focalizza sull’efficacia della gestione dei sistemi di intelligenza artificiale nella pratica. Basato sugli standard riconosciuti ISO e NIST, ti consente di:
- valutare l'efficacia dei tuoi controlli;
- migliorare la supervisione umana;
- potenziare le aree chiave come gestione del ciclo di vita, documentazione e rischio del fornitore; e
- prepararti alla certificazione ISO/IEC 42001 se questo è il tuo obiettivo.
Portando a termine il modulo AI Management, puoi ridurre il rischio e creare valore man mano che i tuoi sistemi e capability in campo di AI si evolvono.
