In un recente post sul blog, Kathleen Blake, analista della Banca d’Inghilterra (BoE), ha lanciato un severo avvertimento sulla potenziale minaccia dei pregiudizi dell’intelligenza artificiale (AI) alla stabilità finanziaria. Mentre l’intelligenza artificiale e l’apprendimento automatico (ML) continuano a permeare il settore dei servizi finanziari, crescono le preoccupazioni che algoritmi distorti possano portare a decisioni discriminatorie in settori come quello bancario e assicurativo.
La pervasività dell’intelligenza artificiale nella finanza
L’intelligenza artificiale e il machine learning hanno rapidamente guadagnato terreno nel settore dei servizi finanziari, promettendo maggiore efficienza, precisione e automazione. Le istituzioni di tutto il mondo stanno integrando modelli di intelligenza artificiale nei loro sistemi, dalla valutazione del rischio al rilevamento delle frodi. Tuttavia, l'avvertimento di Kathleen Blake serve a ricordare che l'adozione dell'intelligenza artificiale comporta una serie di sfide.
Bias dell’intelligenza artificiale: una minaccia incombente
Blake sottolinea che i modelli di intelligenza artificiale e machine learning possono contenere intrinsecamente pregiudizi. Questi pregiudizi possono verificarsi a causa dei dati utilizzati per addestrare questi modelli e delle strutture dei modelli sottostanti. Tali pregiudizi possono potenzialmente portare a decisioni discriminatorie, in particolare in settori come quello bancario e assicurativo, dove la precisione e l’equità sono fondamentali.
Caso in questione: bias dell’algoritmo sanitario
Blake presenta un preoccupante caso di studio di un algoritmo sanitario addestrato sui dati di costo per prevedere i punteggi di rischio per la salute dei pazienti. Questo algoritmo ha dimostrato un errore sottovalutando la gravità delle condizioni di salute nei pazienti neri rispetto alle loro controparti bianche. La conseguenza è stata una fornitura insufficiente di servizi sanitari ai pazienti neri. Questo esempio sottolinea l’impatto nel mondo reale dei pregiudizi dell’IA sulla vita degli individui.
L’entità della crescita dell’IA
L’utilizzo dell’intelligenza artificiale in vari settori è destinato a crescere in modo significativo, con Blake che prevede un aumento di tre volte e mezzo nel suo utilizzo nei prossimi tre anni. Sebbene l’intelligenza artificiale offra vantaggi innegabili, sorgono preoccupazioni quando le aziende adottano modelli opachi o “a scatola nera”. Questi modelli possono oscurare il processo decisionale, rendendo difficile prevedere il modo in cui potrebbero influenzare i mercati finanziari.
Equità e fiducia come pilastri
Blake sottolinea che le questioni di equità non sono solo una questione di interesse etico, ma possono anche esacerbare i rischi per la stabilità finanziaria. La fiducia è un fulcro per il mantenimento della stabilità finanziaria e qualsiasi pregiudizio o discriminazione percepita nelle decisioni guidate dall’intelligenza artificiale può erodere la fiducia. In tempi di scarsa fiducia o di panico intenso, le istituzioni finanziarie possono assistere a una maggiore instabilità finanziaria, che può manifestarsi in turbolenze di mercato o addirittura in corse agli sportelli.
Poiché le società finanziarie continuano ad abbracciare le tecnologie di intelligenza artificiale, le banche centrali dovranno assumersi la responsabilità di affrontare i rischi legati a pregiudizi e altre preoccupazioni etiche. Gestire questi rischi sarà essenziale per mantenere la fiducia, garantire l’equità e salvaguardare la stabilità finanziaria in un panorama finanziario sempre più guidato dall’intelligenza artificiale.
L'avvertimento di Kathleen Blake da parte della Banca d'Inghilterra sottolinea la necessità fondamentale di vigilanza e considerazioni etiche mentre il settore finanziario abbraccia le tecnologie AI e ML. I pregiudizi dell’intelligenza artificiale non sono solo preoccupazioni teoriche; hanno implicazioni nel mondo reale per gli individui e possono avere un impatto sulla stabilità dei mercati finanziari. Trovare il giusto equilibrio tra innovazione guidata dall’intelligenza artificiale e responsabilità etica sarà la sfida centrale per le istituzioni finanziarie e gli organismi di regolamentazione nei prossimi anni. Poiché l’intelligenza artificiale continua ad evolversi, garantire equità e fiducia deve rimanere in prima linea nei processi decisionali finanziari.