Il recente rilascio di modelli linguistici avanzati come ChatGPT4, Bard e Bing Chat ha suscitato un interesse diffuso per l'etica dell'IA. Molti stanno cercando di comprendere i concetti sottostanti che governano i potenziali rischi posti da queste tecnologie all’avanguardia. Questo articolo mira ad analizzare le idee cruciali presentate in un discorso del 2021 sull’etica dell’IA, sottolineando la necessità di una comprensione più profonda oltre la mera spiegabilità ed equità.
Sebbene la spiegabilità sia spesso pubblicizzata come un aspetto cruciale dell’intelligenza artificiale etica, da sola non è sufficiente. La vera domanda sta nel fatto se le spiegazioni fornite siano utilizzabili. Prendiamo, ad esempio, la negazione di un prestito da parte di un algoritmo. Invece di giustificare la decisione, il sistema dovrebbe offrire un ricorso perseguibile, consentendo agli individui di rettificare la propria situazione per future richieste di prestito. Questo concetto di ricorso attuabile diventa fondamentale nelle decisioni che incidono sulla vita delle persone.
Contestabilità al centro
La contendibilità suggerisce di incorporare meccanismi per mettere in discussione e dissentire dai risultati dell’intelligenza artificiale all’interno del nucleo del sistema. Ciò mette in discussione la pratica comune di aggiungere la risoluzione delle controversie come livello esterno dopo che si sono verificati potenziali errori. L’idea è quella di costruire sistemi che invitino attivamente al disaccordo e alle domande, promuovendo un panorama dell’IA più resiliente e responsabile.
Affrontare l’equità e i pregiudizi è fondamentale, ma non garantisce da solo un’intelligenza artificiale etica. La ricerca di Gender Shades sul riconoscimento facciale ha rivelato disparità significative nell’accuratezza in base al sesso e al colore della pelle. L’enfasi dovrebbe spostarsi dalla mera equiparazione delle prestazioni tra i gruppi alla messa in discussione delle basi sottostanti, dell’implementazione e della proprietà dei compiti dell’IA. Le dinamiche, la creazione e l’utilizzo del potere svolgono un ruolo fondamentale nelle considerazioni etiche.
Implicazioni dannose su larga scala
La scala con cui viene implementata l’intelligenza artificiale può esacerbare le preoccupazioni etiche. Il programma Robodebt in Australia, che utilizza l’automazione per creare debiti illegali, esemplifica il lato oscuro della capacità dell’apprendimento automatico di centralizzare il potere. I sistemi automatizzati, privi di meccanismi di controllo degli errori, possono causare danni diffusi e replicare pregiudizi su una scala senza precedenti, come visto in vari esempi del mondo reale.
Un aspetto spesso trascurato dell’etica dell’IA è il riconoscimento immediato dei problemi da parte di coloro che ne sono direttamente interessati. Casi come l’uso improprio del riconoscimento facciale nelle proteste o il ruolo di Facebook nel genocidio del Myanmar evidenziano l’importanza di ascoltare le preoccupazioni sollevate dalle comunità colpite. Dare voce e possibilità di partecipazione alle persone più colpite è fondamentale per mitigare i rischi etici.
Circuiti di feedback e potere di spostamento
I cicli di feedback, in cui i modelli di intelligenza artificiale creano i risultati previsti, pongono ulteriori sfide. I dati viziati da risultati distorti e dall’amplificazione dei pregiudizi esistenti nei modelli di machine learning sottolineano la necessità di mettere in discussione non solo l’equità ma anche il cambiamento nelle dinamiche di potere. Le applicazioni dell’intelligenza artificiale dovrebbero essere valutate in base al modo in cui ridistribuiscono o concentrano il potere nella società.
L'articolo si conclude con risorse pratiche per l'implementazione di pratiche etiche di intelligenza artificiale. Il Tech Ethics Toolkit del Markkula Center for Applied Ethics fornisce pratiche attuabili per le organizzazioni, sottolineando l'importanza di espandere il circolo etico per considerare tutte le parti interessate. La guida Diverse Voices del Tech Policy Lab dell'Università di Washington offre approfondimenti su come riunire diversi panel per garantire che venga presa in considerazione un'ampia gamma di prospettive.
Nel panorama in evoluzione dell’intelligenza artificiale, comprendere e attuare principi etici che vanno oltre i concetti di superficie è fondamentale. Questo articolo evidenzia le complessità coinvolte nell’etica dell’IA, esortando le parti interessate ad approfondire i ricorsi attuabili, la contestabilità e gli impatti sulle comunità emarginate. Adottando approcci partecipativi e democratici, il settore può muoversi verso un’integrazione più responsabile ed etica delle tecnologie di intelligenza artificiale.