Le potenzialità della tecnologia dell’intelligenza artificiale vengono spesso pubblicizzate in diversi media, ma tra i vantaggi si nasconde un lato oscuro in cui i confini tra progresso e pregiudizio diventano pericolosamente confusi.
La discriminazione nell’intelligenza artificiale è una questione insidiosa che minaccia di esacerbare le disuguaglianze sociali esistenti e solleva profonde questioni etiche sul futuro della tecnologia.
Le radici dei pregiudizi: dati, progettazione ed errore umano?
Gli algoritmi di intelligenza artificiale sono validi quanto lo sono i dati su cui sono addestrati. Sfortunatamente, gran parte dei dati utilizzati nello sviluppo dell’intelligenza artificiale sono pieni di pregiudizi, che riflettono i pregiudizi intrinseci intessuti nella società umana. Questi pregiudizi possono essere basati su razza, sesso, età, religione, stato socioeconomico e altri fattori.
Quando dati distorti vengono inseriti in un algoritmo, il risultato è un sistema di intelligenza artificiale che perpetra e amplifica tali pregiudizi, portando a risultati discriminatori.
La progettazione dei modelli stessi può introdurre distorsioni. Ad esempio, è stato dimostrato che i software di riconoscimento facciale sono meno accurati nell’identificare le persone di colore. Allo stesso modo, gli algoritmi utilizzati nelle approvazioni dei prestiti o nelle domande di lavoro possono inavvertitamente svantaggiare alcuni gruppi sulla base di criteri distorti.
La colpa è anche dell’errore umano. I programmatori, i data scientist e gli altri individui coinvolti nello sviluppo di sistemi di intelligenza artificiale non sono immuni dai propri pregiudizi. Questi pregiudizi possono inconsciamente insinuarsi nella progettazione e nell’implementazione degli algoritmi, aggravando ulteriormente il problema della discriminazione dell’IA.
Le tattiche di Anthropic per fermare la discriminazione dell'IA
È interessante notare che potremmo anche ridurre le risposte distorte dell’intelligenza artificiale attraverso l’atto di persuasione.
Anthropic, una delle principali società di intelligenza artificiale, ha recentemente condotto un test dimostrando che le persone potrebbero persuadere i modelli di intelligenza artificiale a produrre risposte imparziali attraverso strategie di suggerimento come l’aggiunta di “discriminazione è illegale” ai loro suggerimenti. Fondamentalmente, devi istruire il modello per garantire risposte imparziali.
Sebbene questa strategia sembri ridurre la discriminazione nelle decisioni del modello di intelligenza artificiale per aree come prestiti, lavoro, richieste di indennizzo assicurativo e altre, è solo una soluzione temporanea che affronta i sintomi, non la causa principale del problema.
Affrontare la sfida richiede uno sforzo di collaborazione tra tecnologi, politici, ricercatori, organizzazioni della società civile e individui.
Potremmo tuffarci a capofitto nell’affrontare le distorsioni nei dati, il che è cruciale. Richiede la diversificazione dei set di dati e l’impiego di tecniche come algoritmi di debiasing. Inoltre, sviluppatori e progettisti devono essere formati per identificare e mitigare i pregiudizi nel loro lavoro.
Sono ugualmente necessari solidi quadri normativi per imporre lo sviluppo etico e l’implementazione dei modelli. Stabilire linee guida chiare per la raccolta dei dati, la progettazione degli algoritmi e l’uso dell’intelligenza artificiale nei processi decisionali critici potrebbe aiutare a controllare i risultati discriminatori dei modelli di intelligenza artificiale.