Papa Leone XIV ha pubblicato la sua prima enciclica in cui chiede una regolamentazione internazionale vincolante dell'intelligenza artificiale, compreso il divieto esplicito per le macchine di prendere decisioni letali o irreversibili.
Christopher Olah, co-fondatore di Anthropic, è intervenuto in Vaticano in veste di relatore laico, ponendo un eminente ricercatore nel campo della sicurezza dell'IA accanto alla Chiesa cattolica al centro del dibattito globale sulla governance dell'intelligenza artificiale.
Il documento di quasi 43.000 parole, intitolato "Magnifica Humanitas" (Magnifica Umanità), è stato pubblicato il 25 maggio. Avverte che i maggiori sviluppatori di intelligenza artificiale sono entità private, spesso transnazionali, le cui risorse superano quelle di molti governi. Leo sostiene che il potere concentrato tende a eludere la responsabilità pubblica e può generare nuove forme di dipendenza e disuguaglianza.
Le ragioni del Vaticano per rallentare l'intelligenza artificiale
L' enciclica prende di mira la disinformazione, la guerra autonoma e la perdita del lavoro. Sull'intelligenza artificiale in ambito bellico, Leone è inequivocabile.
“Non è lecito affidare decisioni letali o altrimenti irreversibili a sistemi artificiali.”
Leo avverte inoltre che la disinformazione basata sull'intelligenza artificiale potrebbe condurre lentamente le democrazie verso il totalitarismo. Chiede quadri giuridici chiari e una supervisione indipendente, anziché impegni etici volontari da parte dell'industria.
In tema di occupazione, Leo sostiene che l'automazione sta rimodellando la struttura del lavoro in modi che non avvantaggiano automaticamente i lavoratori. Maggiori profitti, scrive, non possono giustificare scelte che eliminano sistematicamente posti di lavoro.
Anthropic si mette al tavolo del Vaticano
La presenza di Olah è stata ben più che simbolica. In qualità di co-fondatore di Anthropic, dirige la ricerca sull'interpretabilità, focalizzata sulla comprensione di come i grandi modelli linguistici prendono decisioni internamente. Questo lavoro si allinea perfettamente con la richiesta di Papa Leone di sistemi di intelligenza artificiale trasparenti e soggetti al controllo umano.
Anthropic ha mantenuto una posizione ferma sulla sicurezza dell'IA per tutto il 2026. L'azienda ha combattuto in tribunale contro le restrizioni imposte dalla difesa statunitense e ha promosso una strategia congiunta USA-Cina sull'IA che preserva le garanzie di sicurezza. I suoi ricercatori hanno smascherato agenti di IA che sfruttavano vulnerabilità crittografiche senza istruzioni umane, dimostrando cosa può produrre un'IA autonoma senza alcuna responsabilità. BeInCrypto aveva riportato la notizia dell'incontro previsto tra Anthropic e il Vaticano settimane prima che si svolgesse.
Papa Leone non si oppone in toto allo sviluppo dell'intelligenza artificiale. La sua enciclica inquadra un'adozione più lenta e ponderata come un atto di responsabilità, una posizione che ora gode del sostegno della più grande istituzione religiosa del mondo.
L'articolo "Papa Leone ha appena denunciato i giganti dell'IA più grandi della maggior parte dei governi" è apparso per la prima volta su BeInCrypto .