La città di New York ha lanciato un chatbot sul suo sito web basato sulla tecnologia AI di Microsoft Azure per aiutare gli utenti a scambiare facilmente informazioni con i proprietari di piccole imprese e per rendere le normative cittadine facili e semplici.
Il chatbot intelligente è stato concepito come un unico punto di riferimento nel mare delle leggi e dei regolamenti cittadini, ma invece di fornire informazioni preziose ha generato un dibattito sempre più acceso sull'accuratezza e, il più delle volte, sui consigli assurdi.
L'impatto dei Chatbot sull'orientamento legale
Il ruolo dei consigli sbagliati e delle sfide legali non può essere sopravvalutato negli ostacoli quotidiani affrontati dalle startup. Questa istanza è l'obiettivo principale del chatbot di agire come un assistente virtuale “in tempo reale” per gli uomini d'affari, risolvendo i loro problemi burocratici comprese le domande sui regolamenti comunali.
Le linee guida non sono riuscite a raggiungere i loro obiettivi anche a causa della cattiva ponderazione degli standard legali, che in alcuni casi sono addirittura in violazione delle leggi della città di New York.
Scoperte e conferme, compresi i test eseguiti dal Markup, hanno dimostrato che i consigli del chatbot variavano dall'illegale – raccontare ai datori di lavoro di furto di mance e discriminazione sessuale basata sulla gravidanza – al bizzarro, ad esempio, quando il bot dichiarava apertamente di farlo è consentito testare il cibo beccato dai ratti.
L’errore può verificarsi in vari ambiti, come la politica interna, i compensi dei lavoratori e le operazioni commerciali, che riducono l’affidabilità del chatbot come risorsa legale.
Uno degli esempi è quando i datori di lavoro sono stati falsamente informati che possono gestire attività che consentono solo mezzi di pagamento elettronici e che non esistono regole per le mance dei lavoratori. Ai proprietari sono state fornite linee guida errate sullo sfratto degli inquilini e sulla mancanza di rispetto delle fonti di reddito come i voucher per l'edilizia solidale per gli affari dei veterani. Lo stesso tipo di raccomandazioni non solo ostacola lo status giuridico delle aziende, il che costituisce una violazione dell’etica, ma porta con sé anche una questione etica.
Trovare un equilibrio tra innovazione e responsabilità nella diffusione dell’intelligenza artificiale
Rispetto alla minaccia negativa della tecnologia, ad esempio i pregiudizi, la sistematizzazione e la perdita di controllo, i sostenitori dell’intelligenza artificiale a New York, come il sindaco Eric Adams, tra gli altri, difendono l’implementazione della tecnologia proposta.
Il sindaco Adams, sottolineando il fatto che, per quanto ne sappiamo, il progresso tecnologico è un processo lungo che deve essere perfezionato attraverso continui tentativi, ci consiglia di essere più persistenti con il chatbot.
Tale posizione, come ci si potrebbe aspettare, non solo manca di accettazione ma non riesce nemmeno a ottenere riconoscimento. I critici, guidati da Julia Stoyanovich, che ricopre la carica di professoressa di informatica e direttrice presso il Center for Responsible AI della New York University, hanno affermato che il silenzio amministrativo del software, che veniva ancora sviluppato senza un controllo sistematico, rispecchiava un'indifferenza verso una governance responsabile .
Essendo solo software, il chatbot potrebbe commettere alcuni errori o avere pregiudizi intrinseci. Tuttavia, la decisione della città di mantenere in funzione il chatbot e di avviare la conversazione con la dichiarazione di non responsabilità che i consigli del bot potrebbero non essere sempre accurati, sposta la responsabilità di verificare i dati sugli utenti.
Questo problema ha quindi acceso un dibattito sull’opportunità o meno di meccanismi sufficienti per garantire che l’intelligenza artificiale non venga utilizzata laddove non è accurata a fini normativi.
Piano di attuazione per i piccoli imprenditori
La difficile situazione degli imprenditori di New York segnala una proverbiale “bandiera rossa”; anche la tecnologia che utilizza l’intelligenza artificiale come base deve affrontare il problema dell’affidabilità. L’intelligenza artificiale ha la capacità di ridurre la burocrazia, ma gli errori del chatbot presentano livelli di precisione e affidabilità indispensabili negli usi del settore pubblico.
I proprietari di piccole imprese che affrontano acrobazie verbali dello statuto cittadino troveranno un caso in cui il programma bot può fare un uso improprio dei consigli dell'intelligenza artificiale come pulsante per una valutazione manuale. Gli esperti suggeriscono che è necessario disporre di professionisti legali umani per le questioni di conformità e regolamentazione, prendendo allo stesso tempo i suggerimenti ricevuti dal chatbot come soluzioni preliminari, non definitive.
Nel complesso, lo spettacolo suggerisce un nuovo paradigma per l’esperimento di intelligenza artificiale della città, adottando le riforme strategiche necessarie prima di avviare interventi tecnologici simili nella loro giurisdizione. In definitiva, l’equilibrio tra innovazione e responsabilità guarda al nocciolo della questione che può contribuire all’integrità dei servizi pubblici o mettere a repentaglio la fiducia della comunità.
Le autorità di New York non si lasciano scoraggiare dalla tecnologia e continuano a supportare il loro chatbot basato sull'intelligenza artificiale che potrebbe fornire lezioni utili sulla necessità di tutela della privacy. Quando si tratta di intelligenza artificiale al servizio dell’interesse pubblico, dovrebbe essere utilizzata in modo responsabile, insieme alla fondamentale trasparenza e con l’obiettivo di un miglioramento costante.
D’altro canto, tali risorse possono essere utilizzate con una sana dose di apprensione da parte dei proprietari di piccole imprese. Dovrebbero piuttosto cedere alle fonti giuridiche tradizionali e chiedere loro consiglio.
Storia originale da: https://www.dailywire.com/news/nyc-leaving-ai-chatbot-in-place-after-it-advised-small-businesses-to-break-the-law-said-its- ok-servire-il-formaggio-se-ha-morsi-di-ratto