Notizie orribili sono circolate sui social media quando la piattaforma X di Elon Musk ha promosso notizie sull’attacco dell’Iran a Israele sulla prima pagina del suo feed di notizie, Explore.
Giovedì, uno dei titoli del news feed principale di X diceva:
“L’Iran colpisce Tel Aviv con missili pesanti”,
Questo sarebbe stato un aggiornamento piuttosto preoccupante considerando lo scenario geopolitico e il recente attacco di Israele all'ambasciata iraniana in Siria, che ha ucciso alti funzionari, e le tensioni tra le due nazioni, che si sono ulteriormente intensificate durante l'invasione israeliana di Gaza. Quindi forse non è un buon momento, ma un momento ideale potrebbe essere per coloro che vogliono promuovere titoli fuorvianti per qualsiasi motivo, e il ruolo dell’intelligenza artificiale (intelligenza artificiale) non può essere ignorato quando può essere utilizzata come strumento per atti così atroci.
Il titolo era falso e, cosa ancora più preoccupante, è stato generato dal chatbot AI ufficiale di X, Grok, e poi promosso sulla prima pagina delle notizie di tendenza di Esplora di X il giorno in cui questa funzionalità è stata aggiornata a una nuova versione.
La spinta verso l'automazione di Elon Musk: innanzitutto perché è avvenuto l'incidente
Tornando alle radici dell'incidente, diventa ovvio che il titolo fuorviante generato da Grok è uscito come prodotto della transizione del lavoro di cura dei contenuti critici gestito dagli esseri umani, ora affidato all'intelligenza artificiale, che non è ancora completamente intelligente.
La piattaforma X precedentemente Twitter aveva una funzionalità che forniva un contesto scritto per gli argomenti delle notizie di tendenza. Probabilmente quelle descrizioni erano scritte da esseri umani. L'algoritmo di Twitter è stato in grado di individuare parole chiave pertinenti e condividere la tendenza con argomenti di tendenza in base ai suggerimenti di parole chiave.
Successivamente, Twitter ha formato un team di redattori umani per curare le notizie e gestire le tendenze per ottenere risultati migliori, in modo che gli argomenti di tendenza non fossero più lasciati alla mercé degli algoritmi; avevano piuttosto un elemento umano dietro di loro, quindi è stato adottato un approccio più affidabile. Twitter ha inoltre collaborato con le principali agenzie di stampa come Reuters e AP per rafforzare ulteriormente il processo di creazione di un contesto generato dall'uomo per gli argomenti di tendenza.
Ma le cose sono cambiate quando Musk ha acquisito Twitter nel 2022, lo ha rinominato X e ha sostituito il contesto scritto da umani nelle notizie di tendenza. L’intero team di redattori umani è stato licenziato poiché Musk preferiva l’intelligenza artificiale per curare le notizie in modo più efficiente, ma aveva i suoi difetti.
I rischi di affidarsi esclusivamente all’intelligenza artificiale
Il fatto che Musk sia così ambizioso per Grok e lo promuova in ogni occasione, pur sapendo che è ancora nelle sue fasi iniziali e non così affidabile, è di per sé una preoccupazione. La sostituzione degli editori umani con l’intelligenza artificiale da parte di Musk potrebbe comportare alcuni vantaggi finanziari, ma comporta anche dei costi.
Il fatto che il titolo non sia stato preso dal feed di qualcuno ma piuttosto generato da Grok, il chatbot AI nativo sulla piattaforma X. Ma il fatto più preoccupante è che anche se Grok ha generato un titolo così falso in primo luogo, è stato poi promosso nella parte superiore della pagina delle notizie Esplora.
Ciò dimostra che non esisteva un sistema di controllo tra la generazione e la promozione di queste notizie e, se esisteva un sistema, non era sufficiente e l'azienda si affidava totalmente all'intelligenza artificiale per svolgere il lavoro. Come affermato in precedenza, l’intelligenza artificiale non è ancora abbastanza intelligente da gestire argomenti delicati, nonostante offra molti vantaggi nell’analisi dei dati e fornisca risultati con maggiore efficienza di quanto umanamente possibile. Tuttavia, ci sono aree che necessitano dell’intervento umano e l’intelligenza artificiale potrebbe richiedere del tempo per raggiungere quello stadio. Fino ad allora, affidarsi esclusivamente alle procedure di intelligenza artificiale non è una mossa intelligente.
Storia originale su Mashable