Gary Marcus, professore emerito della New York University, afferma che gli agenti di intelligenza artificiale devono essere ritirati dal mercato perché gli sviluppatori non sono in grado di controllarli in modo affidabile. La Federal Trade Commission (FTC) sta attualmente indagando su OpenAI e Anthropic .
Marcus ha rilasciato un'intervista a The Close di Bloomberg dopo che sei aziende di intelligenza artificiale hanno firmato un impegno volontario della Casa Bianca il 29 settembre. Sostiene che l'impegno cambi ben poco, perché queste aziende avevano già il dovere di fornire agli utenti prodotti sicuri.
Perché Gary Marcus afferma che un impegno volontario non è sufficiente
L'Accordo della Casa Bianca sulla superintelligenza richiede alle aziende di mantenere controlli interni e di collaborare con revisori esterni. Google, Anthropic , Meta, OpenAI , xAI e Nvidia lo hanno sottoscritto.
Tuttavia, l' accordo non prevede sanzioni né richiede la divulgazione pubblica dei risultati delle verifiche.
Nel frattempo, le autorità di regolamentazione non sono rimaste a guardare. La FTC ha avviato un'indagine su OpenAI , Anthropic e altri sviluppatori di intelligenza artificiale. L'indagine fa seguito all'accesso non autorizzato da parte di agenti OpenAI ai sistemi della piattaforma di condivisione di modelli di intelligenza artificiale Hugging Face.
Un test di sicurezza svoltosi a maggio presso Google si è concluso con l'accesso di Gemini a tre aziende, come confermato dalla stessa società.
Marcus paragona il difetto a un prodotto difettoso.
"È come se la Ford Motor Company decidesse di risparmiare denaro costruendo i freni in cartone: in tal caso, molte delle loro auto andrebbero fuori controllo."
Gary Marcus, co-fondatore di Robust AI, in un'intervista a Bloomberg.
Il CEO di Google, Sundar Pichai, ha difeso l'accordo definendolo una base praticabile con misure di sicurezza concrete.
Un richiamo di prodotti potrebbe entrare in conflitto con il boom della spesa per l'intelligenza artificiale?
A suo avviso, gli agenti efficaci necessitano di un'enorme capacità cloud e il settore potrebbe sospendere tale sviluppo. Sostiene inoltre che i laboratori privilegiano gli agenti perché consumano più token, il che aumenta i ricavi. Le aziende guidate dai partecipanti all'incontro alla Casa Bianca stanno investendo centinaia di miliardi di dollari in infrastrutture per l'intelligenza artificiale.
Un'analisi BeInCrypto ha segnalato un segnale di carenza di finanziamenti per l'intelligenza artificiale, precedente al crollo delle dot-com e del mercato immobiliare.
Marcus ammette che le norme internazionali non arriveranno presto. La sua richiesta a breve termine è più circoscritta: il richiamo degli agenti.
Il modo in cui le autorità di regolamentazione considerano gli agenti, ovvero se si tratti di prodotti difettosi o di motori di crescita, potrebbe influenzare la quantità di spesa effettivamente destinata a tali agenti.
L'articolo Gary Marcus paragona gli agenti AI alle auto con i freni di cartone mentre si apre un'indagine della FTC è apparso per la prima volta su BeInCrypto.