YouTube sta sviluppando strumenti per rilevare l'uso di versioni generate dall'intelligenza artificiale delle voci o delle sembianze fisiche degli utenti nei video senza il loro consenso. In un annuncio di oggi, la piattaforma di proprietà di Google ha affermato che questi strumenti proteggeranno i creatori sulla sua piattaforma.
L’annuncio è uno sviluppo positivo poiché gli strumenti affrontano le principali preoccupazioni relative alla proliferazione dei deepfake, che a volte portano a perdite finanziarie e di reputazione. Molti sperano che ciò renda il processo di identificazione e segnalazione dei deepfake più fluido.
Due strumenti si concentrano sulla tutela dei musicisti e dei personaggi pubblici
L’azienda ha spiegato che sta lavorando su due strumenti. Il primo è uno strumento di identificazione della voce cantata che farebbe parte del sistema Content ID di YouTube. Questa funzionalità rileva automaticamente i contenuti generati dall'intelligenza artificiale che simulano le voci cantate di altre persone sulla piattaforma e li rimuove automaticamente.
Per quanto riguarda il secondo strumento, YouTube sta sviluppando una tecnologia che consente a persone famose come creatori, atleti, musicisti e artisti di rilevare e rimuovere i deepfake dei loro volti sulla piattaforma. La società ha osservato che questi strumenti, insieme agli aggiornamenti sulla privacy e ai termini di servizio, sarebbero sufficienti a salvaguardare i creatori.
Tuttavia, l'obiettivo di YouTube non è impedire alle persone di utilizzare l'intelligenza artificiale sulla sua piattaforma; mira solo a garantire l’uso responsabile dell’intelligenza artificiale e a consentire ai creatori di controllare l’uso delle loro sembianze.
Ha detto :
“Crediamo che l’intelligenza artificiale debba migliorare la creatività umana, non sostituirla. Ci impegniamo a collaborare con i nostri partner per garantire che i progressi futuri amplificano le loro voci e continueremo a sviluppare guardrail per affrontare le preoccupazioni e raggiungere i nostri obiettivi comuni”.
Nel frattempo, YouTube non ha fornito una tempistica per quando queste funzionalità sarebbero state disponibili per gli utenti, sottolineando solo che lo strumento di rilevamento della voce che canta necessita ancora di qualche messa a punto, ma che ci sarebbe un programma pilota entro l'inizio del 2025.
YouTube prende in giro la tecnologia per impedire lo scraping dei dati dell'intelligenza artificiale
YouTube ha anche lasciato intendere che sta lavorando a uno strumento per impedire alle aziende di intelligenza artificiale di utilizzare i contenuti sulla sua piattaforma per addestrare i propri modelli senza il permesso dei proprietari. Considerando questo come un problema importante, la piattaforma ha affermato che sta investendo in sistemi in grado di rilevare e impedire a terze parti di prelevare dati dalla sua piattaforma e violare i suoi Termini di servizio.
Tuttavia, ha riconosciuto che i creatori potrebbero voler collaborare con le società di intelligenza artificiale. Pertanto, sta lavorando su come consentire ai creatori di YouTube di controllare il modo in cui terze parti utilizzano i loro contenuti sulla piattaforma.
Nonostante la dura posizione di YouTube nei confronti delle società di intelligenza artificiale che rubano i suoi contenuti per addestrare i loro modelli, la piattaforma e la sua società madre, Google, utilizzano questi contenuti per lo stesso scopo, ma nel rispetto dei termini di servizio. Si prevede di continuare a utilizzare i contenuti per sviluppare strumenti di intelligenza artificiale in modo responsabile.