Recentemente, Meta è stata accusata di danneggiare la salute mentale degli adolescenti, e più di 40 stati l'hanno denunciata, sostenendo di aver "profittato del dolore dei bambini". I politici statunitensi hanno accusato Meta di disturbare il benessere psicologico dei giovani. Meta ha annunciato giovedì che sta sviluppando strumenti basati sull'intelligenza artificiale per proteggere i bambini dalle truffe di sextortion su Instagram.
Le truffe di sestorsione condotte dalle gang su Instagram convincono gli adolescenti a condividere le loro immagini esplicite per poi chiedere denaro o minacciare in altro modo di rendere pubbliche le immagini su Internet.
Sestorsione finanziaria e misure di sicurezza
Meta ha annunciato che sta testando strumenti basati sull'intelligenza artificiale per contrastare la situazione finanziaria. Si dice che gli strumenti forniscano protezione dalla nudità offuscando le immagini che la loro intelligenza artificiale rileva come contenenti nudità mentre vengono inviate ai minori nei messaggi su Instagram. Capucine Tuffier, responsabile della protezione dei minori presso Meta France, ha dichiarato all'AFP che ciò aiuterà a proteggere i bambini dall'esposizione a contenuti intimi indesiderati e darà loro la possibilità di scegliere se vogliono vedere l'immagine o meno, come quando qualcuno riceve un messaggio del genere. , verrà visualizzata una schermata di avviso sopra l'immagine sfocata.
Meta ha affermato che offriranno anche suggerimenti e consigli sulla sicurezza a chiunque riceva o invii tali messaggi, dimostrando un aiuto tempestivo. Sullo schermo apparirà un messaggio che incoraggerà l'utente a non sentire la pressione di rispondere al potenziale inganno e fornirà anche un'opzione per bloccare il mittente e segnalare l'incidente.
Secondo le statistiche delle autorità, nel 2022 quasi 3000 giovani sono stati trovati vittime di truffe di sextortion solo negli Stati Uniti. Nel mese di ottobre, più di 40 stati hanno citato in giudizio la società madre di Instagram, Meta, in un caso affermando che la società aveva tratto profitto dal dolore dei bambini. L'azienda è stata accusata di aver ideato un modello di business che sfrutta i giovani utenti trascorrendo il massimo tempo sulla propria piattaforma, nonostante i danni alla loro salute mentale e al loro benessere.
Meta lavora su soluzioni di machine learning su dispositivo
All'inizio del nuovo anno, Meta ha rivelato che avrebbe lanciato strategie per salvaguardare i minori di 18 anni limitando le politiche di utilizzo dei contenuti e aumentando il controllo genitoriale sulla propria piattaforma. Ieri Meta ha affermato che i suoi ultimi strumenti si basano sul loro lavoro profondamente radicato riguardo alla protezione dei minorenni da potenziali interazioni negative o dannose.
Meta ha detto in un post,
"Stiamo testando nuove funzionalità per proteggere i giovani dalla sextortion e dall'abuso dell'immagine intima e per rendere più difficile per potenziali truffatori e criminali trovare e interagire con gli adolescenti."
Fonte: Meta
Meta ha anche aggiunto,
"La protezione dalla nudità utilizza l'apprendimento automatico sul dispositivo per analizzare se un'immagine inviata in un messaggio diretto su Instagram contiene nudità. Poiché le immagini vengono analizzate sul dispositivo stesso, la protezione dalla nudità funzionerà nelle chat crittografate end-to-end, dove Meta non avrà accesso a queste immagini, a meno che qualcuno non scelga di segnalarcele."
Fonte: Meta
Meta ha inoltre esortato a selezionare i potenziali account che inviano contenuti discutibili e ad applicare loro rigide restrizioni quando si contattano utenti minorenni. Sebbene sappiamo che Meta è stata accusata di aver violato la privacy dei dati dei suoi utenti in molte occasioni, queste misure sembrano essere nella giusta direzione. Ma l'azienda ha anche precisato che non avrà accesso alle immagini inappropriate a meno che non vengano segnalate dagli utenti.