Meta ha invitato ad andare oltre nella sua repressione sulle app “nudifini”

Meta ha intrapreso azioni legali contro una società che pubblica annunci sulle sue piattaforme che promuovono le cosiddette app “nudifie”, che in genere utilizzando l’intelligenza artificiale (AI) per creare immagini nude false di persone senza il loro consenso.

Ha citato in giudizio l’azienda dietro le app di Crushai per impedirgli di pubblicare annunci del tutto, a seguito di una battaglia per gatti e topo per rimuoverle per una serie di mesi.

“Questa azione legale sottolinea sia la gravità con cui prendiamo questo abuso e il nostro impegno a fare tutto il possibile per proteggere la nostra comunità da essa”, Meta ha detto in un post sul blog.

Alexios Mantzarlis, che è autorizzato il blog falsi, ha affermato che ci sono stati “almeno 10.000 annunci” che promuovono l’AP nudificante sulle piattaforme Facebook e Instagram di Meta.

Mantzarlis ha detto alla BBC di essere felice di vedere Meta fare questo passo, ma ha avvertito che doveva fare di più.

“Anche se stava facendo questo annuncio, sono stato in grado di trovare una dozzina di annunci di Crushai Live sulla piattaforma e un centinaio di altri da altri” nudificatori “”, ha detto.

“Questo vettore di abuso richiede un monitoraggio continuo da parte dei ricercatori e dei media per mantenere responsabili le piattaforme e ridurre la portata di questi strumenti nocivi.”

Nel suo blog, Meta Sad: “Continueremo a prendere le misure necessarie – che potrebbero includere un’azione legale – contro coloro che abusano delle nostre piattaforme come questa”.

La crescita dell’intelligenza artificiale generativa ha portato a un aumento delle app “nudificanti” negli ultimi anni.

Sono diventati così pervasivi che ad aprile la Commissione per bambini per l’Inghilterra ha invitato il governo a introdurre una legislazione per vietarli del tutto.

È illegale creare o possedere contenuti sessuali generati dall’IA con i bambini.

Ma Matthew Sowemimo, responsabile associato per la sicurezza dei bambini online presso la NSPCC, ha affermato che la ricerca della carità ha dimostrato che i predatori stavano “armando” le app per creare immagini illegali di bambini.

“Il pedaggio emotivo sui bambini può essere assolutamente devastante”, ha detto.

“Molti sono lasciati sentirsi impotenti, violati e spogliati del controllo sulla propria identità.

“Il governo deve agire ora per vietare le app ‘nudify’ per tutti gli utenti del Regno Unito e impedire loro di essere pubblicizzati e promossi su vasta scala.”

Meta ha affermato di aver anche apportato un altro cambiamento di recente nel tentativo di affrontare il problema più ampio delle app “nudify” online, condividendo informazioni con altre aziende tecnologiche.

“Da quando abbiamo iniziato a condividere queste informazioni alla fine di marzo, abbiamo fornito più di 3.800 URL unici alle aziende tecnologiche partecipanti”, ha affermato.

L’azienda ha accettato di avere un problema con le aziende che evitano le sue regole per distribuire pubblicità a sua insaputa, come la creazione di nuovi nomi di dominio per sostituire quelle vietate.

Ha affermato di aver sviluppato nuove tecnologie progettate per identificare tali annunci, anche se non includevano la nudità.

Le app nudifie sono solo l’ultimo esempio di intelligenza artificiale utilizzata per creare contenuti problematici su piattaforme di social media.

Un’altra preoccupazione è l’uso dell’intelligenza artificiale per creare piatti profondi – immagini o video altamente realistici di celebrità – per truffare o fuorviare le persone.

A giugno Il consiglio di sorveglianza di Meta Ha criticato la decisione di lasciare un post di Facebook che mostrava un video Manipolato AI di una persona che sembrava essere la leggenda del calcio brasiliana Ronaldo Nazário.

Meta ha precedentemente tentato di combattere i truffatori che usano fraudolentemente le celebrità in pubblicità mediante l’uso della tecnologia di riconoscimento facciale.

Richiede anche inserzionisti politici Dichiarare l’uso dell’IA, a causa delle paure sull’impatto dei profondità sulle elezioni.