UE apre una nuova indagine contro X: sotto accusa i deepfake su donne e minori

La Commissione europea ha avviato una nuova indagine formale contro la piattaforma X di Elon Musk, accusando Grok di promuovere la diffusione di contenuti illegali o altamente dannosi. In particolare, si punta il dito su immagini sessualmente esplicite generate o manipulate con intelligenza artificiale, inclusi deepfake non consensuali e persino materiali che potrebbero configurare abusi sessuali su minori.
I deepfake sono video, audio o immagini falsi e iper-realistici creati con tecniche di intelligenza artificiale, in particolare reti neurali come le GAN (Generative Adversarial Networks). Funzionano "scambiando" il volto o la voce di una persona con quella di un'altra, rendendo il contenuto indistinguibile dalla realtà. Sono spesso usati per scopi malevoli, come ricatti, disinformazione o pornografia non consensuale, dove il volto di celebrità, donne comuni o minori viene sovrapposto a corpi nudi senza permesso, causando gravi danni psicologici e violazioni della privacy.

L'indagine di Bruxelles non si limita alla sola generazione di queste immagini tramite Grok: esamina anche i sistemi di raccomandazione di X, che potrebbero amplificarne la visibilità e la circolazione. La Commissione ha richiesto a X una valutazione specifica dei rischi legati a queste funzionalità, con obbligo di risposta entro termini precisi.

“I deepfake sessuali su donne e bambini rappresentano una forma violenta e inaccettabile di degradazione”, ha dichiarato Henna Virkkunen, vicepresidente della Commissione europea con deleghe a sovranità tecnologica, sicurezza e democrazia. “Con questa indagine verificheremo se X abbia rispettato i suoi obblighi DSA o se abbia sacrificato i diritti dei cittadini europei – donne e bambini in primis – come mero danno collaterale del suo business”.