El Gobierno francés anunció este viernes que ha presentado una denuncia ante la Justicia y ante el organismo de verificación de contenidos ilícitos en línea Pharos. Esta acción se debe a la creación y divulgación de “contenidos de carácter sexista y sexual” por parte de la inteligencia generativa Grok, que opera en la red social X.
En un comunicado oficial, los ministros de Economía, Roland Lescure; de la Inteligencia Artificial y la Economía Digital, Anne Le Henanff; y de Igualdad entre Hombres y Mujeres, Aurore Bergé, explicaron que esta decisión se basa en el artículo 40 del Código Penal francés.
Los ministros indicaron que “en los últimos días” Grok ha permitido la generación y difusión de “contenidos de carácter sexista y sexual”. Esto incluye, en particular, la creación de falsos vídeos, conocidos como `deepfakes`, que involucran a personas sin su consentimiento.
Denuncia por contenidos ilícitos
Se refieren a la gran cantidad de vídeos que han surgido, especialmente desde finales de diciembre, donde usuarios de X solicitaron a la inteligencia artificial que generara imágenes de mujeres desnudas sin haberles pedido permiso previamente.
Los tres ministros franceses condenaron “con la mayor firmeza” estas prácticas y enfatizaron “el compromiso constante del Gobierno francés en la lucha contra cualquier forma de violencia sexual y sexista”.
Compromiso del Gobierno francés
Además, subrayaron que internet no es un espacio sin ley ni “una zona de impunidad”. Afirmaron que los delitos sexuales en línea son infracciones penales que deben ser tratadas con la misma seriedad que cualquier otro delito.
En paralelo a su acción judicial, el Ejecutivo francés ha solicitado a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que verifique si X ha incumplido las obligaciones establecidas en el Reglamento de Servicios Digitales de la Unión Europea. Esto incluye la prevención de la difusión de contenidos ilícitos.
