Fuente: Revista Paula
En el último tiempo, se han conocido distintos casos de mujeres cuyas imágenes han sido manipuladas con inteligencia artificial para crear contenido sexual sin su consentimiento. Una forma de violencia que abre preguntas sobre la responsabilidad de quienes las producen, el papel de las plataformas y la respuesta de la ley. Para Helena Román, socióloga experta en violencia de género digital, la agresión comienza incluso antes de que las imágenes se compartan y sus consecuencias pueden prolongarse mucho después de que dejan de circular.
Una mujer abre sus redes sociales y descubre que su rostro aparece en un video pornográfico. Nunca participó en esa grabación, no estuvo en ese lugar, no realizó esas acciones y tampoco autorizó que su imagen fuera utilizada de esa manera. Sin embargo, el contenido existe, circula y puede llegar a personas de su entorno, instalando la duda de si lo que muestra podría ser real.
Ese es uno de los riesgos de los deepfakes sexuales, imágenes o videos de contenido sexual creados o manipulados mediante inteligencia artificial (IA) sin el consentimiento de la persona representada. Hoy es posible generar escenas desde cero o producirlas a partir de una fotografía, sin necesidad de tener grandes conocimientos de edición. Y aunque lo que muestran nunca haya ocurrido, las consecuencias para quienes aparecen en ellas pueden ser muy reales.Play Video
“La agresión no empieza cuando la imagen se empieza a difundir, sino que cuando la produzco”, plantea Helena Román, doctora en Sociología por la Universidad de Salamanca y académica del Departamento de Sociología de la Universidad Alberto Hurtado, durante un conversatorio sobre inteligencia artificial y violencia de género realizado en el marco de la segunda Semana de la Inteligencia Artificial de esa casa de estudios.
La investigadora, que estudia las violencias contra las mujeres en entornos digitales, propone una distinción importante. El problema no comienza necesariamente cuando una imagen llega a otras personas. Crear una representación sexual de alguien sin su consentimiento ya supone una vulneración de su autonomía, incluso si ese contenido nunca se comparte. Desde esa perspectiva, los deepfakes sexuales no pueden entenderse únicamente como un problema de difusión de imágenes falsas, sino como una nueva forma de ejercer violencia sexual.
Lee la nota completa <<<