Deepfake, cinismo y diversión en la crueldad: un caso de colegiales y pornografía en Ecuador (monográfico)

Abstract

Los debates sobre la inteligencia artificial (IA) generativa han cobrado fuerza. Sus usos expandidos provocaron asombro y también conmoción al ver cómo derivaron en acciones que afectan la concepción de la realidad. El deepfake es una tecnología que crea videos, imágenes o audios falsos mediante algoritmos de aprendizaje profundo que —al conjugarse con lógicas del cinismo y la crueldad hacia otros— amenazan la integridad y la verdad. El objetivo del artículo es debatir críticamente los usos instrumentales de la IA para crear contenidos visuales manipulados y pornográficos. La metodología tiene carácter cualitativo, mediante revisión bibliográfica y documental, entrevistas y un análisis de caso: unos jóvenes crearon más de 700 fotos y videos falsos, con rostros de mujeres de distintas edades, estudiantes de un colegio de Quito. El artículo debate cómo se relacionan la tecnología, las juventudes, la pornografía, la lógica del cinismo y la formación de redes y enjambres digitales, así como la necesidad de políticas públicas en el campo educativo ante los “ultrafalsos”.