IA en manos peligrosas: impactos jurídicos de los deepfakes pornográficos

Abstract

Los deepfakes representan una de las preocupaciones más urgentes en la sociedad contemporánea. Estas creaciones artificiales, generadas a través de la manipulación avanzada de imágenes y vídeos, han afectado gravemente tanto a figuras públicas como a personas particulares. Su origen se vincula al desarrollo de redes neuronales profundas propias de la inteligencia artificial generativa [en adelante IA generativa]. En particular, los deepfakes pornográficos han generado un grave impacto en los derechos de las personas, a través de técnicas de ingeniería social se ha vulnerado la dignidad en entornos digitales, cuyos contenidos falsos han sido divulgados en las diferentes plataformas de redes sociales. El avance de las TIC y la IA han posibilitado la creación de deepfakes, pero su uso indebido ha generado riesgos significativos para la seguridad y privacidad online. Ante esta problemática, el soft law, mediante principios éticos y estrategias de educación digital, busca promover una conciencia crítica sobre el manejo responsable de la IA y el respeto a los derechos fundamentales en entornos virtuales. Sin embargo, cuando estas medidas no logran contener los abusos, el hard law cobra relevancia como un mecanismo de regulación vinculante, que busca garantizar una protección efectiva frente a las vulneraciones cometidas a través de la tecnología. Desde una perspectiva jurídica, se ha visto que los deepfakes pornográficos vulneran derechos constitucionales, como la dignidad humana, privacidad y el honor de las personas afectadas. En el ámbito penal, esta tecnología compromete gravemente la intimidad, integridad e indemnidad sexual, lo que exige una respuesta firme y proporcional. Frente a estos desafíos, resulta urgente fortalecer los marcos regulatorios y fomentar una conciencia pública crítica sobre los riesgos de la manipulación digital y sus impactos en la vida de las personas.