El presente artículo aborda el uso progresivo del deepfake, que es una técnica de inteligencia artificial que ha ganado terreno en la sociedad. Según un estudio de la empresa Deeptrace, en 2018 se registraron 8000 videos deepfake, cifra que ha aumentado a 14678. La mayoría de estos videos eran de contenido pornográfico dirigido exclusivamente a mujeres.

El tema es de vital importancia ya que el deepfake representa una amenaza emergente, pues es usado para engañar y dañar la imagen de las personas, representando a individuos haciendo cosas que nunca hicieron, lo que puede causar traumas psicológicos y daños a su reputación. Además, esta tecnología no se limita a personas específicas, afectando tanto a hombres como a mujeres, incluyendo a niños. Ha sido crucial detectar y combatir este contenido malicioso para proteger derechos fundamentales, como la intimidad y la dignidad humana, y evitar la desconfianza y confusión en la sociedad.

Teniendo todo esto en cuenta, surge la siguiente problemática: ¿es necesario regular el uso ilícito de las técnicas de la IA como el deepfake?

Esto se justificó desde la perspectiva teórica, profundizando en el fenómeno del Deepfake mediante el uso de teorías y conceptos, lo que permitió comprender su funcionamiento, alcance e impacto en la sociedad moderna, ajustándose a nuestra realidad.

En el ámbito de la justificación metodológica, se emplearon instrumentos de investigación, como entrevistas, análisis de documentos y el uso de teorías de confiabilidad, que otorgaron un conocimiento acertado del deepfake. Estos métodos no solo otorgan solidez a nuestra investigación, sino que también proporcionan un marco referencial para futuros estudios en este campo emergente. Y, por último, en el ámbito de la justificación práctica, los resultados obtenidos posibilitaron soluciones óptimas a los problemas mencionados, lo que a su vez contribuirá a prevenir y eliminar el uso ilegal de la inteligencia artificial, sobre todo en casos de deepfake.

Es necesario reconocer que la inteligencia artificial está empezando a innovar en diferentes áreas de la ciencia y la tecnología, dentro de estas, el uso del deepfake es más frecuente. Sin embargo, estos avances tecnológicos acarrean consigo riesgos que deben ser regulados, especialmente cuando se utilizan de manera indebida. Los deepfakes como avance tecnológico pueden llegar a convertirse en un tipo de amenaza significativa para las personas, las instituciones y la sociedad en general si llegan a ser manejados de manera inapropiada.

Como objetivo general de la investigación planteamos que es necesario determinar si hay que regular el uso ilícito de las técnicas de IA, como el deepfake.

De manera similar, se establecieron los siguientes objetivos específicos: (I) describir el funcionamiento del deepfake como técnica de IA y su uso ilícito; (II) examinar casuísticas recientes de uso ilícito de deepfake y cómo se produce el daño; (III) identificar los fundamentos para la tipificación del uso ilícito de deepfake como técnica de IA.

Es relevante mencionar el origen de la inteligencia artificial, también conocida como IA. Este se remonta a los tiempos después de la Segunda Guerra Mundial, cuando se desarrolló la “prueba de Turing”, título otorgado en honor a su creador, Alan Turing. Posteriormente, fue John McCarthy quien adoptó el término inteligencia artificial.

En un principio, se creía que su uso se limitaría exclusivamente al campo de la ciencia, y que se dirigiría a mejorar y simplificar la existencia del ser humano. Sin embargo, con la introducción de nuevas tecnologías y las conocidas redes de comunicación y de entretenimiento, su uso empezó a ser cada vez más frecuente en las diversas plataformas de entretenimiento.

Vale precisar que la idea central de la aplicación de la IA era que su uso se diera a través de operaciones simples y primitivas, mediante las cuales se pudieran ir construyendo manifestaciones cada vez más profundas; en contraste con esto, se tiene en consideración que su crecimiento exponencial se atribuye a dos factores fundamentales: los avances especializados de hardware que maximizan su rendimiento neuronal y el incremento de datos amplios en línea de bajo costo vía crowdsourcing, que impulsan su desarrollo.¹

La IA designa la capacidad de las máquinas para utilizar algoritmos, aprender de los datos y tomar decisiones de manera similar a los seres humanos.² Sin embargo, existen diferencias fundamentales entre las máquinas impulsadas por IA y los humanos: los dispositivos basados en IA no requieren de descanso, puesto que no se fatigan, a diferencia de los seres humanos, que sí necesitan periodos de descanso. Por otra parte, la IA tiene la capacidad de analizar grandes cantidades de datos simultáneamente, así como de identificar patrones y predecir resultados para la toma de decisiones. De igual manera, en algunas áreas, estos dispositivos son más eficientes, teniendo un margen de error considerablemente menor al de los seres humanos, aunque no se encuentran exentos de fallos. Por otra parte, se debe considerar que el ser humano ya hace tiempo ha ido conviviendo con máquinas que reemplazan y mejoran sus habilidades, pero en los últimos años la IA ha experimentado un crecimiento innovador en los procesos rutinarios , lo que ha acarreado daños irreversibles cuando es usada de manera inapropiada o maliciosa, por medio de nuevas aplicaciones que están disponibles para cualquier tipo de usuario, lo que genera preocupación.³ En el caso de los deepfakes, se usan algoritmos automáticos, que producen imágenes plausibles acerca de cómo se vería una persona en un entorno, con una iluminación y con poses particulares. Esto se puede realizar de manera rápida o a través de animaciones faciales basadas en la IA.⁴

En este contexto, existen posturas que consideran a la IA como una prioridad mundial, junto con otros riesgos sociales, como las guerras nucleares y las pandemias.⁵ La IA genera preocupación y temor, debido a su capacidad para distorsionar de manera errónea e incorrecta la realidad, por lo que es necesario frenar estos actos antes de que adquieran más poder y que provoquen trastornos sociales. Además, la manipulación y los riesgos asociados con la IA también se utilizan para causar daño personal. Uno de los riesgos más graves son los ataques cibernéticos y la ingeniería social, en los que ciertas personas crean perfiles falsos, mediante algoritmos automáticos, utilizando datos reales, y estos perfiles, posteriormente, llegan a ser manipulados para acceder a datos personales y contraseñas de otros usuarios. Por último, existe el riesgo de la manipulación de imágenes, videos o textos, que pueden ser reutilizados y clonados.⁶

Es verdad que los beneficios de la IA son notoriamente útiles en diferentes ámbitos. Sin embargo, existe un gran número de usuarios que suele usarla con fines ilegales, como la desinformación dirigida a diversos sectores de la sociedad. En muchos casos, hay un conocimiento limitado sobre el uso de las nuevas tecnologías, y para el usuario promedio resulta difícil distinguir entre lo verdadero y lo falso.

En ese sentido, es menester mencionar que el Parlamento Europeo, en relación con el creciente uso de deepfakes y de la IA, ha señalado que estas herramientas permiten todo tipo de fraude, especialmente aquellos que implican la suplantación de identidad. En la misma línea, dentro de los sectores más vulnerables que llegan a ser víctimas del uso ilegal de la IA, como los deepfakes, se encuentran principalmente mujeres, puesto que tienen un mayor riesgo de sufrir difamaciones, intimidación y extorsión, ya que este tipo de tecnologías suelen utilizarse para intercambiar las caras de las víctimas con las de actrices en videos pornográficos.

Es por esto que, a fin de combatir esta amenaza, se han desarrollado sistemas avanzados. Sin embargo, estos sistemas suelen ser de difícil acceso para el usuario promedio, debido a la complejidad de los algoritmos involucrados, lo cual es un aspecto importante que debe tenerse en consideración. Es por esto que ahora poder diferenciar entre lo real y lo falso es de vital importancia, puesto que actualmente en las redes sociales, con la creación de deepfakes, es necesario desarrollar un sistema sólido que identifique los medios falsos, sin la intervención humana, a fin de reducir información falsa.⁷

Según algunos estudios, la globalización ha llevado a la expansión mundial de la IA. Sin embargo, surge la pregunta sobre si su implementación es esencial para nuestro desarrollo como seres humanos o si, por el contrario, podría representar un riesgo, como algunos sugieren.⁸ Es por esto que los avances de la IA deben ser analizados con base en sus implicaciones éticas, ya que la IA no puede dirigirse hacia un deterioro de los derechos fundamentales de las personas, tanto naturales como jurídicas. Si la IA llega a causar daño, nuestro ordenamiento jurídico debe estar dirigido en especial al cuidado de la víctima y debe brindarle a esta una solución eficiente, y no debe centrarse en la hermenéutica jurídica, con el fin de hallar un culpable, y de asignarle una responsabilidad objetiva a quien ocasione daños a través del uso de IA.⁹ En contraste con esto, algunas investigaciones refieren que la IA es de naturaleza evasiva, debido a la complejidad e imprevisibilidad de los posibles daños que esta puede generar; sobre todo al momento de determinar una responsabilidad, si existiese, ante los riesgos tecnológicos que se identifican de forma creciente,¹⁰ como los delitos cibernéticos, delitos que son el nuevo paradigma del gran cambio revolucionario tecnológico. Es por eso que los procesos de digitalización deberían ir modelando la modernización del Estado, sobre todo en el campo jurídico, ya que es un gran reto legal regular el uso de las nuevas tecnologías.¹¹ En este sentido, es cierto que existe incertidumbre jurídica ante la posibilidad de que existan fallas en los procedimientos realizados por la IA; sin embargo, resulta innegable que necesitamos una legislación específica en el ámbito de la IA, aunque pueda parecer anticipado en nuestro país plantear normas legales al respecto. Teniendo en cuenta el contexto global, la aplicación del derecho también cambia en cuanto al desarrollo de la IA, es por esto que es necesario contar con normas específicas sobre la materia.¹²

La IA ha ido en aumento en estos últimos años y ha sorprendido por su capacidad para contribuir en diversas actividades, así como por el hecho de que es usada por un público amplio, que abarca desde estudiantes hasta científicos experimentados, lo que recalca que su uso también puede llegar a ser ilícito y malicioso, como en la creación de fotos y videos falsos, conocidos como deepfakes, tema que se abordará más adelante.

La IA, aparte de ser una ayuda de manera tecnológica y cibernética, con el tiempo puede trabajar con los servicios públicos y privados a través de la tecnología analítica de reconocimientos y datos, las mismas que lucharán contra el fraude. Por ende, deben desarrollarse y usarse con base en ciertos requisitos éticos y legales, ya que pueden afectar a los derechos de la protección personal y de datos y la propia privacidad.¹³ El avance progresivo de la IA se asemeja al desarrollo del deepfake, que es una tecnología que genera contenidos extremadamente convincentes, pero falsos. Estos contenidos tienen un alto potencial para causar estragos a gran escala, comenzando por la desinformación, la distorsión narrativa, el fraude y las amenazas. La implementación de la IA resulta sumamente útil en diversos campos científicos, ya que sus aportes permiten encontrar soluciones efectivas para problemas complejos, debido al vasto almacenamiento de información que posee. Asimismo, nuestro ordenamiento jurídico promueve el uso de la IA con el objetivo de fomentar el desarrollo económico y social del país, siempre y cuando se garantice un uso adecuado, ético y responsable. Sin embargo, no aborda de manera exhaustiva la ilicitud de la IA, especialmente en casos como los deepfakes, en los cuales su uso malicioso puede atentar contra la intimidad, la privacidad, la dignidad humana, el pudor público, la estafa y la exposición de datos sensibles, causando daños irreparables a las personas, es por esto que es fundamental que el legislador establezca de manera precisa su ilicitud.

El deepfake es aquella “falsedad profunda” encargada de utilizar el aprendizaje de la IA para poder, de esa manera, engañar fácilmente, utilizando imágenes, videos y audios; estos últimos serán alterados mediante softwares de IA que permitirán darles la apariencia de ser reales u originales. Algunos autores consideran que la implementación de la inteligencia artificial es necesaria, porque permite obtener grandes avances tecnológicos, incluso con su implementación del deepfake en el entretenimiento o el uso de la sátira (sarcasmo), en diferentes situaciones o sucesos; siempre y cuando exista un límite al derecho de expresión artística, no sería algo negativo, puesto que su uso es el de entretener al internauta y hacerle pasar por un momento de distracción sana, siempre que su uso no deteriore la integridad ética, moral y psicológica de la persona a quien se le realiza.

Los llamados deepfakes son contenidos audiovisuales generados mediante algoritmos de IA, con el objetivo de manipular contenido audiovisual. Su implementación ha aumentado considerablemente el uso de aplicaciones de redes sociales. No obstante, en su mayoría, su finalidad ha sido dañar la reputación de algún individuo o ser utilizados para desinformar en todo el mundo. Es innegable que existen avances en la tecnología deepfake, que tienen varias aplicaciones beneficiosas, como en los negocios, el entretenimiento e incluso la industria cinematográfica; no obstante, también pueden cumplir objetivos dañinos y contribuir a socavar la confianza en la verdad.¹⁴

Por otro lado, el deepfake es una de las evoluciones progresivas que amenazan a la sociedad, ya que se conoce como un fenómeno tecnológico emergente en el campo audiovisual que se encuentra al alcance de cualquier usuario. Por lo cual, las principales preocupaciones se derivan del ámbito de los medios, de las plataformas digitales, de las redes sociales y otros; entendiendo que estos productos audiovisuales son falsos, pero se hacen pasar por auténticos. Los deepfakes representan un avance tecnológico, pero, por otro lado, esto podría conllevar que esta IA mal utilizada se convierta en una amenaza cada vez más grave para las personas, las organizaciones y la sociedad en su conjunto.¹⁵

Según la empresa Deeptrace, en un estudio realizado recientemente se menciona que en 2018 se registraron 8000 videos deepfakes, los cuales han aumentado actualmente a 14678, en los cuales la mayor parte del material era pornográfico y un 96% se encontraba en línea, superando los 100 millones de vistas; por otra parte, también se mencionó que este tipo de videos se dirige exclusivamente a las mujeres.

Por otro lado, la amenaza emergente del deepfake ha causado revuelo en diferentes partes del mundo; por consiguiente, se han precisado casuísticas notorias en diferentes países, lo que demuestra la prontitud con la que este tipo de amenazas deben ser abordadas, con el fin de proteger a las personas de sus daños potenciales y devastadores.

Un caso que, particularmente, ilustra esta problemática se suscitó en septiembre de 2023, cuando se reportaron víctimas de deepfake en el municipio de Almendralejo, provincia de Badajoz, en la región autónoma de Extremadura, España. En esta ocasión, los padres de veinte estudiantes adolescentes denunciaron que sus hijas eran víctimas de imágenes generadas por inteligencia artificial, en las que se las mostraba completamente desnudas, y que estas imágenes se estaban distribuyendo en grupos de WhatsApp a un precio de diez euros. Sin embargo, los expertos señalaron que el código penal español no contiene leyes específicas para abordar estos casos de manera efectiva. Por otra parte, el impacto psicológico en las estudiantes fue profundo, ya que esta situación afectó gravemente su bienestar, y este caso reveló una preocupante brecha en la legislación española, ya que el Código Penal español no aborda específicamente este tipo de delitos digitales, lo que deja a las víctimas en una situación de vulnerabilidad ante estas amenazas. De igual forma, los expertos manifestaron sus preocupaciones y la urgente necesidad de reformar las leyes, para enfrentar de manera efectiva los problemas de los deepfakes y proteger a las personas de futuros ataques similares.

El Código Penal español de 1995, en su título X, establece lo siguiente en relación con los delitos contra la intimidad:

El que, sin autorización de la persona afectada, difunda, revele o ceda a terceros imágenes o grabaciones audiovisuales de aquélla que hubiera obtenido con su anuencia en un domicilio o en cualquier otro lugar fuera del alcance de la mirada de terceros, cuando la divulgación menoscabe gravemente la intimidad personal de esa persona.¹⁹

La legislación penal española aborda el caso de aquel contenido audiovisual producido inicialmente con el consentimiento de una persona, el cual posteriormente es publicado sin su autorización, ya sea en el ámbito privado de su hogar o en un lugar externo, siendo esta una figura típica del delito de pornografía. Sin embargo, en el caso del deepfake, la víctima no participa en la creación del contenido; por el contrario, este es generado por algoritmos de IA sin su conocimiento, lo que crea un vacío legal significativo. A pesar de esta diferencia, el resultado es el mismo: ambos delitos atentan contra la intimidad personal, al divulgar material falso o manipulado. En relación con esto, es importante destacar que la Unión Europea está trabajando en la primera normativa específica sobre IA, enfocada en su uso. En este contexto, sería relevante que nuestro ordenamiento jurídico también adoptara figuras legales relacionadas con la IA. De igual forma, Chile ha presentado un proyecto de ley que pretende incorporar el uso de la IA como un factor agravante en la comisión de delitos dentro de su código penal.

Los deepfakes se han convertido en una herramienta de engaño global, que afecta a víctimas a nivel internacional y nacional, las cuales pueden ser desde figuras públicas hasta ciudadanos comunes. Nadie está exento de ser víctima de esta tecnología disruptiva, ya que su impacto trasciende fronteras y contextos sociales.

En el 2021, la famosa escritora británica H. M. fue víctima de un deepfake mediante el uso de inteligencia artificial, en el que se crearon imágenes sexuales explícitas de su persona, las cuales se difundieron ampliamente en las redes sociales. Estos eventos provocaron pesadillas, traumas y ansiedad en la afectada. A pesar de intentar emprender acciones legales, la modalidad específica de la que fue víctima no está tipificada en su país.

Una docente de derecho de la Universidad Royal Hollay de Londres, con respecto a este tipo de delitos, mencionó que “tal acción sería típica siempre y cuando la foto o video sea original, privado y sexual”. A este respecto, Aislinn O’Connell, en una entrevista reciente con la BBC, hizo alusión al caso de las veinte menores del municipio de Almendralejo, mencionado anteriormente: “El escándalo en un pequeño pueblo de España por las imágenes de decenas de niñas y jóvenes desnudas generadas por IA”.²⁰ Por otro lado, Chile presentó un proyecto de ley que pretende incorporar en el código penal chileno el uso ilícito de la inteligencia artificial como un factor agravante de los delitos. Esta iniciativa refleja una creciente preocupación regional por las repercusiones legales de la tecnología emergente y del uso ilícito de la IA. Paralelamente, en nuestro país, un incidente en un colegio de Chorrillos ilustra la relevancia de esta problemática. En este caso, dos estudiantes de aproximadamente quince años tomaron imágenes de sus compañeras de las redes sociales y utilizaron deepfakes para crear y distribuir contenidos con connotación sexual, los cuales eran vendidos clandestinamente a sus pares por montos que oscilaban entre los 15 y 30 soles. Este caso evidencia la necesidad de una respuesta legal y educativa ante estos actos ilícitos.

En contraposición, el exministro del Interior y presidente de la Red Peruana contra la Pornografía Infantil, Dimitri Senmache, manifestó en una entrevista reciente con el diario La República, llamada “El peligro de la pornografía deepfake”, lo siguiente: “En el Congreso habían cuatro proyectos de ley que promovían el uso de la IA en el Perú [...] ninguna de esas iniciativas aborda los nuevos riesgos que trae la IA”.²¹

Mientras tanto, nuestro ordenamiento jurídico en relación con los delitos informáticos y el tráfico ilegal de datos, refiere lo siguiente:

El que crea, ingresa o utiliza indebidamente una base de datos sobre una persona natural o jurídica, identificada o identificable, para comercializar, traficar, vender promover, favorecer o facilitar información relativa a cualquier ámbito de la esfera personal, familiar, patrimonial, laboral, financiera u otro de naturaleza análoga, creando o no perjuicio, será reprimido con pena privativa de libertad no menor de tres ni mayor de cinco años.²²

Del mismo modo, se regula la figura de la suplantación de identidad estableciendo lo siguiente:

El que, mediante las tecnologías de la información o de la comunicación suplanta la identidad de una persona natural o jurídica, siempre que de dicha conducta resulte algún perjuicio, material o moral, será reprimido con pena privativa de libertad no menor de tres ni mayor de cinco años.²³

Dentro de los dos supuestos, se habla sobre las bases de datos, pero se hace un mayor enfoque en la parte informática, económica o de difamación, y no tanto en el contenido de la esfera sexual generada por IA.

De igual forma, el ordenamiento jurídico peruano regula la figura de la manipulación genética, que prescribe que toda persona que haya manipulado genéticamente para clonar a otro ser humano será sancionada. Con respecto a esto, el deepfake es una manipulación de la herramienta tecnológica del IA, la cual no se encuentra aún tipificada en el ordenamiento jurídico para que sea sancionada. He aquí que se visualiza la manipulación tecnológica para poder desvirtuar a la persona a través de plataformas y aplicaciones de internet.²⁴

En síntesis, se puede precisar que nuestro código penal peruano aborda la manipulación de seres humanos desde un enfoque científico y no tecnológico. Mientras que la manipulación que realiza el deepfake es tecnológica, ya que para usarlo no es necesario de un conocimiento previo de ciencia, sino el empleo de una tecnología. De esta manera, es más accesible para cualquier persona que puede hacer uso de un aparato tecnológico, reduciendo ciertos requisitos en cuanto al agente del delito, puesto que incluso un menor de edad podría cometer tal ilícito penal sin ninguna dificultad.

De igual forma, en el segundo supuesto se encuentra más relacionado con el uso de IA, pero desde un punto de vista ambientado en los prejuicios que tienen consecuencias materiales, por lo que no se hace mención a la parte psicológica o moral que suelen padecer las diversas víctimas de su uso ilegal.

Del mismo modo, después de haber precisado los aportes de la IA y las formas en las que es usada para fines maliciosos o ilícitos, a continuación, se plantearán algunos elementos que pueden ayudar a regular el uso indebido de los deepfakes.

El Dr. Frank Almanza y el Dr. Óscar Peña, reconocidos por su capacidad de explicar la teoría del delito de forma breve y comprensible, afirman que el delito, en su concepción jurídica, es todo acto humano voluntario que se adecua al presupuesto jurídico de una ley penal²⁵ y que consiste en una conducta humana prohibida por un dispositivo legal que la expresa. Además, el delito adquiere este carácter solo cuando la conducta “se adecue” a esa fórmula legal.²⁶ Teniendo en cuenta que la teoría del delito aceptada es aquella que dice que el delito es aquella conducta, típica, antijurídica y culpable, esto implica que la conducta de quien comete el delito debe ser tipificada en la ley, por ir en contra de del ordenamiento jurídico y por su consecuencia ser culpable o reprochable penalmente; por otra parte, para que aquella conducta del ser humano sea considerada como penalmente relevante, es necesario que dicho acto se encuentre tipificado dentro de los marcos legales y morales, por ir en contra de leyes existentes y establecidas como delitos. De igual forma, en nuestro código penal se refiere el principio de legalidad, que establece que nadie puede ser sancionado por un acto que no esté antes definido como delito en la ley; del mismo modo, el principio de prohibición del uso de analogías refiere que no se permite el uso de estas para calificar un hecho como delito o definir un estado de peligrosidad. Esto quiere decir que, sin una norma que regule un comportamiento específico, no se puede juzgar a una persona por ese acto, puesto que no se encuentra regulado.

Es por esto que la IA tiene que ser tomada como una prioridad mundial junto a otros riesgos sociales, como las guerras nucleares y la pandemia; ya que esta puede generar preocupación y temor con la difusión desinformada errónea de la realidad, la cual se debe de frenar antes de que tome poder y que provoque un trastorno social.²⁷ La IA no debe ser usada en contraposición a los derechos fundamentales, ya que, en caso de que esta pueda ocasionar perjuicios, nuestro ordenamiento jurídico debe estar enfocado en la víctima, para proporcionar una solución eficiente y asignarle una responsabilidad objetiva a aquellos que puedan ocasionar daños a través del uso de la IA.

En vista de lo expuesto, nuestro ordenamiento jurídico establece que la IA debe usarse de manera ética, por lo que no debe transgredir la privacidad de las personas y debe actuar de manera segura, para que se pueda lograr un impacto positivo en la sociedad. No obstante, cuando esta herramienta tiene como propósito generar contenido que perjudique la imagen de una persona, afectando su reputación; obtener beneficios económicos por su comercio, o ser utilizado para desinformar, deber ser considerada ilícita, puesto que está transgrediendo la dignidad de la persona, siendo este el fin supremo de nuestra sociedad y del Estado.

En la siguiente sección hablaremos sobre los efectos psicológicos de estos actos, especialmente, sobre la necesidad de una regulación más estricta para prevenir abusos de la IA.

El incremento de los deepfakes, especialmente cuando son malintencionados (pornografía artificial), en las redes sociales y en sitios web maliciosos ha permitido causar en las víctimas daños psicológicos y emocionales, así como angustia y humillación.

En este contexto, la lesión que sufre la persona va directamente dirigida a su honor, su reputación y sus sentimientos; estas y esta es causada por otra persona con la modalidad de culpabilidad o dolosa.²⁸

Por ello, en el tipo de violencia que se genera a través de las plataformas de internet y de los mecanismos de la tecnología, las víctimas se ven perjudicadas de manera psicológica, ya que experimentan una violencia invisible no expresada a través de agresiones físicas, pero que sí es susceptible de ser identificada.²⁹

Cabe mencionar que las víctimas en su mayoría son de sexo femenino de distintas edades y que son las mismas que después de este maltrato o daño psicológico sufren ciertas repercusiones, como el temor de mirarse al espejo, de salir a las calles, de ir a los centros educativos superiores, de dirigirse a los centros laborales y, al final, pierden todo tipo de comunicación con su entorno social, llegando a reprimirse socialmente y a tener una idea distorsionada de su realidad.

Por lo tanto, al no existir una ley que regule directamente la figura del deepfake mediante el uso de IA, se estaría permitiendo el detrimento de la integridad moral de una persona, el perjuicio de su imagen y se afectaría su beneficio económico con su circulación.

La metodología se basó en un desarrollo de tipo básico, este tipo de investigación está centrado en la exploración de nuevos conocimientos sin una finalidad práctica inmediata y específica. Su objetivo principal es descubrir principios y leyes científicas, lo que puede eventualmente contribuir a la formulación de una teoría científica.³⁰ El método de investigación se divide en el planteamiento del problema, la teoría que sustenta el problema y el diseño, en los cuales se incluyen datos, análisis y procedimientos de interpretación para emitir recomendaciones y conclusiones.³¹ Del mismo modo, en el proceso de recolección de datos es necesario analizar minuciosamente los datos, que generalmente se obtienen mediante métodos como entrevistas, observaciones y análisis de documentos.³²

Por lo tanto, el enfoque de la investigación fue cualitativo, ya que se buscaba estudiar los diferentes objetos para poder comprender la vida social y adquirir conocimientos. El enfoque cualitativo se sustenta en evidencias para orientar la descripción profunda del fenómeno que tiene como finalidad comprender y explicar las aplicaciones metodológicas y técnicas derivadas de conceptos y fundamentos epistemológicos.³³

Correspondiente a ello, el diseño no experimental se caracteriza por no manipular intencionalmente las variables que se estudian. En lugar de esto, observa los fenómenos tal como ocurren en su contexto actual, para luego analizarlos. Para clasificar la investigación no experimental, utilizamos la dimensión temporal, es decir, consideramos el número de momentos o puntos en el tiempo en los cuales se recopilan los datos.³⁴ Esta metodología es inductiva, ya que busca generar o establecer teorías a partir de datos, comenzando por la pregunta y la recopilación de datos cualitativos, y, posteriormente, se contrastan las teorías existentes con las emergentes.³⁵ Ante esto, es aquel “método versátil”, que se regirá por la recolección de información y de datos para establecer la teoría, el que constituye una recopilación y un análisis por medio de un proceso arduo de investigación.³⁶

Además, este método se divide en categorías y subcategorías, las mismas que permitirán definir la investigación. De este modo, estos pasos metodológicos son los que tienden a ordenar los elementos que constituyen analítica e interpretativamente la investigación³⁷, por lo que se plantearon las siguientes categorías: 1) uso ilícito de la IA, que se detallará con el desarrollo de las subcategorías de I) formas y II) casuística; 2) deepfake, que se desarrollará con las subcategorías de I) fundamentación de su tipificación, II) uso ilícito y III) producción del daño.

Nuestro escenario de estudio abarcó las ciudades de Cajamarca y Trujillo. Estos lugares proporcionan un contexto relevante para nuestra investigación, ya que, son las ciudades donde se encuentran los investigadores. En cuanto a los participantes, se tuvo en consideración a los siguientes expertos del derecho, que contribuyeron de manera significativa al estudio: dos fiscales; un asistente en función fiscal; un docente universitario, quien aportó conocimiento teórico práctico, y cuatro abogados litigantes, quienes nos ofrecieron su amplia experiencia en el campo del derecho.

La muestra, conformada por ocho especialistas, se considera adecuada para cumplir con el objetivo de nuestra investigación. No incluimos a otros especialistas de otras ramas del derecho, ya que sus contribuciones podrían no ser significativas en este contexto específico. Dado que nuestro enfoque es cualitativo y no estadístico, esta selección se basó en el criterio del investigador.

Para la recolección de información, la técnica se basó en la búsqueda de información (indexada y científica) en repositorios universitarios y en citas bibliográficas, y se empleó el análisis documental. De tal manera, se realizaron entrevistas, las cuales nos facilitarán la organización de las etapas para la interpretación de la investigación. Esto se hizo teniendo en cuenta que “la técnica es la herramienta que está destinada a la recogida de datos para el enfoque de la investigación con criterio estructural”.³⁸

El instrumento se adaptó al cuestionario de entrevistas y a la guía de análisis de documentos. Estos elementos se utilizaron para estructurar las unidades de análisis (categorías y subcategorías), así como para interpretar los objetivos del estudio. Además, se consideraron las respuestas proporcionadas por los especialistas entrevistados, y su posterior análisis.

Por lo tanto, el procedimiento de la investigación se llegó a regir desde la realidad problemática, la recolección de información, la misma que emplea la técnica de análisis documental e instrumental de la ficha documental, la cual estará referida a tres casos en específicos, dos internacionales y uno nacional.

Cada guía de análisis documental o ficha documental estuvo compuesta por categorías, subcategorías, análisis e interpretación. Las categorías se han derivado de datos y las subcategorías lo hacen a medida que se continúa la explicación sobre la elaboración de las categorías citadas.

Es de vital importancia mencionar que la compilación de la información se hizo a partir de fuentes documentales bibliográficas, en la biblioteca virtual y otras instituciones nacionales e internacionales, siendo las consultas bibliográficas las encargadas de definir el tema, la búsqueda de los materiales, la recopilación de análisis críticos, la estructura de la investigación y las conclusiones.³⁹ Así mismo, el procedimiento permite alcanzar el fin con un conocimiento racional sistemático y organizado, ya que el modelo del trabajo es de secuencia lógica y está orientado hacia la investigación.⁴⁰

Por lo tanto, se realizaron entrevistas a ocho expertos en derecho penal mediante un cuestionario y luego se realizó un análisis de cada uno; posteriormente, se crearon tablas, de las cuales se obtuvieron datos cualitativos que luego fueron analizados en la sección de discusión y resultados y objetivos del estudio de investigación. Finalmente, se realizaron recomendaciones y conclusiones útiles para el desarrollo del proyecto de investigación.

El rigor científico es la fase metodológica de la que se obtienen los datos cualitativos válidos y confiables que fueron utilizados en la investigación, ya que incluye la planificación, el desarrollo y el análisis del proyecto y se adhiere a un protocolo de actuación con impacto demostrativo con argumentos basados en evidencia.⁴¹

En el método de análisis de información se aplicó el procedimiento, la recopilación y el lineamiento, con la finalidad de que se analicen e interpreten los objetos de estudio de las categorías y subcategorías. La información se ampara en el i) método analítico, que permitió el estudio en profundidad de los objetos de estudio separados de las categorías de estudio, para sacar conclusiones fiables más adelante; en el ii) método hermenéutico, con el que se realizó una interpretación reflexiva de la figura del deepfake en el derecho peruano y la necesidad de su regulación; por último, iii) en el método inductivo-deductivo, con el que se efectuó la construcción cognitiva sobre el deepfake en el derecho, desde lo general a lo particular.

En el aspecto ético, en comparación con los progresos de la ciencia y la investigación, la indagación científica académica nos brinda una visión de las restricciones inherentes a la ciencia y la investigación. Estas limitaciones deben ser tenidas en cuenta al momento llevar a cabo cualquier estudio.⁴² Asimismo, se respetaron los derechos de autor y la correcta estructura de citación, el cual cautela los derechos de autor de los expertos citados.

De tal manera que, para nuestro proyecto de investigación, se cumplió con los objetivos expuestos durante la recolección de resultados obtenidos mediante la utilización de fundamentos en revistas científicas, libros, tesis y artículos de repositorios de diversas universidades a nivel nacional e internacional, respetando las normas de la American Psychological Association (APA). Es importante señalar de manera precisa y concisa que en el proyecto se han citado a los diversos autores de manera adecuada, respetando su derecho de autor y teniendo en cuenta que el trabajo de investigación no debe exceder el 20% de plagio, con el fin de respetar las investigaciones previas.

Para desarrollar los resultados de nuestra investigación, creamos figuras y tablas que facilitaron la visualización y el análisis de la información recopilada, así como las perspectivas y opiniones proporcionadas por los entrevistados. A continuación, presentamos los resultados organizados según los tres objetivos específicos que nos planteamos.

Después de obtener los resultados observados, es factible iniciar la fase de discusión, sin perder de vista el objetivo general: describir el funcionamiento de los deepfakes como una técnica de inteligencia artificial, así como su uso ilícito. Además, contextualizamos este análisis en un marco más amplio. Esto se abordó a través de entrevistas a especialistas (Figura 1), mediante las cuales se mostró que la mayor parte de los entrevistados coincidieron en que el deepfake es un tipo de tecnología emergente que tiene como finalidad crear archivos totalmente falsos, con las identidades de las personas, aunque tiene un propósito legítimo cuando se aplica en el campo del cine y de la creatividad. Sin embargo, lamentan que sea usado de manera inapropiada o ilícita para difamar, dañar la imagen personal y acosar a personas, mediante la creación de videos falsos que las muestran realizando acciones inadecuadas. De igual forma, consideraron que en un futuro el uso ilícito del deepfake como técnica de la IA será más frecuente en nuestro país y que se podría volver en algo habitual, dado que la IA está en evolución y es una tendencia que está obteniendo cada día más adeptos; paralelamente, advierten que esta herramienta está al alcance de usuarios de todas las edades, incluidos los menores de edad, los cuales usan las redes sociales frecuentemente y no siempre se encuentran supervisados por un adulto responsable.

La situación mencionada está respaldada por una investigación que se encuentra previamente citada, la cual aborda el tema de los deepfakes, y refiere que estos son contenidos audiovisuales generados mediante algoritmos de IA que tienen como objetivo manipular contenido audiovisual y que en su mayoría tienen como finalidad dañar la reputación de algún individuo o desinformar en todo el mundo. Así mismo, concluye que, aunque los avances en la tecnología del deepfake tiene varias aplicaciones beneficiosas para campos como el de los negocios, del entretenimiento o, incluso, de la industria cinematográfica, también pueden cumplir objetivos dañinos y contribuir a la falta de credibilidad en la verdad.⁴³ De forma análoga, se ha señalado que la IA ha experimentado un incremento de manera innovadora en los procesos rutinarios, pero que también ha causado daños irreversibles, debido a su mala utilización, ya que, a través de aplicaciones nuevas dirigidas y disponibles al alcance de cualquier usuario, es usada de manera inapropiada o maliciosa, y puede causar daños irreversibles, lo que genera preocupación.⁴⁴

De manera similar, se ha señalado que los deepfakes representan evoluciones progresivas, que amenazan a la sociedad, ya que se conocen como un fenómeno tecnológico emergente en el campo audiovisual que se encuentra al alcance de cualquier usuario. Por este motivo, las principales preocupaciones se derivan del ámbito de los medios, de las plataformas digitales, de las redes sociales, entre otros, en los que los deepfakes generalmente son entendidos como productos falsos, que se hacen pasar por auténticos. Si bien deepfakes representan un avance tecnológico, su uso indebido podría llevar a que se conviertan en una amenaza cada vez más grave para las personas, las organizaciones y la sociedad en su conjunto.⁴⁵

En relación con objetivo específico 2, que estuvo enfocado en examinar casuísticas recientes sobre el uso ilícito de deepfakes y el tipo de daño que producen (Tabla 1). A partir del análisis documental de la casuística, se obtuvo que los deepfakes en países como Reino Unido, Estados Unidos, Italia, España y Perú dan como resultado que la mayoría de las víctimas son personas famosas que trabajan en campos como el arte, la música o la actuación. Además, también se vieron afectados personajes políticos, como la primera ministra de Italia. Sin embargo, lo más preocupante es la presencia significativa de menores que sufren daños psicológicos debido a estas prácticas malintencionadas. En todos los casos, se experimentaron pesadillas, depresión, ansiedad y traumas, además de que las personas implicadas vieron afectada su imagen y su reputación.

En consecuencia, lo expuesto previamente está relacionado con la investigación realizada en 2024, en la que se menciona que la difusión de un deepfake sexual puede causar daños psicológicos en la víctimas, las cuales pueden requerir tratamiento médico, en especial cuando se trata de menores.⁴⁶ De manera similar, se ha señalado que los deepfakes pueden ser motivo de preocupación cuando son usados para crear pornografía falsa o para difamar a alguien en redes sociales y que son sumamente peligrosos cuando no son detectados adecuadamente. En este orden de ideas, la empresa Deeptrace mencionó que la mayor parte del deepfakes está compuesta por material pornográfico, que de este un 96% se encuentra en línea y que este tipo de videos se dirigen exclusivamente a las mujeres.⁴⁷

En esa misma línea, se ha afirmado que la lesión que suele sufrir una persona va directamente contra su honor, su reputación, sus sentimientos. Estas son las mismas lesiones que son causadas por otra persona con la modalidad de culpabilidad o dolo.⁴⁸

En cuanto a los objetivos específicos 3 y 4, se logró identificar los fundamentos para la tipificación del uso ilícito del deepfake como técnica de la IA. A través de entrevistas realizadas a especialistas, se pudo evidenciar que la mayor parte de entrevistados coincidieron en que el uso ilícito del deepfake produce repercusiones sociales, morales y económicas, y que es de imperiosa necesidad que se tipifique como un delito, ya que causa daños psicológicos muy graves, haciendo que las víctimas experimenten sentimientos profundos de ansiedad. También es necesario que sea evaluado cuidadosamente desde el punto de vista legal, para encontrar un equilibrio entre la libertad de expresión y la protección de los derechos fundamentales. Por otra parte, la mayor parte de los entrevistados consideraron que el deepfake debería ser regulado como un delito independiente, debido a que presenta desafíos únicos que merecen leyes específicas. Estas últimas permitirían llevar a cabo aplicaciones efectivas y proporcionales de acuerdo con la gravedad de los contextos analizados, garantizando medidas de protección y reparación adecuadas para las víctimas, sin que estas dependan de otros apartados legales, pero estableciendo un equilibrio que permita una aplicación efectiva y proporcional en función de los distintos escenarios que se presenten. Finalmente, los especialistas coincidieron en su mayoría en que es imprescindible tipificar el uso ilícito del deepfake como un delito independiente, ya que eso permitiría implementar una protección más efectiva de los derechos fundamentales, teniendo en cuenta que es una amenaza emergente que se encuentra en evolución y que no debería existir debate sobre su aplicación.

En este sentido, los avances de la IA no pueden dirigirse hacia el deterioramiento de los derechos fundamentales de las personas, ya que si la IA llega a causar daño, nuestro ordenamiento jurídico debe proteger la víctima y brindarle una solución eficiente, y asignar una responsabilidad objetiva a quien ocasione daños a través del uso de la IA.⁴⁹ Por otro lado, indubitablemente existe la necesidad de contar con la legislación específica en IA, y, aunque pareciese anticipado en nuestro país plantear normas legales a este respecto, teniendo en cuenta el contexto global, la aplicación del derecho también cambia en cuanto al desarrollo de la IA, y es por esto que es necesario contar con normas específicas que la aborden.⁵⁰

Por otra parte, la IA debe ser tomada como una prioridad mundial junto con otros riesgos sociales, ya que algunos de sus usos pueden llegar a generar preocupación, por lo que estos deben ser frenados antes de que tomen poder y provoquen trastornos sociales.⁵¹

Es necesario regular el uso ilícito de las técnicas de IA como el deepfake, debido a que existe un uso excesivo de las redes sociales, en las que generalmente se comparte información generada por deepfakes. Por tal motivo, es crucial implementar un sistema legal que incluya requisitos éticos y legales específicos que regulen su uso, puesto que, si estos materiales no son tratados adecuadamente, pueden llegar a amenazar organizaciones, personajes públicos o, incluso, a la sociedad en general, incluidos los menores de edad, por lo que este es un asunto de prioridad mundial.

El funcionamiento del deepfake como técnica de IA y su uso ilícito consiste en aquella “falsedad profunda” que, a través de redes neuronales, algoritmos o softwares, utiliza el aprendizaje de la IA para crear contenido audiovisual falso con las identidades de las personas. Sin embargo, su uso es lícito en los campos del cine y de la creatividad, pero se convierte en ilícito cuando es implementado para engañar y dañar a individuos o a audiencias masivas, así como para difundir información falsa o crear pornografía artificial comercializada.

El fenómeno del deepfake afecta no solo a artistas famosos, escritores y políticos, sino también a menores de edad. Estos últimos, tras verse involucrados en situaciones de deepfake, experimentaron daños psicológicos, pesadillas, ansiedad y traumas, lo que afectó significativamente su imagen y su reputación.

Finalmente, los fundamentos para la tipificación del deepfake que se identificaron en este artículo son que estos acarrean consecuencias a nivel social, moral y económico, por lo que es fundamental regularlo como un delito independiente en el código penal, mediante el establecimiento de figuras legales propias que se adapten a la gravedad de los contextos, sin depender de otras figuras legales, para garantizar un equilibrio entre la libertad de expresión y la protección de los derechos fundamentales.