La creación y difusión de imágenes, audios y videos generados o manipulados con inteligencia artificial (IA) que afecten la intimidad, la dignidad o la reputación de las personas podría tener nuevas sanciones en Santa Fe. La diputada provincial Celia Arena, de Hacemos Santa Fe, presentó un proyecto para actualizar el régimen contravencional y sumar herramientas legales frente a distintas formas de violencia digital.
Es por esto que el equipo de Escenario Mercenario se puso en comunicación con la autora de la iniciativa, la diputada provincial Celia Arena, quien se refirió al tratamiento del proyecto: «Es importante porque es muy actual y como todo lo tecnológico, avanza con una rapidez enorme. Entendemos que desde el Estado y las políticas públicas, tienen que tener la misma rapidez en la respuesta».
«Tenemos una cuestión respecto al vacío legal que hay al respecto. No hay una tipificación específica en el Código Penal que prevea las situaciones que se puedan dar a través del uso de la violencia digital» comenzó explicando.
La propuesta alcanza a los contenidos sintéticos de carácter sexual o que muestren desnudez sin consentimiento, pero también a materiales manipulados que dañen gravemente la dignidad o la reputación de alguien, aunque no tengan contenido sexual. Además, plantea sancionar la producción y circulación de representaciones sexuales sintéticas con apariencia infantil.
«Hay varias cuestiones que son ejes del proyecto. Por un lado cerrar la trampa de la imagen falsa. Hoy el Código de Faltas, en uno de sus artículos, habla de imágenes reales, o sea, a material obtenido en un ámbito de privacidad. Y con la Inteligencia Artificial nunca hubo esas fotos. Ahí, nosotros planteamos la creación y la manipulación sintética, porque tiene que ver con la Inteligencia Artificial no consentida, para que nadie pueda escudarse en decir que no es una imagen real y que no le aplican estas sanciones» añadió.
Referido a los alcances del proyecto, Arena apuntó: «Por otro lado, también abarcamos toda la cadena. Buscamos sancionar a quien la crea, y a quien la comparte, la difunde, inclusive quien la tiene sabiendo que es una imagen falsa o producida maliciosamente, que es algo ilícito».
Y continuó: «Hay que ver hasta donde llega esto. No pasó en Santa Fe, pero si en Lomas de Zamora. Hay chicos y chicas que comercializan esto. Lo que pasó en Lomas, que fue muy difundido, había personas que pedían dinero a cambio de compartir las imágenes, entonces esto también es pasible de sanción».
«Hay una cuestión que es central: lo virtual es real. La imagen puede ser falsa, pero el daño que provoca a la dignidad, a la sensación de vulneración, hay un montón de cuestiones. Lo virtual es real» concluyó.
Qué conductas busca sancionar
El proyecto apunta a ampliar las respuestas legales frente a los contenidos creados con IA u otras tecnologías de generación sintética, conocidos como deepfakes. Entre las conductas alcanzadas figuran la creación, manipulación y difusión sin consentimiento de imágenes, audios y videos que vulneren derechos personales.
El texto también incluye la posesión consciente de este tipo de material ilícito, aun cuando no esté pensado para difundirse. En el caso de las representaciones sexuales sintéticas con apariencia infantil, se prevén además sanciones para quienes las financien, ofrezcan o comercialicen.
Otro punto clave es que los jueces de faltas podrán ordenar el cese inmediato de la difusión y la eliminación de los contenidos de los soportes digitales. A su vez, los responsables deberán realizar talleres obligatorios sobre violencia digital y uso ético de la tecnología, ya que la idea es que la respuesta no se limite al castigo y también ayude a frenar la circulación de estos materiales y a prevenir nuevos casos. En los fundamentos, la legisladora sostiene que no se trata de un simple juego tecnológico, sino de una nueva forma de violencia que puede afectar profundamente la dignidad y la integridad de las personas.
Su vínculo con las leyes Olimpia y Ema
La iniciativa de Arena busca complementar la legislación provincial que ya existe sobre violencia digital. La Ley Olimpia, a la que Santa Fe adhirió mediante la ley 14.297, incorporó herramientas para abordar la violencia digital y la difusión no consentida de material íntimo. Por su parte, la Ley Ema, número 14.471, fijó medidas específicas para prevenir y abordar estas situaciones en el ámbito educativo.
Esta última lleva el nombre de Ema Bondaruk, una adolescente de 15 años que murió en agosto de 2024, después de que se difundieran sin su consentimiento imágenes íntimas suyas en la escuela. Su madre, Laura Sánchez, impulsó acciones para promover herramientas de prevención y acompañamiento frente a este tipo de casos.
El nuevo proyecto pone el foco en un desafío que creció con el avance de la inteligencia artificial: la posibilidad de fabricar imágenes y videos hiperrealistas de hechos que nunca ocurrieron. Aunque se trate de contenido falso, su circulación puede dañar la intimidad, la reputación y la integridad de las personas involucradas. Si avanza en la Legislatura, sumará nuevas herramientas contravencionales para responder a estas conductas.
Qué hacer si un chico o una chica es víctima de un deepfake sexual
Lo primero es escuchar y acompañar al niño, niña o adolescente, y transmitirle que no tiene la culpa de lo que pasó: la responsabilidad es de quienes crearon, compartieron o difundieron el contenido. El Ministerio de Capital Humano de la Nación recomienda evitar cualquier reacción que aumente su angustia o lo haga sentir responsable por la circulación de las imágenes.
El segundo paso es guardar las pruebas antes de que desaparezcan. Conviene conservar capturas de pantalla de publicaciones y conversaciones, el nombre de usuario o perfil de quienes difundieron el material, los enlaces de las publicaciones, la fecha y la plataforma donde circuló. Según Capital Humano, esa información debe resguardarse antes de bloquear, enfrentar o reportar al perfil, porque esas acciones podrían complicar la investigación; tampoco se aconseja hacerse pasar por la víctima para conseguir más pruebas.
Además, no hay que descargar ni reenviar las imágenes, aunque la intención sea denunciar o pedir ayuda. El Ministerio Público de la provincia de Buenos Aires recomienda no compartir el contenido en grupos de mensajería ni en otras plataformas, ya que la prioridad es conservar los datos que permitan ubicarlo sin contribuir a que siga circulando.
Por último, se recomienda hacer la denuncia. Las familias pueden comunicarse con la Línea 102, que brinda orientación y acompañamiento ante situaciones que afectan los derechos de niñas, niños y adolescentes, o con la Línea 137, que asiste en casos de violencia familiar y sexual. También pueden acudir a la fiscalía más cercana para presentar la denuncia y aportar las pruebas reunidas. Ante situaciones de violencia de género, además, está disponible la Línea 144, gratuita y que atiende las 24 horas.
Seguinos