La iniciativa establece reglas para la creación y difusión de “representaciones digitales verosímiles pero falsas” de la imagen, cuerpo o voz de las personas.

Regular la creación y difusión de contenidos generados con inteligencia artificial u otras tecnologías es el objetivo del proyecto que la Sala de la Cámara aprobó en general por 128 votos a favor, 2 en contra y 5 abstenciones. La iniciativa, que vuelve a comisión para su debate en particular, busca proteger la identidad e integridad de las personas frente a imitaciones digitales realistas o deepfakes (boletín 17795).

Para ello, la iniciativa establece definiciones, ámbito de aplicación, responsabilidades y sanciones al uso de contenidos digitales falsos.

En esa línea, define como “representaciones digitales verosímiles pero falsas” a todo contenido sintético de imagen, audio o video, generado o alterado mediante inteligencia artificial u otras tecnologías, que pueda inducir a error, confusión o engaño respecto de la identidad, acciones o declaraciones de una persona real.

Además, reconoce el derecho a la integridad digital, es decir, el derecho de toda persona a que su imagen, cuerpo o voz no sean utilizados para generar este tipo de contenidos. No obstante, distingue que no se consideran deepfakes los contenidos que correspondan a una sátira, parodia, crítica o expresión artística, siempre que sean claramente identificables y no induzcan a error ni causen daño.

Protección de las personas

Durante la discusión general del proyecto en la Sala, las/os diputados coincidieron que el avance de la inteligencia artificial exige nuevas herramientas para proteger a las personas frente a la difusión de contenidos falsos. En esa línea, advirtieron que la manipulación digital de imágenes, voces o videos puede transformarse en una herramienta para afectar la honra de las personas, alterar procesos democráticos o cometer ilícitos.

Por ello, destacaron los legisladores, la iniciativa busca crear un marco de protección que incorpore el derecho a la integridad digital y establezca mayores responsabilidades a las plataformas que alojan o difunden este tipo de contenidos.

Sin embargo, algunos parlamentarios cuestionaron el grado de responsabilidad que la propuesta entrega a las plataformas para determinar qué contenidos pueden permanecer publicados y cuáles deben ser eliminados. También, advirtieron que esta podría generar riesgos para la libertad de expresión o inhibir desarrollos tecnológicos legítimos.

Otras dudas expuestas en el debate fueron sobre su implementación práctica y la proporcionalidad de las sanciones.

Finalmente, algunas/os diputados alertaron sobre los efectos que estas tecnologías pueden tener no solo en las personas, sino también en la seguridad institucional y la soberanía de los países.

La diputada Gael Yeomans, autora del proyecto, informó la moción en la Sala. Además, en las diferentes sesiones donde se trató la norma intervinieron las y los diputados Daniel Lilayu, Luis Malla, Jaime Bassa, Luis Pardo, Ana María Gazmuri, Felipe Ross, Cristian Contreras, Hans Marowski, Gael Yeomans, Hotuiti Teao, Irací Hassler, Lorena Fries, Priscilla Castillo, Constanza Schonhaut, Carolina Cucumides y Gonzalo Winter.

Ámbito de aplicación

La iniciativa, que retorna a la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación, sería aplicable tanto a personas naturales como jurídicas, así como a plataformas de redes sociales que operen en el territorio nacional. En este caso, define dichas plataformas como servicios digitales de intermediación que gestionan contenidos y datos, pero excluye expresamente a los servicios de mensajería instantánea de carácter privado.

El proyecto establece que las plataformas extranjeras deberán designar un representante legal en Chile e incorpora las obligaciones de identificar de forma visible cuando el contenido es generado con inteligencia artificial y habilitar canales de denuncia para que las personas afectadas puedan solicitar la eliminación del contenido.

Responsabilidad y sanciones

En materia de responsabilidades, en tanto, establece que quienes generen o difundan deepfakes serán responsables civilmente por los daños causados e incluso contempla la posibilidad de que los tribunales adopten medidas cautelares, como el retiro o bloqueo del contenido, con el fin de evitar un daño irreparable.

En cuanto a las multas, se propone que estén en rangos de 5 mil a 10 mil UTM ($358 millones a $716 millones, aproximadamente).