“Aunque jurídicamente, algunos ordenamientos (como el español, por ejemplo) incluyen disposiciones expresas que permiten el uso post mortem de la imagen (y, por tanto, de la voz) de alguien con autorización de sus herederos, cabe cuestionarse seriamente si en tiempos como los que vivimos y, con tecnologías como las que hoy tenemos, esto debería seguir siendo suficiente”.

Por Michelle Azuaje Pirela *

En el mundo de la innovación se dice que una tecnología es “disruptiva” o “perturbadora” cuando una tecnología nueva invade el mercado principal, “atacando” a la tecnología hasta entonces dominante. Dicho término se usa para explicar cómo ella provoca una ruptura en la trayectoria de lo que estaba en uso, porque “no está sostenida por los mismos conocimientos en los que se apoya la antes dominante, sino que su trayectoria tecnológica parte de un paradigma diferente.”

En ese contexto, las tecnologías perturbadoras normalmente “no superan a las tecnologías establecidas -al menos al inicio- y son peores que ellas, porque su ventaja suele radicar en que son más sencillas, más baratas y, por tanto, más convenientes.” Por esa y otras razones, se dice que muchas tecnologías vinculadas con la inteligencia artificial (IA) tienen ese elemento disruptivo y perturbador que las hace más atractivas, lo que a su vez les permite expandirse e imponerse cada vez con mayor fuerza y velocidad.

Para entenderlo piénsese, por ejemplo, en el mundo del cine y el entretenimiento, en el cual, desde hace algunos años, sofisticadas herramientas como el “CGI” (Computer Generated Imagery) nos han permitido disfrutar de los más asombrosos efectos especiales.   Piénsese en “Rogue one: A Stars Wars Story” o “Fast and furious 6”, películas que recrearon a actores fallecidos mediante CGI, lo que en opinión de algunos puede ser -al menos- éticamente cuestionable y generar más de un problema jurídico. Pero no todos los proyectos en el área pueden permitirse el uso de CGI, entre otras cosas, por sus elevados costos.

Y es aquí donde nace la “perturbación”, porque como alternativa al costoso CGI comienzan a surgir nuevas tecnologías que usan IA para lograr efectos similares, pero a costos muchos más bajos. Me refiero a los deepfakes. Que como hemos dicho en otras oportunidades se refieren particularmente a imágenes, vídeos, clips de audio u otras formas de medios de comunicación hiperrealistas creados mediante el aprendizaje profundo, una sofisticada rama de la IA. En ese contexto ya advertíamos que herramientas como TrueSync,  utilizan la IA y un motor de preservación de rendimiento para crear una “sincronización perfecta” en los vídeos doblados en varios idiomas. Lo que plantea nuevas preguntas y puede venir a “perturbar” el mundo del doblaje con efectos que todavía están por verse.

Pero la IA y, en particular los deepfakes pueden llegar a ser realmente “perturbadores” en el sentido más común -y al mismo tiempo “distópico”- del término. Y es que si hace meses nos habíamos sorprendido con el comercial que “revive” digitalmente a la gran Lola Flores, cosas más “inquietantes” estaban por venir. Pues sí, siguen apareciendo usos “controversiales” de esta tecnología ¿Se enteraron del último? Les cuento un poco sobre: “Roadrunner” (en español “Correcaminos”) un documental sobre el reconocido chef Anthony Bourdain, quien se quitó la vida en el año 2018.

En dicho documental, el cineasta Morgan Neville utilizó la IA para recrear con la voz de Bourdain tres citas de un correo electrónico que este envió a David Choe. En ese sentido, utilizó tecnología de IA para imitar su voz y hacerlo pronunciar diálogos que en realidad nunca dijo en voz alta ante las cámaras. Según reporta The New Yorker, Neville habría enviado a una empresa de software unas 12 horas de grabaciones de la voz de Bourdain para crear un modelo de IA que simulara sus palabras, produciendo una voz en off que el propio Bourdain nunca llegó a grabar.

Y aquí estamos para preguntamos de nuevo: ¿No será demasiado? ¿Quién puede o debe decidir esto? ¿Por qué? ¿Para qué? Aunque jurídicamente, algunos ordenamientos (como el español, por ejemplo) incluyen disposiciones expresas que permiten el uso post mortem de la imagen (y, por tanto, de la voz) de alguien con autorización de sus herederos, cabe cuestionarse seriamente si en tiempos como los que vivimos y, con tecnologías como las que hoy tenemos, esto debería seguir siendo suficiente.

Porque más allá del derecho vigente la verdad es que situaciones como la descrita levantan algunas alertas éticas -que por su complejidad no pretendo responder ahora-: ¿Es correcto? ¿Se justifica?

El desarrollo tecnológico y la IA nos están llevando por pasajes distópicos que, aunque en ocasiones solo se ven como una “mera curiosidad”, encierran debates profundos que nos deben invitar a reflexionar sobre los retos globales que hoy enfrentamos: ¿Qué tan lejos podemos o queremos llegar con estas formas de distorsión de la realidad? ¿Qué puede o debe hacer el derecho al respecto?.

* Michelle Azuaje Pirela es doctora en Derecho, Universidad Autónoma de Chile. Máster en Derecho de la Empresa, Universidad de Alcalá. Abogada, Universidad del Zulia. Coordinadora del Instituto de Investigación en Derecho, Universidad Autónoma de Chile, Sede Temuco. Investigadora responsable del proyecto Fondecyt de Postdoctorado 2021, N° 3210519, titulado: Transparencia algorítmica y propiedad intelectual: propuestas para Chile. Coordinadora del Proyecto Inteligencia Artificial y Derecho: www.iaderecho.cl