Imagina que acudes al juicio por la muerte de un familiar y, en la audiencia de sentencia, aparece en pantalla la víctima hablando, serena, para perdonar a quien la mató. Eso ocurrió en un tribunal de Estados Unidos. El vídeo no era real: lo había creado una inteligencia artificial, y el tribunal acabó anulando la condena completa.
Un vídeo que nunca grabó el difunto
La familia de una víctima de homicidio involuntario presentó el vídeo durante la audiencia de sentencia. En las imágenes, el fallecido aparecía hablando y perdonando al condenado. Ninguna de esas palabras la pronunció él: la inteligencia artificial generó la voz, el rostro y el mensaje.
El tribunal terminó descubriendo que se trataba de una pieza fabricada. Cuando eso se supo, la consecuencia no fue una amonestación ni la exclusión del vídeo del expediente. El juez anuló la condena entera, de modo que el proceso quedó sin sentencia válida.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenadas por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
La razón del juez: una voluntad que no existe
El razonamiento del juez es directo. Una declaración fabricada con IA no representa la voluntad real de la víctima, y utilizarla dentro del proceso invalida la sentencia. El perdón, en este caso, no lo expresó nadie que pudiera expresarlo.
La comparación más cercana es la de una carta escrita «en nombre» del fallecido sin que él la hubiera dictado nunca. Lo relevante no es la calidad técnica del vídeo, sino que atribuye a una persona una postura que no consta que tuviera.
La buena intención no salva el procedimiento
Es posible que la familia actuara con la mejor de las intenciones: darle voz a quien ya no podía hablar. Nada de lo conocido indica que buscara engañar al tribunal. Pero el efecto jurídico no depende del propósito de quien presenta el material, sino de lo que ese material hace dentro del proceso.
En una audiencia de sentencia, lo que dicen las víctimas o sus allegados puede pesar en la decisión sobre la pena. Un perdón puesto en boca del difunto introduce un elemento que el juez no puede contrastar con nadie, y por eso el tribunal entendió que contaminaba el resultado.
Un precedente en EE. UU. y un vacío en cuatro países hispanohablantes
El caso ya se considera un precedente legal en Estados Unidos. Llega cuando los tribunales de España, México, Argentina y Colombia todavía no cuentan con reglas claras sobre qué hacer con pruebas o vídeos generados con IA. La tecnología llegó a los juzgados antes que la ley.
Esa falta de reglas significa que, hoy, la decisión sobre si admitir o rechazar un material de este tipo queda en manos de cada juez, sin un criterio común al que acudir. Si un caso parecido se plantea en uno de esos países, no hay un protocolo establecido que lo resuelva.
Qué te llevas si participas en un proceso judicial
Si eres familiar de una víctima, abogado o parte en un procedimiento, el caso deja algunas lecciones prácticas derivadas directamente de lo ocurrido:
Un vídeo generado con IA que muestre a una persona fallecida diciendo algo que nunca dijo puede invalidar todo el proceso, incluida la condena que se buscaba defender.
Si quieres expresar lo que habría deseado el difunto, hazlo en tu propio nombre y con tus propias palabras. Un testimonio claramente tuyo no atribuye voluntad a quien no puede confirmarla.
El contexto
Antes de presentar cualquier material audiovisual en una audiencia, consulta con el abogado si está generado o alterado con IA y si el tribunal debe saberlo desde el principio.
Un ejemplo sencillo: una hija que quiere que el juez sepa que su padre era una persona que no guardaba rencor puede decirlo ella misma en su declaración. Poner esa frase en la boca del padre, con su rostro y su voz sintéticos, es lo que el tribunal consideró inadmisible.
Qué implica para ti
Si en algún momento una audiencia te afecta de cerca, conviene que sepas que el uso de IA para «resucitar» a alguien no es un gesto neutro ante la ley: en este caso costó la condena entera. Y si vives en España, México, Argentina o Colombia, ten presente que aún no hay normas específicas que te digan qué es admisible y qué no.
La pregunta que queda abierta es si deberían permitirse estos vídeos con restricciones o prohibirse de forma absoluta. Por ahora, ningún tribunal de esos cuatro países ha fijado criterio, y la respuesta dependerá de quien legisle primero.
Imagen ilustrativa generada con inteligencia artificial.
Fuente original: The New York Times
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
