14 Sep Deepfakes ante los tribunales: ¿cómo demostrar que un audio, una imagen o un vídeo han sido manipulados?
Una grabación de voz puede reproducir aparentemente las palabras de una persona. Un vídeo puede mostrarla realizando una acción que nunca ocurrió. Incluso una fotografía puede presentar un nivel de realismo suficiente para generar dudas sobre su autenticidad.
El avance de la inteligencia artificial generativa ha hecho que la manipulación de contenido audiovisual sea cada vez más accesible. Los denominados deepfakes plantean así un nuevo problema en procedimientos judiciales: determinar cuándo una prueba digital es auténtica y cuándo ha sido creada o alterada mediante inteligencia artificial.
¿Qué es exactamente un deepfake?
Un deepfake es un contenido audiovisual generado o manipulado mediante técnicas de inteligencia artificial con un grado de realismo que puede hacer que parezca auténtico.
Puede consistir en la sustitución de un rostro, la modificación de un vídeo, la generación de una imagen inexistente o incluso la clonación de una voz.
Esto significa que ya no siempre resulta suficiente con escuchar una grabación o visualizar un archivo para determinar si refleja un hecho real.
El problema de la prueba digital
Cuando una fotografía, un audio o un vídeo se aporta como prueba en un procedimiento judicial, su autenticidad puede convertirse en objeto de discusión.
Una de las partes puede afirmar que el archivo reproduce fielmente unos hechos mientras la otra sostiene que ha sido modificado.
En ese momento, el análisis técnico adquiere especial relevancia.
La cuestión deja de ser únicamente qué muestra aparentemente el archivo y pasa a ser si existen evidencias que permitan verificar su origen, integridad y posibles manipulaciones.
¿Cómo se analiza un archivo sospechoso?
El análisis pericial puede abordar diferentes elementos.
Uno de ellos son los metadatos, es decir, la información asociada al archivo, como fechas de creación, dispositivos utilizados, aplicaciones empleadas para modificarlo o características de codificación.
Sin embargo, los metadatos no deben analizarse de manera aislada. Pueden haberse eliminado, modificado o simplemente no existir.
Por ello, también pueden examinarse otros indicadores técnicos.
En el caso de un vídeo, por ejemplo, pueden analizarse irregularidades entre fotogramas, características de compresión, movimientos faciales, iluminación, sincronización entre imagen y sonido o alteraciones en la estructura del archivo.
En una grabación de audio puede estudiarse la continuidad de la señal, los patrones de ruido, cortes, modificaciones o determinadas características acústicas.
La clonación de voz añade una nueva dificultad
Hasta hace pocos años, recibir una grabación con la voz reconocible de una persona podía considerarse un elemento especialmente convincente.
Hoy este razonamiento exige más cautela.
Las herramientas de inteligencia artificial permiten generar voces artificiales a partir de muestras relativamente reducidas de audio.
Esto puede utilizarse para simular conversaciones, órdenes, autorizaciones o declaraciones que nunca se produjeron.
En un conflicto empresarial, por ejemplo, una supuesta nota de voz podría utilizarse para intentar demostrar la aprobación de una operación. En otros casos, una voz clonada podría emplearse en fraudes o suplantaciones de identidad.
La grabación por sí sola ya no debería considerarse automáticamente prueba de que una persona pronunció determinadas palabras.
La cadena de custodia sigue siendo fundamental
Una de las cuestiones más importantes continúa siendo determinar cómo se obtuvo y conservó la evidencia digital.
No es lo mismo analizar el archivo original extraído directamente de un dispositivo que recibir una copia reenviada varias veces mediante una aplicación de mensajería.
Cada transformación puede provocar pérdida de información técnica.
Por ello, siempre que sea posible, deben conservarse los archivos originales y documentarse correctamente los procesos de adquisición, copia y análisis.
El cálculo de valores hash también permite identificar un archivo digital y comprobar posteriormente que no ha sufrido modificaciones.
¿Puede una herramienta detectar automáticamente un deepfake?
Existen sistemas diseñados para detectar contenidos generados mediante inteligencia artificial. Sin embargo, no deberían considerarse una prueba absoluta por sí mismos.
La tecnología utilizada para generar contenido sintético evoluciona rápidamente, al igual que los sistemas utilizados para detectarlo.
Por ello, una conclusión pericial sólida no debería depender únicamente del resultado obtenido por una aplicación automática.
Es necesario valorar conjuntamente la procedencia del archivo, sus características técnicas, la documentación disponible y el contexto en el que fue obtenido.
La legislación europea también aborda los deepfakes
El Reglamento Europeo de Inteligencia Artificial introduce obligaciones específicas de transparencia respecto a determinados contenidos generados o manipulados mediante IA.
Entre otras cuestiones, establece que quienes utilicen sistemas de inteligencia artificial para generar o manipular imágenes, audios o vídeos que constituyan un deepfake deberán informar de que ese contenido ha sido creado o modificado artificialmente, con determinadas excepciones.
La normativa refleja un problema que probablemente será cada vez más frecuente: distinguir entre contenido real y contenido sintético.
El futuro de la prueba audiovisual
La facilidad para generar imágenes, voces y vídeos realistas no significa que la prueba audiovisual pierda su valor.
Pero sí implica que su análisis puede exigir mayores garantías.
Ante la sospecha de manipulación, un peritaje informático puede ayudar a determinar el origen del archivo, comprobar su integridad, analizar posibles modificaciones y explicar técnicamente qué conclusiones pueden extraerse.
En la era de la inteligencia artificial, la pregunta ya no será únicamente “¿qué aparece en este vídeo?”.
Cada vez será más importante otra cuestión:
“¿Podemos demostrar que este vídeo es auténtico?”
Contáctanos en info@luisvilanova.es