Cuando la inteligencia artificial retoca algo que sí ocurrió:
En mi anterior artículo, «El hash de una mentira», planteaba un problema: podemos conservar un archivo con todas las garantías técnicas y, aun así, estar custodiando la representación de un acontecimiento que nunca sucedió. Ahora, me gustaría haceros reflexionar sobre cómo debemos catalogar el problema, cuando lo miramos desde el otro lado.
En el artículo de hoy, quiero preguntaros: ¿Qué ocurre cuando una fotografía procede de una escena real, pero utilizamos inteligencia artificial para modificar una parte de ella? ¿Se convierte todo lo que muestra en mentira? ¿Pierde cualquier utilidad como prueba? ¿Basta con que aparezca una etiqueta de «IA» para descartar lo que vemos?
En mi opinión, estas preguntas tienen más recorrido del que parece. Porque una imagen puede contener píxeles inventados y seguir conservando información sobre una realidad que existió.
Una fotografía, cuatro personas y una petición sencilla
Os lo voy a explicar con un ejemplo: he utilizado una fotografía de un edificio de piedra, en medio de las montañas de Kirguistán. Como veis, en la parte inferior derecha aparecen cuatro personas.
Sin embargo, ya que la foto fue tomada en un sitio tan lejano y exótico, no quería que ésta tuviera espectadores, por lo que le pedí a la IA que los eliminara. La petición a la herramienta de inteligencia artificial fue muy sencilla: ¿Puedes eliminar a las personas que aparecen en la foto?.
El resultado muestra el mismo entorno reconocible, pero sin ellas. Donde antes había cuerpos, ropa y objetos, ahora aparecen superficies de piedra, terreno y vegetación reconstruidos por el sistema.
Esas zonas reconstruidas no son una recuperación de lo que había detrás. La herramienta no estuvo allí ni dispone, necesariamente, de otra fotografía que permita conocerlo. Ha generado una solución visual plausible, tomando como referencia, la continuidad del entorno que debía suplantar.
En consecuencia, la imagen resultante ya no es una reproducción íntegra de la escena captada por la cámara; sin embargo, tampoco podemos afirmar que todo lo que representa haya sido inventado desde cero.
Tenemos una fotografía de origen real y una versión derivada mediante un proceso generativo. Para entender su significado, necesitamos examinar ambas.
La etiqueta puede ser correcta y nuestra interpretación, equivocada
Como ya podréis imaginar, una plataforma que utilice los protocolos C2PA e IPTC (Facebook, Instagram, X…) identificará la intervención de inteligencia artificial y -por tanto- mostrará una advertencia.
El lector ve «IA» y concluye: «Ese lugar nunca fue fotografiado. Toda la escena es artificial».
La advertencia podría estar señalando correctamente el uso de una herramienta generativa. La conclusión del lector, sin embargo, iría mucho más allá de lo que esa advertencia permite sostener.
Aquí conviene precisar qué hacen C2PA e IPTC.
C2PA permite vincular al contenido declaraciones de procedencia protegidas mediante mecanismos criptográficos. Según la implementación y la información conservada, esas declaraciones pueden documentar herramientas, operaciones de edición y materiales de origen. No certifican que el acontecimiento representado haya sucedido.
IPTC, por su parte, contempla una distinción especialmente pertinente: su vocabulario incluye una categoría para contenido editado mediante IA generativa, aplicable a operaciones como reconstruir o ampliar zonas de una imagen. No obliga a describir toda intervención generativa como una creación completa desde cero.
El problema aparece cuando reducimos una historia de creación y edición a una etiqueta y, después, convertimos esa etiqueta en un veredicto.
«Ha intervenido inteligencia artificial» no significa automáticamente «el hecho investigado es falso»; Y tampoco significa que el retoque sea irrelevante.
Como veis, la imagen es idéntica, salvo que ahora no aparece gente y sus metadatos van a delatarla como generada con IA. Sin embargo, ni la esencia (ni la finalidad) de la foto, han cambiado. Es una foto de recuerdo de un sitio en el que estuve, pero ahora limpiando la imagen y conservando lo que en realidad importa.
Lo fundamental depende de lo que intentemos demostrar
Volvamos a las personas eliminadas.
Si lo que queremos acreditar es «que estuvimos en ese sitio», la presencia de gente podría resultar secundaria. Una versión sin visitantes no va a desacreditar esa realidad, siempre que conozcamos sus límites y podamos contrastarla con el original.
Sin embargo, la cosa cambia si la pregunta es «¿cuántas personas había allí? la edición -en este caso- afecta directamente a la respuesta. Es decir: si investigamos si alguien acudió acompañado, si había testigos o si el lugar estaba concurrido, eliminar personas modifica información esencial.
Es por eso (en mi opinión) que afirmar que «lo fundamental no ha cambiado» exige completar la frase: ¿lo fundamental para acreditar qué?
Así pues, creo que lo que se debe evaluar (siempre y cuando no exista la imagen real, claro) es si la relevancia de un retoque puede influir en su relación con el hecho discutido.
¿Puede utilizarse una imagen así en un juicio?
Conviene separar tres cuestiones: que una imagen pueda aportarse, que sea admitida y qué valor merezca para acreditar un hecho concreto.
En el proceso civil español, el artículo 382 de la Ley de Enjuiciamiento Civil contempla la aportación de imágenes, los dictámenes para apoyar o cuestionar su autenticidad y exactitud, y su valoración conforme a las reglas de la sana crítica. Esa regulación no permite convertir una etiqueta tecnológica en una respuesta automática para todos los casos.
Lo ideal sería, entonces, que una versión retocada se presente expresamente como tal, indicando que fue -efectivamente- retocada, acompañándola de otras evidencias que le den ese valor probatorio que perseguimos, como imágenes contemporáneas, etc. Esto, siempre y cuando el original no esté disponible. En el caso de no existir el original, es preciso dar una explicación (lo más detallada posible) de las operaciones realizadas y de la finalidad para la que se utiliza.
Es decir: si se pretende extraer de ella una conclusión probatoria, habrá que justificar por qué las modificaciones no comprometen esa conclusión; y si el original no está disponible, esa carencia debe incorporarse al análisis.
Del «¿es IA?» al «¿qué podemos concluir?»
El trabajo forense necesita preguntas más precisas:
- ¿Cuál es el archivo de origen y cómo se obtuvo?
- ¿Qué relación puede establecerse entre ese archivo y la versión editada?
- ¿Qué elementos se han eliminado, añadido o reconstruido?
- ¿Se han producido cambios adicionales?
- ¿Qué hecho pretende acreditar quien aporta la imagen?
- ¿Afectan las modificaciones a ese hecho?
- ¿Qué otras evidencias permiten contrastarlo?
Los hashes siguen siendo necesarios para identificar y verificar cada versión. El original y la imagen editada tendrán normalmente hashes diferentes; calcularlos y documentarlos permite distinguir ambos archivos. Sin embargo, no explica, por sí solo, qué consecuencias tiene la edición. Esto (explicarlo) tendremos que hacerlo nosotros.
Las credenciales de procedencia pueden aportar información adicional. Pero también necesitan interpretación.
En el artículo anterior advertía del riesgo de dar por verdadero un acontecimiento porque su archivo se conserva íntegro. Ahora me gustaría haceros reflexionar sobre el riesgo de dar por falso un acontecimiento, solo por el mero hecho de que su representación ha sido editada con inteligencia artificial.
Ambos errores nacen de atribuir a una comprobación técnica una conclusión que no proporciona. La fotografía retocada ya no muestra exactamente todo lo que captó la cámara. Sin embargo, eso no convierte necesariamente en imaginarios el edificio, el paisaje o el viaje del que procede. La responsabilidad del perito consiste en explicar dónde termina la captura, dónde empieza la reconstrucción y qué afirmaciones resisten esa diferencia. Una etiqueta de IA puede describir una parte del proceso. Nunca debería sustituir el examen de la prueba.
Recordad que -en informática- todo es infinitamente diferente, dependiendo de si es cero, o es uno.
José Aurelio García
Auditor y Perito Informático-Perito en Piratería Industrial e Intelectual-Informático Forense
Creador y profesor del MOOC OnLine «Ciberseguridad Defensiva, Ofensiva y OSINT» impartido por la Univ. de Extremadura
Profesor en el «Máster de Abogacía Digital», impartido por la USAL
Profesor en el «Grado en Ciencias Policiales», impartido por la USAL para Policía Nacional.
Socio Fundador Asociación Nacional de Ciberseguridad y Pericia Tecnológica – ANCITE
Prueba Electrónica – El Blog de Auditores y Peritos Informáticos
