La realidad tras las pantallas: 'Cienciaficcionados' reflexiona sobre la credibilidad y legalidad de la IA

Analizar una realidad que está en nuestro bolsillo y que ya simplifica la vida de muchos ciudadanos. El restaurante El Astronauta se ha convertido en un foro de debate científico y social con el regreso de ‘Encuentros Cienciaficcionados’. En esta ocasión, la cita se centró en cuestionar la credibilidad y legalidad de la Inteligencia Artificial (IA), tomando como punto de partida la trama de la serie británica The Capture.

La sesión contó con la participación de Manuel Jesús Marín Jiménez, investigador de Ciencias de la Computación e IA, y María Dolores Moreno Martín, investigadora de Derecho Civil, Penal y Procesal. Bajo la moderación de la periodista Marta Jiménez, ambos expertos han profundizado en cómo la visión artificial, los bulos y los deep fakes plantean retos sin precedentes para el derecho actual.

El eje del debate fue el diálogo de The Capture, donde un soldado es acusado de un secuestro basado en grabaciones de cámaras de seguridad que él niega rotundamente. Este escenario sirvió para analizar un sistema de vigilancia como el del Reino Unido, con seis millones de cámaras, y plantear una pregunta inquietante: ¿qué sucede si las pruebas audiovisuales son hackeadas por quienes deberían custodiarlas?

Durante el debate, Manuel Jesús ha aclarado que la capacidad de modificar imágenes ya no es algo exclusivo de grandes laboratorios. “Esa tecnología existe, la tenemos en el bolso”, afirmó Marín, refiriéndose a los filtros de aplicaciones como WhatsApp que permiten modificar nuestra apariencia en tiempo real. Para el experto, el verdadero reto actual no es la creación de la imagen, sino la capacidad posterior de analizar si ha sido modificada o no.

Marín también ha querido desmitificar el uso del término IA, señalando que lo que hoy conocemos masivamente a través de herramientas como ChatGPT es solo una pequeña parte del campo. “La inteligencia artificial generativa es una parte muy concreta dentro del gran abanico de la IA”, explicó, criticando que a menudo los medios de comunicación simplifican el concepto cuando, en realidad, la IA busca automatizar procesos complejos que van mucho más allá de generar textos o imágenes.

El choque entre seguridad e intimidad

Por su parte, María Dolores ha ofrecido una explicación sobre cómo el ordenamiento jurídico español protege a los ciudadanos frente al control constante de las cámaras. Moreno ha planteado que el debate central es la “ponderación de derechos”: la seguridad frente a la intimidad. “La intimidad y la propia imagen son derechos fundamentales con una protección mayor ante la seguridad, que es un interés legítimo pero no un derecho fundamental del mismo rango”, subrayó la investigadora.

Moreno Martín ha detallado que en España la instalación de cámaras en la vía pública está estrictamente regulada por una ley de 1997 que sigue vigente porque funciona. Según ha explicado, solo las Fuerzas y Cuerpos de Seguridad del Estado están autorizadas para instalarlas, y siempre bajo principios de proporcionalidad e intervención mínima. “Hay una fase hasta llegar a poner esa cámara; se necesita un permiso, un dictamen de una comisión de garantías presidida por el presidente del Tribunal Superior de Justicia”, detalló Moreno para ilustrar las salvaguardas legales existentes.

Divulgación a través de la ficción

‘Encuentros Cienciaficcionados’ es una iniciativa organizada por la Unidad de Cultura Científica y de la Innovación de la Universidad de Córdoba. Su objetivo fundamental es divulgar conceptos científicos de forma accesible, utilizando la ciencia ficción como puente para conectar con el público general, sin que sea necesario tener conocimientos previos sobre las disciplinas tratadas.

Esta actividad forma parte del XII Plan Anual de Divulgación Científica de la Universidad de Córdoba, contando con la cofinanciación de la Fundación Española para la Ciencia y la Tecnología (FECYT). Tras el éxito de esta sesión, el ciclo se prepara para su clausura el próximo 25 de febrero, donde se analizará la película La llegada de Denis Villeneuve.