«La inteligencia artificial aportará eficacia en la prestación de servicios»

Hace unas semanas, el Consello de la Xunta dio luz verde al proyecto de ley para el desarrollo e impulso de la inteligencia artificial en Galicia. Sobre lo que esconde esa normativa, la primera a nivel regional en Europa, plantearon sus dudas los lectores de la edición digital de La Voz. El encargado de dar respuesta a esas preguntas fue, en el marco de un encuentro digital celebrado ayer, Marcos Almeida, profesor de Derecho Administrativo de la USC e integrante de la Comisión de Expertos para el Desarrollo y Uso Ético de la IA en Galicia.

¿Qué beneficios aporta la regulación y el empleo de la IA en el sector público para mejorar las relaciones de las personas con la administración?

Por una parte, el empleo de sistemas de inteligencia artificial asegura mayor eficacia y una mayor eficiencia en la prestación de servicios públicos y en la tramitación de procedimientos administrativos. Dicho de otro modo, cuando el uso de la IA se generalice, con menos recursos se podrán ofrecer a los ciudadanos más prestaciones y más servicios no estandarizados, completamente personalizados como, por ejemplo, en el caso del ámbito de la medicina. Además, esos servicios se nos ofertarán de forma más rápida y con mayor calidad. Por otro lado, la regulación adecuada del uso de la inteligencia artificial va a asegurar que toda esa actividad administrativa se ajuste rigurosamente a los mandatos básicos que garantizan los derechos de los ciudadanos. Por ejemplo, se garantizará el principio de precaución, la fiabilidad de los sistemas, la transparencia de los mismos, su seguridad, un alto grado de privacidad y la accesibilidad universal.

Muchos sistemas de IA manejan datos personales, ¿en la futura disciplina autonómica se contempla la necesidad de asegurar esas informaciones?, ¿las desigualdades sociales podrían crecer?

El cumplimiento de las exigencias de protección de datos es una preocupación transversal, se puede ver en todos los preceptos del proyecto que se ha presentado. Pero la ley gallega no va a contener una regulación específica porque las previsiones para garantizar la seguridad son las que se contienen en el reglamento europeo de protección de datos. Pero hay otros mecanismos de garantía que sí pueden articularse a nivel autonómico. Por ejemplo, se establece el principio de reserva de humanidad y de revisión humana, es decir, no habrá decisiones automatizadas que no sean supervisadas por un funcionario público. De hecho, dentro de la normativa se prevé una figura específica, la de los comisionados de la IA que son algo así como los delegados de protección de datos, supervisores que aseguran que el tratamiento de los datos sea correcto y adecuado. Por otro lado, la Xunta de Galicia está obligada a establecer las medidas oportunas para superar cualquier tipo de brecha digital. Y, en especial, hay que tener en cuenta las que derivan de razones económicas y las ligadas a la edad o a las capacidades funcionales de los usuarios.

¿Se contempla la posibilidad de que estas tecnologías puedan acabar sustituyendo el trabajo de los empleados públicos?

Habría que distinguir dos planos. Por un lado, el estrictamente técnico que implica que habrá sistemas de IA que van a sustituir determinadas tareas de los empleados públicos, pero con límites y con cautelas. Algunos procesos van a poder estar automatizados, siempre y cuando los sistemas de IA sean fiables y no produzcan ningún tipo de impacto irreversible o generar perjuicios a la vida o a la salud de los ciudadanos. En el caso de que tengan ese hándicap, va a ser necesaria una validación humana y, por lo tanto, no podría producirse una sustitución total de la actividad humana por el sistema. Pero no se va a sustituir a los empleados, sino cambiar de tareas. Las máquinas van a hacer unas y nosotros aprenderemos a hacer las aquellas a las que no puedan llegar. Y esto podrá aplicarse totalmente al ámbito privado. Las personas serán necesarias para supervisar esos procesos de automatización o para recabar los datos que permite la automatización. En resumen, se cerrarán unos nichos de trabajo, pero alternativamente se abrirán otros.

En el marco del funcionamiento de los servicios administrativos ¿quién se responsabiliza de las decisiones tomadas por una IA en un proceso que no requiera de intervención humana?

Aquí hay que diferenciar los planos de la responsabilidad. Uno es el formal, respecto de cada actividad administrativa que se desarrolle de forma automatizada. Siempre se va a designar un órgano al que se le imputa la autoría del acto. Siempre existirá detrás uno o varios empleados públicos que asuman y refrenden la decisión automática. Pero, por otro lado, tenemos que hablar de la responsabilidad material. Yo creo que esto muchas veces preocupa más. Esto pasa en el supuesto de que una actuación administrativa automatizada, a través de un sistema de IA, cause un daño. Ahí habrá que preguntarse qué pasa con los daños. Pues quien ha elaborado la norma, ha hecho una apuesta adecuada por refrendar y ratificar que hay una responsabilidad objetiva. Por ello, si el sistema de IA causa un daño, la Xunta responderá directa e íntegramente por el daño causado al ciudadano.

¿El proyecto de ley gallega cuenta con disposiciones para impulsar su empleo desde las empresas?

En el interior de la norma hay un título concreto que recoge acciones de fomento en materia de política industrial, se diseñan unos instrumentos que son los proyectos industriales estratégicos y singulares en materia de IA y de impulso, como la creación de un ecosistema específico. En particular, se busca estimular a las pymes para que usen sistemas de IA que sean seguros y eficientes. Para ello se les va a dar facilidades económicas, técnicas, y de apoyo por parte de la administración autonómica.

En ámbitos como el sanitario se precisan grandes volúmenes de datos ¿se incorpora algún instrumento para facilitárselos a las empresas?

En el proyecto de ley existe una figura muy interesante, los espacios de datos, que puede encaminarse a esta finalidad. Con este instrumento, la Xunta tiene como objetivo facilitar, a diferentes operadores económicos, el acceso al conjunto de datos de alta calidad. Podemos entender que la Xunta va a hacer lo posible para que las empresas que se dedican a algún tipo de desarrollos de IA en el ámbito sanitario cuenten con los datos que precisan para desarrollar y entrenar sus sistemas. Pero la libertad de actuación de la administración autonómica no es completa, tiene que estar muy pegado a las condiciones y a los requisitos en materia de protección de datos. La ley abre una puerta, pero el régimen jurídico es complejo al entrelazar las normas autonómicas con las que existen tanto a nivel europeo como nacional.

---

---

---