Razón y conciencia

Hace unas semanas, un grupo notable de investigadores, académicos, profesionales, directivos y empresarios de primer nivel del sector tecnológico publicaron, bajo el paraguas del Future of Life Institute, el manifiesto Pause giant AI experiments: an open letter, llamando la atención de la opinión pública global sobre el riesgo de que los desarrollos en curso de la inteligencia artificial escapen al propio control y conocimiento de sus promotores. Avisan los firmantes de que, carentes de regulación y límites, evolucionando más allá de la propia cognoscibilidad de programadores y desarrolladores, nos encaminamos a una senda peligrosa en la que no resultará posible gestionar cabalmente los riesgos de esta herramienta. Pedían, incluso, suspender durante un plazo de seis meses los proyectos de envergadura en la materia, expresando abiertamente el temor por la «peligrosa carrera de modelos cada vez más grandes e impredecibles con capacidades emergentes». Es para preocuparse, pues lo dicen personas que han estado a la vanguardia en este mismo campo. Utilizando la vieja dicotomía de Umberto Eco, no son apocalípticos precisamente, ya que, al contrario, los firmantes están integrados en muchos de los centros tecnológicos, universidades y empresas que han alumbrado esta nueva era de la inteligencia artificial, una transformación con capacidad de alterar radicalmente la forma de relacionarnos, consumir, producir y ser gobernados. Dando una vuelta de tuerca al llamamiento, algunas voces cualificadas, aunque más partidarias del rompe y rasga, han pedido no la moratoria sino la proscripción de determinados proyectos de investigaciones con la inteligencia artificial, y que ello sea puesto en práctica mediante la coerción si es necesario. Es el caso del investigador Eliezer Yudkowsky, que ha abogado en la revista Time por la prohibición tajante, señalando que el riesgo es superior al que, en comparación, tuvo el desarrollo de armamento nuclear, por la mayor dificultad de controlar este nuevo fuego que Prometeo ha arrebatado del Olimpo.

Es la primera vez que, con tanta claridad, una buena parte de un sector emergente reclama ser regulado, mientras los gobiernos y legisladores hacen como si la cosa no fuese con ellos o, cuando están tímidamente en la tarea (como hace la Unión Europea con la Artificial Intelligence Act), avanzan a un ritmo totalmente desacompasado del carácter fulgurante de los desarrollos y aplicaciones. Lo cierto es que estamos en ese peligroso límite en el que el imparable desarrollo de la inteligencia artificial se traduce en aplicaciones prácticas, algunas ya en curso y otras a la vuelta de la esquina, de manera acrítica, sin reflexión suficiente, sin considerar los aspectos éticos en juego, sin regulación ni reguladores capacitados y, evidentemente, sin herramientas de gestión eficaz. Ante la falta de cauce, la posibilidad de ser objeto de decisiones automatizadas en las que no intervenga el ser humano, o el desarrollo de contenidos visuales e intelectuales de manera autónoma por la inteligencia artificial y la imposibilidad de reconocer qué es producido por ésta y qué por la mano del hombre, son aplicaciones que ya se materializan y que abren enormes interrogantes. Algunos ejemplos, como la presentación realista de situaciones e imágenes mediante inteligencia artificial (con riesgos desestabilizadores que puede dejar aquella experiencia de Llamazares y Bin Laden en una anécdota trivial), cuestionan la forma de relacionarse, dificultan la posibilidad de contar con una identidad digital propia, comprometen nuestro propio derecho a la existencia diferenciada y no susceptible de ser suplantada en el mundo virtual, y hacen más borrosa que nunca la distinción entre lo real y lo falso, hasta ahora consustancial a nuestra forma de estar en el mundo. Ojalá surja un reflujo que revalorice lo que el propio ser humano materializa (el human made como etiqueta identificadora) y que ponga de relieve la diferencia entre autenticidad y artificio, en lugar de esta absurda fascinación que, por ahora, nos invade.

Que la inteligencia artificial nos deje sin trabajo o vaya a convertir a cohortes enormes de población en seres inadaptados es casi lo de menos, pero habrá que emular, actualizado a nuestro tiempo, a los movimientos sociales del siglo XIX y XX que opusieron (con sacrificios y una larga y dolorosa lucha) la resistencia para que los efectos perniciosos de las sucesivas revoluciones industriales fueran paliados mediante la protección pública y la redistribución de la riqueza. Está por ver que eso vaya a suceder en este caso. Lo que, entre tanto, puede arrebatarnos el nuevo paradigma son los derechos civiles y políticos elementales, y quizá suceda con el aplauso de muchos, que, por ejemplo, no ven con malos ojos la posibilidad de prescindir del elemento humano en la toma de decisiones públicas o la impartición de justicia, pues a tal grado de desconfianza en las propias capacidades de nuestro sistema hemos llegado.

La volatilización del espacio público democrático y de la formación libre de la opinión, sustituidos por la jungla digital. La uniformización cultural y el empobrecimiento definitivo del lenguaje, pues qué otra cosa representa ChatGPT y tecnologías análogas sino la muerte de la diversidad espontánea en la expresión y la creación natural en las lenguas que parasita. La pérdida radical de valor del aprendizaje humano y de las capacidades, distintas de las que nos hacen compatibles con la inteligencia artificial, que pasan a ser las únicas a valorar. La sustitución de los atributos que nos han hecho progresar intelectualmente de manera colectiva por la dependencia absoluta de la inteligencia artificial, terreno de una minoría que además nos avisa de que está perdiendo el propio hilo de su desarrollo. Y, naturalmente, el control en un grado superlativo, como ya sucede con el paso de la videovigilancia generalizada al reconocimiento facial masivo en espacios públicos (no sólo China lo hace, Amnistía Internacional ha llamado la atención sobre los programas pioneros en Nueva York e Hyderabad, India), o con la confección de patrones de social scoring ya sea para primar la mansedumbre y el cumplimiento del estándar normativo o para la identificación de conductas consideradas predelictivas que, naturalmente, incluyen la disidencia o la mera heterodoxia vital en el objeto de sospecha. Todo eso está sucediendo a lomos de una revolución tecnológica impredecible, ingobernable y eficacísima.

La Declaración Universal de los Derechos Humanos recoge en su artículo 1 una afirmación de naturaleza filosófica y política cuando enuncia que los seres humanos «dotados como están de razón y conciencia, deben comportarse fraternalmente los unos con los otros». Con las llamas humeantes de la II Guerra Mundial y el desastre del Holocausto en la memoria inmediata de aquel 1948, razón y conciencia, eran, según los redactores de la Declaración Universal bajo la coordinación de Eleanor Roosevelt, el sustento y motor civilizatorio que nos permitiría, como en los versos de Goytisolo (Palabras para Julia), comprender que «tu dignidad es la de todos»; algo tan básico y a la vez tan difícil. Llegados a este punto en que la mera noción de nuestra humanidad se pone en juego ante los dilemas de una disrupción tecnológica superlativa, posiblemente tendremos que volver a ese impulso y confianza en nuestra especie para recuperar terreno y equilibrio. Por mucho que un ingeniero de Google (Blake LeMoine, despedido por sólo atreverse a afirmarlo) haya apreciado autoconciencia en la inteligencia artificial, mucho me temo que ese nuevo género de «razón y conciencia» carezca en su código de la aspiración a la fraternidad invocada desde la Asamblea General de Naciones Unidas. No estuvo la inteligencia artificial desde luego, en la trinchera revolucionaria que la enunció junto a la libertad y la igualdad, como principios fundacionales. Junto a la Marianne de Delacroix no había un dispositivo móvil y un humano hiperconectado, sino algo tan primario y sublime como la voluntad, ahora perdida, de sacudirse las cadenas. Es cosa de humanos, por lo tanto, evitar que los logros tecnológicos alcanzados evaporen todo rastro de esos principios, sepultados ante la cómoda rendición de nuestro propio espíritu.