LAS CAJAS DE DELFOS

Mercedes Siles Molina

Academia Malagueña de Ciencias

Me gustaría comenzar explicando de manera sencilla qué idea se tiene de la tecnología, cómo la incorporamos a nuestra vida y qué esperamos de ella.

Imaginemos que tenemos en casa una caja llena de frases como las de las famosas galletas de la suerte –que ya han colonizado nuestro imaginario cultural–, y que cada día, al levantarnos, lo primero que hacemos es sacar un papelito de la caja para ver qué nos depara el destino. Según la frase, enfocaremos cómo afrontar la jornada, y, posiblemente, al terminar el día, si tenemos la fortuna de disponer de tiempo para pensar, simplemente para pensar, tal vez nos convenzamos de que la frase tenía razón. Porque tenemos la capacidad de modelar la realidad para ajustarla convenientemente a nuestras creencias, deseos y pensamientos. Si cada día repetimos esta acción, se convertirá en costumbre, y esa costumbre nos llevará, primero, a no pensar después de despertarnos en otra cosa más que en ir inmediatamente a la caja –que ya no será la de la suerte, sino la del futuro–, lo que nos habrá creado una dependencia, y, segundo, a comportarnos según dictamine la frase del día. Entonces, esa caja habrá dejado de ser una vulgar caja, habrá dejado de ser la caja de la suerte, y la del futuro, y se habrá convertido en un oráculo que manejará nuestro comportamiento. Le hemos permitido que asuma las riendas de nuestra vida. Esto es grave, porque esa caja será la que determine cómo actuamos, y no sabremos hacerlo, no sabremos vivir, sin antes haber consultado con ella. La hemos dotado de la cualidad del conocimiento, y hemos permitido que asuma el poder de decidir sobre nuestro comportamiento, sobre nuestra vida. Nos hemos convertido en personas esclavas.

De manera simplificada, esto es exactamente lo que ocurre cuando damos cualidades que no tienen a modelos conversacionales de IA –como ChatGPT, DeepSeek, Claude, Gemini, etc.–, a los algoritmos, y a la inteligencia artificial.

Está demostrado que la tecnología no centrada en el desarrollo humano genera dependencia: enganche a TikTok, Twitter (X), Instagram y otras redes sociales; adicción al ‘scroll infinito´; uso compulsivo y excesivo del móvil, las tabletas y otros dispositivos; utilización de la inteligencia artificial como si fuera tu amiga, tu pareja, tu psiquiatra o tu asesora espiritual o psicológica.

La diferencia entre la IA y la caja imaginaria de la que hablamos es que esta no tiene intencionalidad aparente –digo aparente porque no sabemos si alguien la ha creado y nos la ha dado con cierta intención–, ni su existencia y uso conllevan –aparentemente– enriquecimiento por parte de nadie, mientras que estos modelos tienen intencionalidad, sesgos, sexgos, comportan riesgos, y producen enriquecimiento de alguien, empobrecimiento, alienación y graves daños en las personas, así como degradación de la naturaleza y de la sociedad en la que vivimos.

Ahora, imaginemos que tenemos dos cajas en cada una de las cuales hay partes de oraciones. En una, están los sujetos y en otra, los predicados. Y supongamos que cada vez que queremos construir una frase vamos a la caja de los sujetos primero y a la caja de los predicados después, y de cada una de ellas tomamos un sujeto y un predicado. Ahora, vamos a formar una frase. De la primera caja, el sujeto que nos sale es ‘la matemática’; de la segunda caja, el predicado es ‘come un huevo frito’. La frase obtenida es: ‘la matemática come un huevo frito’, que tiene perfecto sentido. Nos sorprendemos, y nos creemos que ese sistema es inteligente, porque construye oraciones que tienen sentido. Otro día, el sujeto que sacamos es ‘el perro marrón’ y el predicado, el mismo: ’come un huevo frito’, y nos reímos y pensamos que el sistema de cajas, además de ser inteligente, es simpático, porque creemos que tiene sentido del humor. Y entonces, como además de frases con sentido, construye frases graciosas, pensamos que, si ese día ha construido esa oración simpática, algo habrá querido decir, y comenzamos a atribuirle cualidades como la intencionalidad, aparte de la inteligencia y la simpatía. Otro día, el sujeto que obtenemos es ‘la hortensia’ y, casualmente, vuelve a salir el mismo predicado: ‘come un huevo frito’. Esto nos desconcierta en principio, porque la expresión ‘la hortensia come un huevo frito’ no tiene sentido alguno, pero como al sistema le hemos atribuido las cualidades mencionadas, de alguna manera dicha sentencia ha de significar algo. Y comenzamos a darle vueltas, hasta hacerlo encajar con algo que nos inventamos. Porque tenemos la capacidad de modelar la realidad para ajustarla convenientemente –entendemos por ‘realidad’: ‘lo que existe’, así como ‘lo que la persona piensa que existe’; lo que se piensa, también existe, también es real, con independencia de que haga referencia a un objeto físico o no–. Entonces, estamos dotando al sistema de propósito. Esto pone de manifiesto diversas cuestiones. Entre otras, que nos convencemos de cosas que no son verdad; que alteramos la realidad para encontrar otras realidades que encajen con un modelo que nos hemos inventado, con independencia de que no sea lógico, ni explicable, de que pueda resultarnos perjudicial en algún sentido. También, que autogeneramos dependencia, en este caso de algo absurdo, y que a ese algo absurdo, el sistema de cajas, le atribuimos unas cualidades, un valor y un poder que ni tienen ni merecen. Las consideramos como el oráculo de Delfos. Eso es exactamente lo que estamos haciendo, lo que nos están haciendo en relación con la IA. Creemos que puede resolver nuestros problemas, desde los más esenciales a los más banales. Están tratando de convencernos de ello. Nos dicen que tiene capacidad para hacerlo. Y no es verdad.

Si continuamos por ese camino, si permitimos que nos sigan llevando por él, inevitablemente nos frustraremos, como personas y como sociedad. Ello nos hará más frágiles y vulnerables, condiciones que son perfectamente detectables gracias a la tecnología. Cada clic en una web, en un correo electrónico que nos llega, cada ‘like’ en una noticia, en una red social, cada comentario que escribimos, es un dato sobre nuestros gustos, nuestras creencias, nuestras necesidades; y sobre nuestras fragilidades, vulnerabilidades y puntos débiles. Esos datos son clasificados siguiendo modelos que se han construido con cierta intencionalidad y son convertidos en información valiosísima. Y sensible. Dicha información es vendida, o almacenada a la espera de ser vendida. Es usada. Es aprovechada por individuos sin escrúpulos que ven en ella estanques de cría de peces –cada categorización nos reparte, nos mete es un estanque de cría– en un inmenso océano al que acudir para echar sus redes y vendernos falsa comprensión, falsa amistad, falsa compañía, falsa formación, etc., falsas soluciones. Les da igual que el producto que ofrecen sea inmundo, que no sirva para lo que necesitamos o queremos. Les da igual que los efectos sean nocivos. Persiguen enriquecerse sin límites, y se convencen de que han descubierto la piedra filosofal, no para hacer oro, sino para gobernar a la humanidad. Humanidad que queda reducida a seres sin importancia en manos de quienes ‘saben’. No dejemos que esto ocurra, que nos reduzcan a versiones computerizadas de nuestro ser.

Igual que las cajas de los ejemplos deberían considerarse como meros divertimentos, que su creación y utilización debería tener ese único objetivo, los programas informáticos, las plataformas digitales, los modelos de IA, la tecnología, deberían tener un único objetivo: estar al servicio de la humanidad y del entorno –en un sentido amplio– que nos acoge. Hablar de algoritmos éticos, de una inteligencia artificial ética y responsable, es solo el punto inicial. Después deben venir las normas, los procedimientos, los mecanismos de supervisión y sanción. Todo ello, enfocado en ese único objetivo antes mencionado: el desarrollo humano sostenible.

¿A qué persona se le ocurriría vivir sometida, atrapada por un sistema de cajas? Nos parece ridículo y absurdo, pero eso es lo que tenemos: una sociedad, en un sentido amplísimo, una humanidad, deberíamos decir, que está siendo conducida hacia un mundo reducido, limitado, fabricado con escasos escrúpulos, del que quizás no pueda salir. ¿Queremos que la tecnología nos atrape? ¿Queremos ser esa sociedad a la que Buñuel retrató en la película “El Ángel Exterminador” encerrada en una habitación de la que no poder salir? Ahí fuera hay un bosque que descubrir, un bosque por habitar y por dejar que nos habite. Ese bosque que describía Ana María Matute –de cuyo nacimiento se cumplen 100 años– en su discurso de ingreso en la RAE en 1998 y que representa la dimensión espiritual de nuestra materialidad.

*Mercedes Siles Molina es catedrática de Álgebra de la Universidad de Málaga. Académica de Número de la Academia Malagueña de Ciencias. Miembro del IGIUMA y del Consejo Asesor de la Fundación Hermes.