ALGORITMOS ÉTICOS Y CON PROPÓSITO

Mercedes Siles Molina

Academia Malagueña de Ciencias

Como continuación al artículo “Inicios y algunos usos de la inteligencia artificial. Aún estamos en la inteligencia artificial débil”, publicado en este mismo blog, hoy quería hablar de ética y algoritmos. Explicaré brevemente qué es un algoritmo, la importancia de los valores éticos, de qué debemos preocuparnos y de qué no con respecto a la tecnología, y de algunas iniciativas que estamos llevando a cabo en colaboración con la Fundación Hermes.

Vivimos unos tiempos sumamente interesantes, en los que una revolución del conocimiento está poniendo todo patas arriba. Estoy hablando de la revolución de la llamada inteligencia artificial. Nos parece que los pilares de nuestra existencia se tambalean y sentimos una especie de vértigo vital. Necesitamos saber qué está pasando, comprenderlo, y centrarnos en lo que es esencial al ser humano, y en hasta dónde vamos a permitir que esa esencialidad sea invadida y eliminada.

He planteado este artículo en torno a tres preguntas clave. La primera de ellas es: ¿por qué nos centramos en los algoritmos? La segunda: ¿por qué es necesario incluir la ética en relación con los algoritmos? La tercera: ¿por qué hablar de desarrollo humano como propósito?

La inteligencia artificial (IA) aspira a ser como el aire que respiramos: algo que esté constantemente presente, que nos resulte imprescindible para la vida, y de cuya acción no nos demos cuenta. A eso es a lo que aspira. Sin embargo, la IA no es algo natural ni completamente imprescindible como el aire. Es verdad que puede ser útil, y mucho, pero también puede ser perniciosa, y mucho. Es por ello que resulta fundamental saber qué es la IA y abordarla con conocimiento de sus posibilidades y de sus limitaciones, de sus beneficios, y también de los perjuicios que puede causar. Conocer es perder el miedo. De esto se trata, de perder el miedo a la tecnología, sin por ello dejar de estar alerta acerca de los usos y de la instrumentalización que se puede hacer de la misma.

¿Qué es la IA? De manera simplificada podríamos decir que, cuando se habla de inteligencia artificial, se piensa en que una máquina haga lo que hace el ser humano. Consideremos algunas cualidades y capacidades humanas, como pensar, hablar, caminar, jugar al ajedrez, limpiar, conducir, etc. Una inteligencia artificial vendría a ser una máquina con estas capacidades o cualidades. Una cuestión sustancial es si las máquinas pueden pensar. La respuesta es que no. Las máquinas no piensan. Daré razones que justifican esta afirmación.

¿Cómo funcionan las máquinas?, ¿cómo funciona la IA? Funcionan a partir de instrucciones. Esas instrucciones son los algoritmos. ¿Y qué es un algoritmo? Un algoritmo es un listado de instrucciones matemáticas que, seguidas en el orden indicado, dan respuesta a una pregunta concreta. Un ejemplo sencillo de algoritmo, bien conocido, es el Algoritmo de la división. En el colegio nos explican cómo dividir dos números, y que la división nos da un cociente y un resto. La lista de instrucciones a seguir para dividir es el algoritmo de la división. Por extensión, también llamamos algoritmo de la división a la ejecución de esas instrucciones. Es decir, entendemos por algoritmo dos cosas: tanto un listado de instrucciones matemáticas que, seguidas en el orden indicado, dan respuesta a una pregunta concreta, como el procedimiento.

Otros ejemplos de algoritmos son: las instrucciones para ir de un lugar a otro por el camino más corto; los árboles de decisión, usados en múltiples contextos, en medicina, por ejemplo; las instrucciones que siguen los navegadores de Internet que usamos para enviarnos información basada en las webs que visitamos; las instrucciones que siguen las plataformas para recomendarnos películas, llamadas algoritmos de recomendación.

¿Hacen los ordenadores, las máquinas, cosas sorprendentes? Sí. ¿Mejor que el ser humano? Algunas tareas sí las hacen mejor, como calcular más rápido, ir a mayor velocidad -los coches-, tejer de manera más precisa y en menos tiempo, encontrar y acumular grandes cantidades de información, etc. ¿Hay tareas que hacen peor? Sí. Las máquinas que tienen capacidad de movimiento no lo hacen con la ligereza y sofisticación con la que caminan o corren las personas; las que reconocen caras no siempre lo hacen correctamente; las máquinas no están dotadas de la misma capacidad para expresarse que tenemos los seres humanos, el resultado no tiene la misma profundidad. ¿Hay tareas que no saben hacer? Sí, por ejemplo: reconocer el sarcasmo, el estado de humor de una persona analizando su cara, caminar con facilidad, etc. ¿Y hay aspectos que nunca podrán alcanzar? Sí: la realidad. Las sensaciones, los sentimientos, la yoidad, es decir, la condición de ser yo. Podrán aparentar estas cosas, pero no dejarán de ser una carcasa de la realidad. No debemos olvidar que las personas somos piel y sentimientos; que tenemos cuerpo y mente, estrecha e inseparablemente conectados; que lo que somos, lo somos a través del pensamiento, y a través de los sentidos. Que tanto la materialidad como la espiritualidad son consustanciales al ser humano. Nunca un objeto podrá alcanzar esta realidad. Podrá parecernos que lo logra, pero será una falsedad.

¿Qué puede, qué podrá hacer la IA? Solamente aquello que pueda ser algoritmizado. Aquello que pueda hacerse mediante una cantidad finita de instrucciones. La IA no tiene la capacidad de lo infinito, no puede alcanzar la realidad, porque utiliza un lenguaje, y ese lenguaje tiene un alcance limitado. El ejemplo lo tenemos en el lenguaje que usamos para comunicarnos: no puede alcanzar la realidad. Hay cosas que podemos decir, explicar, y otras que no. La filosofía se ha encargado de poner esto de manifiesto. Y las matemáticas lo demuestran: no existen suficientes palabras, frases, para ponerle nombre a todos los números, y los números existen, luego, a través del lenguaje, no podemos expresar lo que existe, no podemos alcanzar la realidad.

Las matemáticas son el lenguaje de la IA y los algoritmos son su gramática. Esta frese resume en qué consiste la IA y cuál es su alcance. Todo lo que hace la IA está regido por ellos (Siles, 2025). Además, y esto es tremendamente importante, los algoritmos pueden incluir sesgos, intencionados o no; pueden causar beneficios, pero también perjuicios.

La segunda de las preguntas que planteaba era: ¿por qué es necesario incluir la ética en relación con los algoritmos? La respuesta es: porque existe miedo acerca del desarrollo de la tecnología sin control y sin propósito. Un miedo basado en la realidad. Si bien hay muchos algoritmos y muchos usos de la IA que son beneficiosos, qué duda cabe, hay otros que no lo son tanto. Por ejemplo: los algoritmos que manipulan opiniones en las redes sociales; los algoritmos usados para seleccionar personas para ocupar un puesto de trabajo; los algoritmos que califican la calidad del profesorado; los algoritmos usados para otorgar préstamos hipotecarios -algunos de ellos llevaron a la crisis de Lehman Brothers en 2008, y a la crisis económica global ese mismo año-; los algoritmos de vigilancia de masas, que pueden socavar la privacidad y la libertad; los algoritmos que manipulan los precios para ajustarlos a la demanda -usados por las compañías que ofrecen vuelos, alojamientos y otros productos-; los algoritmos involucrados en las armas letales autónomas, etc.

La IA tiene sesgos y un impacto no deseable, por ejemplo: sesgos en los datos -sesgos de género, raza, orientación sexual, ideológica, etc.; pueden influir en la opinión pública; pueden manipular psicológicamente apelando a las emociones; pueden tener la capacidad de orientar el voto y la toma de decisiones; pueden adolecer de falta de transparencia: en los objetivos que tiene, en la calidad de los datos de los que se ha alimentado, con respecto a los algoritmos que rigen su funcionamiento, en relación con el impacto que causa, etc.

Vayamos a la tercera cuestión: ¿por qué hablar de desarrollo humano como propósito? Porque la tecnología debe tener como motor, como principio, el desarrollo del conocimiento y el del ser humano, y la realidad que nos ha tocado vivir nos ha alertado de que esto no es así. Es por ello que debemos preservar los derechos de la ciudadanía, ampliar esta defensa a los derechos digitales, y hemos de hacerlo desde la ética y la protección de nuestro sistema de valores, según unos principios. Y es fundamental que lo hagamos desde todas las perspectivas posibles: la científica, la técnica, la humanista, la laboral, etc. En eso, precisamente, es en lo que estamos trabajando en el proyecto “Algoritmos Éticos y Responsables para el Desarrollo Humano”, en colaboración con la Fundación Hermes. ¿Cuáles son los objetivos que perseguimos? El primero, establecer una Carta de Principios Algorítmicos en base a cuatro características: revocabilidad, responsabilidad, transparencia y trazabilidad -R2T2, de manera sintética-. En segundo lugar, impulsar la regulación de los algoritmos. Debiera haber una agencia que, a modo de la Agencia del Medicamento, controle y regule. El tercero de los objetivos es plantear una certificación de calidad algorítmica. Es fundamental para asegurar el buen uso de los algoritmos y su impacto positivo. Como cuarto objetivo, ofreceremos formación para diferentes públicos y en diversos formatos, para que personas de todas las edades y condiciones, adquieran conocimientos, experiencias de aprendizaje, acerca de los algoritmos y de su uso ético. El quinto de los objetivos es informar, difundir y divulgar los resultados obtenidos.

Se trata de una labor multidisciplinar. Porque la tecnología, la IA afecta a todas las disciplinas y en todos los órdenes de la vida. Con esta mirada es con la que estamos trabajando, porque necesitamos algoritmos éticos y responsables para el desarrollo humano.

Siles Molina, M., 2025. El español: lengua de la Inteligencia.  En: Uso y cuidado de la lengua española en la ciencia. Academia Malagueña de Ciencias.

*Mercedes Siles Molina es catedrática de Álgebra de la Universidad de Málaga, académica de número de la Academia Malagueña de Ciencias, miembro del IGIUMA y miembro del Consejo Asesor de la Fundación Hermes.

Imagen de cabecera debida a Geralt (Pixaby)