{"id":3731,"date":"2025-05-10T05:00:00","date_gmt":"2025-05-10T05:00:00","guid":{"rendered":"https:\/\/academiamalaguenaciencias.wordpress.com\/?p=3731"},"modified":"2026-06-10T15:13:49","modified_gmt":"2026-06-10T15:13:49","slug":"algoritmos-eticos-y-con-proposito","status":"publish","type":"post","link":"https:\/\/amciencias.com\/Blog-Amc\/index.php\/2025\/05\/10\/algoritmos-eticos-y-con-proposito\/","title":{"rendered":"ALGORITMOS \u00c9TICOS Y CON PROP\u00d3SITO"},"content":{"rendered":"\n\n\n

Mercedes Siles Molina<\/strong><\/p>\n\n\n\n

Academia Malague\u00f1a de Ciencias<\/p>\n\n\n\n

Como continuaci\u00f3n al art\u00edculo \u201cInicios y algunos usos de la inteligencia artificial. A\u00fan estamos en la inteligencia artificial d\u00e9bil<\/em>\u201d, publicado en este mismo blog<\/a><\/strong>, hoy quer\u00eda hablar de \u00e9tica y algoritmos. Explicar\u00e9 brevemente qu\u00e9 es un algoritmo, la importancia de los valores \u00e9ticos, de qu\u00e9 debemos preocuparnos y de qu\u00e9 no con respecto a la tecnolog\u00eda, y de algunas iniciativas que estamos llevando a cabo en colaboraci\u00f3n con la Fundaci\u00f3n Hermes.<\/p>\n\n\n\n

Vivimos unos tiempos sumamente interesantes, en los que una revoluci\u00f3n del conocimiento est\u00e1 poniendo todo patas arriba. Estoy hablando de la revoluci\u00f3n de la llamada inteligencia artificial. Nos parece que los pilares de nuestra existencia se tambalean y sentimos una especie de v\u00e9rtigo vital. Necesitamos saber qu\u00e9 est\u00e1 pasando, comprenderlo, y centrarnos en lo que es esencial al ser humano, y en hasta d\u00f3nde vamos a permitir que esa esencialidad sea invadida y eliminada. <\/p>\n\n\n\n

He planteado este art\u00edculo en torno a tres preguntas clave. La primera de ellas es: \u00bfpor qu\u00e9 nos centramos en los algoritmos? La segunda: \u00bfpor qu\u00e9 es necesario incluir la \u00e9tica en relaci\u00f3n con los algoritmos? La tercera: \u00bfpor qu\u00e9 hablar de desarrollo humano como prop\u00f3sito? <\/p>\n\n\n

\n
\"\"
Colores de amistad. Mercedes Siles Molina<\/strong><\/figcaption><\/figure>\n<\/div>\n\n\n

La inteligencia artificial (IA) aspira a ser como el aire que respiramos: algo que est\u00e9 constantemente presente, que nos resulte imprescindible para la vida, y de cuya acci\u00f3n no nos demos cuenta. A eso es a lo que aspira. Sin embargo, la IA no es algo natural ni completamente imprescindible como el aire. Es verdad que puede ser \u00fatil, y mucho, pero tambi\u00e9n puede ser perniciosa, y mucho. Es por ello que resulta fundamental saber qu\u00e9 es la IA y abordarla con conocimiento de sus posibilidades y de sus limitaciones, de sus beneficios, y tambi\u00e9n de los perjuicios que puede causar. Conocer es perder el miedo. De esto se trata, de perder el miedo a la tecnolog\u00eda, sin por ello dejar de estar alerta acerca de los usos y de la instrumentalizaci\u00f3n que se puede hacer de la misma. <\/p>\n\n\n\n

\u00bfQu\u00e9 es la IA? De manera simplificada podr\u00edamos decir que, cuando se habla de inteligencia artificial, se piensa en que una m\u00e1quina haga lo que hace el ser humano. Consideremos algunas cualidades y capacidades humanas, como pensar, hablar, caminar, jugar al ajedrez, limpiar, conducir, etc. Una inteligencia artificial vendr\u00eda a ser una m\u00e1quina con estas capacidades o cualidades. Una cuesti\u00f3n sustancial es si las m\u00e1quinas pueden pensar. La respuesta es que no. Las m\u00e1quinas no piensan. Dar\u00e9 razones que justifican esta afirmaci\u00f3n. <\/p>\n\n\n\n

\u00bfC\u00f3mo funcionan las m\u00e1quinas?, \u00bfc\u00f3mo funciona la IA? Funcionan a partir de instrucciones. Esas instrucciones son los algoritmos. \u00bfY qu\u00e9 es un algoritmo? Un algoritmo es un listado de instrucciones matem\u00e1ticas que, seguidas en el orden indicado, dan respuesta a una pregunta concreta. Un ejemplo sencillo de algoritmo, bien conocido, es el Algoritmo de la divisi\u00f3n. En el colegio nos explican c\u00f3mo dividir dos n\u00fameros, y que la divisi\u00f3n nos da un cociente y un resto. La lista de instrucciones a seguir para dividir es el algoritmo de la divisi\u00f3n. Por extensi\u00f3n, tambi\u00e9n llamamos algoritmo de la divisi\u00f3n a la ejecuci\u00f3n de esas instrucciones. Es decir, entendemos por algoritmo dos cosas: tanto un listado de instrucciones matem\u00e1ticas que, seguidas en el orden indicado, dan respuesta a una pregunta concreta, como el procedimiento. <\/p>\n\n\n

\n
\"\"
Primavera en el Thyssen. Mercedes Siles Molina <\/strong><\/figcaption><\/figure>\n<\/div>\n\n\n

Otros ejemplos de algoritmos son: las instrucciones para ir de un lugar a otro por el camino m\u00e1s corto; los \u00e1rboles de decisi\u00f3n, usados en m\u00faltiples contextos, en medicina, por ejemplo; las instrucciones que siguen los navegadores de Internet que usamos para enviarnos informaci\u00f3n basada en las webs que visitamos; las instrucciones que siguen las plataformas para recomendarnos pel\u00edculas, llamadas algoritmos de recomendaci\u00f3n. <\/p>\n\n\n\n

\u00bfHacen los ordenadores, las m\u00e1quinas, cosas sorprendentes? S\u00ed. \u00bfMejor que el ser humano? Algunas tareas s\u00ed las hacen mejor, como calcular m\u00e1s r\u00e1pido, ir a mayor velocidad -los coches-, tejer de manera m\u00e1s precisa y en menos tiempo, encontrar y acumular grandes cantidades de informaci\u00f3n, etc. \u00bfHay tareas que hacen peor? S\u00ed. Las m\u00e1quinas que tienen capacidad de movimiento no lo hacen con la ligereza y sofisticaci\u00f3n con la que caminan o corren las personas; las que reconocen caras no siempre lo hacen correctamente; las m\u00e1quinas no est\u00e1n dotadas de la misma capacidad para expresarse que tenemos los seres humanos, el resultado no tiene la misma profundidad. \u00bfHay tareas que no saben hacer? S\u00ed, por ejemplo: reconocer el sarcasmo, el estado de humor de una persona analizando su cara, caminar con facilidad, etc. \u00bfY hay aspectos que nunca podr\u00e1n alcanzar? S\u00ed: la realidad. Las sensaciones, los sentimientos, la yoidad, es decir, la condici\u00f3n de ser yo. Podr\u00e1n aparentar estas cosas, pero no dejar\u00e1n de ser una carcasa de la realidad. No debemos olvidar que las personas somos piel y sentimientos; que tenemos cuerpo y mente, estrecha e inseparablemente conectados; que lo que somos, lo somos a trav\u00e9s del pensamiento, y a trav\u00e9s de los sentidos. Que tanto la materialidad como la espiritualidad son consustanciales al ser humano. Nunca un objeto podr\u00e1 alcanzar esta realidad. Podr\u00e1 parecernos que lo logra, pero ser\u00e1 una falsedad. <\/p>\n\n\n\n

\u00bfQu\u00e9 puede, qu\u00e9 podr\u00e1 hacer la IA? Solamente aquello que pueda ser algoritmizado. Aquello que pueda hacerse mediante una cantidad finita de instrucciones. La IA no tiene la capacidad de lo infinito, no puede alcanzar la realidad, porque utiliza un lenguaje, y ese lenguaje tiene un alcance limitado. El ejemplo lo tenemos en el lenguaje que usamos para comunicarnos: no puede alcanzar la realidad. Hay cosas que podemos decir, explicar, y otras que no. La filosof\u00eda se ha encargado de poner esto de manifiesto. Y las matem\u00e1ticas lo demuestran: no existen suficientes palabras, frases, para ponerle nombre a todos los n\u00fameros, y los n\u00fameros existen, luego, a trav\u00e9s del lenguaje, no podemos expresar lo que existe, no podemos alcanzar la realidad. <\/p>\n\n\n\n

Las matem\u00e1ticas son el lenguaje de la IA y los algoritmos son su gram\u00e1tica. Esta frese resume en qu\u00e9 consiste la IA y cu\u00e1l es su alcance. Todo lo que hace la IA est\u00e1 regido por ellos (Siles, 2025). Adem\u00e1s, y esto es tremendamente importante, los algoritmos pueden incluir sesgos, intencionados o no; pueden causar beneficios, pero tambi\u00e9n perjuicios. <\/p>\n\n\n\n

La segunda de las preguntas que planteaba era: \u00bfpor qu\u00e9 es necesario incluir la \u00e9tica en relaci\u00f3n con los algoritmos? La respuesta es: porque existe miedo acerca del desarrollo de la tecnolog\u00eda sin control y sin prop\u00f3sito. Un miedo basado en la realidad. Si bien hay muchos algoritmos y muchos usos de la IA que son beneficiosos, qu\u00e9 duda cabe, hay otros que no lo son tanto. Por ejemplo: los algoritmos que manipulan opiniones en las redes sociales; los algoritmos usados para seleccionar personas para ocupar un puesto de trabajo; los algoritmos que califican la calidad del profesorado; los algoritmos usados para otorgar pr\u00e9stamos hipotecarios -algunos de ellos llevaron a la crisis de Lehman Brothers en 2008, y a la crisis econ\u00f3mica global ese mismo a\u00f1o-; los algoritmos de vigilancia de masas, que pueden socavar la privacidad y la libertad; los algoritmos que manipulan los precios para ajustarlos a la demanda -usados por las compa\u00f1\u00edas que ofrecen vuelos, alojamientos y otros productos-; los algoritmos involucrados en las armas letales aut\u00f3nomas, etc. <\/p>\n\n\n\n

La IA tiene sesgos y un impacto no deseable, por ejemplo: sesgos en los datos -sesgos de g\u00e9nero, raza, orientaci\u00f3n sexual, ideol\u00f3gica, etc.; pueden influir en la opini\u00f3n p\u00fablica; pueden manipular psicol\u00f3gicamente apelando a las emociones; pueden tener la capacidad de orientar el voto y la toma de decisiones; pueden adolecer de falta de transparencia: en los objetivos que tiene, en la calidad de los datos de los que se ha alimentado, con respecto a los algoritmos que rigen su funcionamiento, en relaci\u00f3n con el impacto que causa, etc. <\/p>\n\n\n

\n
\"\"
No o\u00edr, no ver, no hablar. Pensar. Mercedes Siles Molina (Escultura de Jaume Plensa)<\/strong><\/figcaption><\/figure>\n<\/div>\n\n\n

Vayamos a la tercera cuesti\u00f3n: \u00bfpor qu\u00e9 hablar de desarrollo humano como prop\u00f3sito? Porque la tecnolog\u00eda debe tener como motor, como principio, el desarrollo del conocimiento y el del ser humano, y la realidad que nos ha tocado vivir nos ha alertado de que esto no es as\u00ed. Es por ello que debemos preservar los derechos de la ciudadan\u00eda, ampliar esta defensa a los derechos digitales, y hemos de hacerlo desde la \u00e9tica y la protecci\u00f3n de nuestro sistema de valores, seg\u00fan unos principios. Y es fundamental que lo hagamos desde todas las perspectivas posibles: la cient\u00edfica, la t\u00e9cnica, la humanista, la laboral, etc. En eso, precisamente, es en lo que estamos trabajando en el proyecto \u201cAlgoritmos \u00c9ticos y Responsables para el Desarrollo Humano\u201d, en colaboraci\u00f3n con la Fundaci\u00f3n Hermes. \u00bfCu\u00e1les son los objetivos que perseguimos? El primero, establecer una Carta de Principios Algor\u00edtmicos<\/strong> en base a cuatro caracter\u00edsticas: revocabilidad, responsabilidad, transparencia y trazabilidad -R2T2, de manera sint\u00e9tica-. En segundo lugar, impulsar la regulaci\u00f3n de los algoritmos. Debiera haber una agencia que, a modo de la Agencia del Medicamento, controle y regule. El tercero de los objetivos es plantear una certificaci\u00f3n de calidad algor\u00edtmica. Es fundamental para asegurar el buen uso de los algoritmos y su impacto positivo. Como cuarto objetivo, ofreceremos formaci\u00f3n para diferentes p\u00fablicos y en diversos formatos, para que personas de todas las edades y condiciones, adquieran conocimientos, experiencias de aprendizaje, acerca de los algoritmos y de su uso \u00e9tico. El quinto de los objetivos es informar, difundir y divulgar los resultados obtenidos. <\/p>\n\n\n\n

Se trata de una labor multidisciplinar. Porque la tecnolog\u00eda, la IA afecta a todas las disciplinas y en todos los \u00f3rdenes de la vida. Con esta mirada es con la que estamos trabajando, porque necesitamos algoritmos \u00e9ticos y responsables para el desarrollo humano.<\/p>\n\n\n\n

Siles Molina, M., 2025. El espa\u00f1ol: lengua de la Inteligencia.  En: Uso y cuidado de la lengua espa\u00f1ola en la ciencia. Academia Malague\u00f1a de Ciencias<\/em>.<\/p>\n\n\n\n

*Mercedes Siles Molina es catedr\u00e1tica de \u00c1lgebra de la Universidad de M\u00e1laga, acad\u00e9mica de n\u00famero de la Academia Malague\u00f1a de Ciencias, miembro del IGIUMA y miembro del Consejo Asesor de la Fundaci\u00f3n Hermes.<\/em><\/strong><\/p>\n\n\n\n

Imagen de cabecera debida a Geralt (Pixaby<\/a><\/strong>)<\/p>\n","protected":false},"excerpt":{"rendered":"

Las matem\u00e1ticas son el lenguaje de la IA y los algoritmos son su gram\u00e1tica. Esta frese resume en qu\u00e9 consiste la IA y cu\u00e1l es su alcance. Todo lo que hace la IA est\u00e1 regido por ellos (Siles, 2025). Adem\u00e1s, y esto es tremendamente importante, los algoritmos pueden incluir sesgos, intencionados o no; pueden causar beneficios, pero tambi\u00e9n perjuicios. <\/p>\n","protected":false},"author":1,"featured_media":7042,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"image","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false},"categories":[833,834,22,578,835,291,208,567],"tags":[],"class_list":["post-3731","post","type-post","status-publish","format-image","has-post-thumbnail","hentry","category-algoritmos","category-carta-de-principios-algoritmicos","category-cc-matematicas","category-divulgacion-cientifica","category-fundacion-hermes","category-inteligencia-artificial","category-matematicas","category-mercedes-siles-molina","post_format-post-format-image"],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/amciencias.com\/Blog-Amc\/wp-content\/uploads\/2026\/06\/20250510BlogSilesMolina.png","_links":{"self":[{"href":"https:\/\/amciencias.com\/Blog-Amc\/index.php\/wp-json\/wp\/v2\/posts\/3731","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/amciencias.com\/Blog-Amc\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/amciencias.com\/Blog-Amc\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/amciencias.com\/Blog-Amc\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/amciencias.com\/Blog-Amc\/index.php\/wp-json\/wp\/v2\/comments?post=3731"}],"version-history":[{"count":2,"href":"https:\/\/amciencias.com\/Blog-Amc\/index.php\/wp-json\/wp\/v2\/posts\/3731\/revisions"}],"predecessor-version":[{"id":7049,"href":"https:\/\/amciencias.com\/Blog-Amc\/index.php\/wp-json\/wp\/v2\/posts\/3731\/revisions\/7049"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/amciencias.com\/Blog-Amc\/index.php\/wp-json\/wp\/v2\/media\/7042"}],"wp:attachment":[{"href":"https:\/\/amciencias.com\/Blog-Amc\/index.php\/wp-json\/wp\/v2\/media?parent=3731"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/amciencias.com\/Blog-Amc\/index.php\/wp-json\/wp\/v2\/categories?post=3731"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/amciencias.com\/Blog-Amc\/index.php\/wp-json\/wp\/v2\/tags?post=3731"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}