Diario de Mallorca

Diario de Mallorca

Contenido exclusivo para suscriptores digitales

Yolanda Román

Algoritmos muy humanos

Es tiempo de resúmenes recopilatorios y listas. Lo mejor y lo peor del año que se acaba y de lo que está por venir: la mejor foto, la peor noticia, las diez novedades que serán tendencia en 2023. Como si la realidad fuera lineal, empaquetamos los años en cajas con etiquetas de recuerdos y aspiraciones a las que poder volver cuando perdamos, cuando perdemos, el hilo de la historia. Conjuramos la inmensa incertidumbre con pequeñas enumeraciones. Es tierno. Es Navidad.

El balance de fin de año es a la vez más naif y más complejo en el ámbito tecnológico. Resulta difícil y pueril hacer una selección de logros o fracasos donde todo es exponencial. Y aún más difícil hacer una predicción de avances y tendencias que no sea, en el fondo, una particular carta a los Reyes Magos. Pero hagámoslo. Escogemos «algoritmo» como la palabra del año en el mundo tech y «transparencia algorítmica» como la gran tendencia de la reflexión académica y de políticas públicas sobre tecnología y digitalización. El sintagma tiene la sonoridad y la capacidad evocadora necesaria para aparecer en cualquier lista. Esta misma semana se ha anunciado el primer Centro Europeo para la Transparencia Algorítmica (ECAT), que tendrá su sede en Sevilla. Sin lugar a dudas, la transparencia algorítmica va a ocupar un espacio importante y va a definir el debate político y, sobre todo, la acción regulatoria en los próximos años, con un impacto práctico para las administraciones públicas, las empresas y la ciudadanía similar al de la protección de datos o la sostenibilidad (sic). Es a la vez una aspiración y una palanca que pretende guiar o controlar el diseño y la aplicación de sistemas algorítmicos con criterios de igualdad y seguridad, reduciendo el riesgo de discriminación y abuso en las decisiones basadas en herramientas algorítmicas, esto es, en sistemas de inteligencia artificial. Someter a escrutinio a los algoritmos parece, innegablemente, bueno, bonito y necesario.

La idea de moda se topará, sin embargo, con la mayor de las complejidades: el ser humano. Los modelos algorítmicos no pueden analizarse ni auditarse sin atender al factor humano, que es su elemento esencial. Porque por mucho y muy rápido que los algoritmos aprendan, siempre estarán sometidos a la voluntad y la decisión humanas, en su concepción, en su desarrollo y en su aplicación. Las decisiones algorítmicas son decisiones humanas, con sus sesgos y limitaciones, erradas o acertadas, voluntaria o involuntariamente. Sería erróneo pensar que se pueden auditar máquinas o procesos en abstracto; esto va de entender la mente humana y proponer estándares éticos que guíen a las personas que tienen alguna responsabilidad en esos modelos y procesos.

En el camino interminable de la igualdad y la justicia social necesitamos transparencia, sí. Pero, sobre todo, necesitamos espejos. Confrontarnos con nuestra imagen en su forma física y metafísica real. Quizás en vez de mirar al pasado y al futuro, podríamos hacer el cierre simbólico del año mirándonos a nosotros mismos.

Compartir el artículo

stats