Tugurium/GTI

Glosario Terminología Informática

La tecnología no está libre de sus creadores. Y nosotros tampoco.

2020-01-20
Los algoritmos que nos hacen sugerencias tienen sesgos, porque los entrenadores, incluso indirectamente, los condicionan con sus propios sesgos. Añadamos a esto que la información de las búsquedas, de la que se extraen las sugerencias, puede estar contaminada/condicionada por el conjunto de la población de la que se extraen los datos. Y, además, nos podemos encontrar con un condicionante añadido al dejarnos aconsejar por un algoritmo, el de limitarnos a nuestra zona de confort de la que no salimos. Si sólo nos sugieren el rock, porque nos gusta el rock, como a tantos otros, entonces no conoceremos la música medieval. Es triste.

Los patrones en los datos pueden perpetuar una distancia de la realidad, en el sentido de crear una realidad paralela cerrada a las influencias externas. Puede llevarnos no sólo a alejarnos de lo desconocido, sino también a ignorar lo desconocido.

Si otros usuarios han hecho elecciones subjetivas, ¿El resultado será objetivo? ¿El resultado de un gran número de elecciones subjetivas será objetivo? ¿No nos da el algoritmo de IA la ilusión de objetividad porque ha pasado por un filtro matemático/computacional?

Los datos y las matemáticas pueden aumentar la cantidad de información utilizada en la toma de decisiones, lo que puede ayudarnos a no tomar decisiones locas. Esto es bueno, sin embargo, la forma en que se utilizan depende sólo de nosotros mismos.

Tal vez deberíamos filtrar las sugerencias con esa pequeña cosa no-tecnológica pero humana que es el sentido común. Nuestra capacidad de razonar es lo que nos hace humanos. Usemos los filtros pero filtrémoslos con el sentido común.

O quizás el algoritmo debería añadir algo de aleatoriedad y sugerir algo que nos sorprenda (menos rock y más opera, quizás). Después de todo, siempre hemos sido curiosos y nos hemos interesado en cosas diferentes.

Sigan siendo curiosos.

Webmaster
Otras portadas

Actualizado al 2020-01-22
Términos en el glosario 25.284