Tugurium/GTI

Glosario Terminología Informática

Inteligencia artificial explicable. Una utopía

2020-09-22
Lo que empezó siendo un murmullo se está convirtiendo en un pandemónium, que afirma que para confiar en la IA necesitamos que sea capaz de explicar cómo tomó sus decisiones.

La IA trata de automatizar procesos complejos, como los que se producen en nuestro cerebro, y explicar cómo se llega a una solución por una vía tortuosa puede ser más complicado que la creación del algoritmo que proporciona la solución.

No sabemos cómo funciona nuestro cerebro, lo que venimos asumiendo como máquina de Inteligencia Natural, en contraposición a la Artificial de las computadoras. Sabemos que puede producir maravillosas ecuaciones. Muchas de ellas son tan complejas que son difíciles de traducir a un lenguaje normal. Pero, aunque puedan parecer simples no es fácil explicar como la Inteligencia Natural la ha producido.

La identidad de Euler: e^(i*pi)+1=0. Combina cinco de los números más importantes de las matemáticas:
1 - la base de todos los números
0 - el concepto de la nada
pi - el número que define al círculo
e - el número que subraya el crecimiento exponencial
i - la raíz cuadrada imaginaria de -1

Una vez probada y visto que funciona (aunque no sepamos explicar cómo funcionó el cerebro de Euler) la utilizamos con total confianza.

Todos los días hacemos uso de multitud de objetos sin saber cómo funcionan. Funcionan y nos basta. Quizás lo que de verdad buscamos es la certidumbre de que el resultado de un algoritmo de IA funcione de una manera correcta, sin sesgos, sin daños colaterales. Confiamos en la toma de decisiones de los compañeros de trabajo, sin analizar previamente como funcionaron sus redes neuronales. Aceptamos los sesgos que nos introducen los anuncios publicitarios para tomar decisiones, sin buscar antes una explicación a nuestras acciones.

¿Cómo podemos saber que la explicación técnica del resultado de un complejo algoritmo de IA no es una mentira que nos ofrece una falsa sensación de seguridad?

Con la IA buscamos un rendimiento al análisis de grandes volúmenes de datos. Tenemos que asumir que la interpretabilidad no es lo más importante, nos interesa la efectividad. Pero, para que los resultados obtenidos sean correctos éticamente debemos analizar los resultados, no la forma en que se han alcanzado.

Disfruten usando su inteligencia natural.

Webmaster
Otras portadas

Actualizado al 2020-09-27
Términos en el glosario 25.983