algorithm accountability
Los algoritmos son reglas abstractas para transformar datos, especialmente en el contexto de grandes volúmenes de datos y aprendizaje automático, que deben asegurar que las decisiones automatizadas preservan la fidelidad a las normas sociales y legales, para evitar procesos de decisión erróneos o dañinos.
Son varios los elementos a considerar para que un algoritmo sea responsable, desde su concepción a sus posibles consecuencias:
- Disponibilidad: No solo ya del propio código, sino también de su funcionamiento.
- Facilidad de mantenimiento: No debe resultar difícil de mantener para una persona ajena al que diseñó y desarrolló el algoritmo.
- Inteligibilidad: Entendible para más personas que los que formaron el equipo que lo creó.
- Integridad del algoritmo: Debe mantenerse íntegro y no solo funcionar para un conjunto de datos determinados.
- Selección del modelo y atributos: El modelo debe ser representativo de la realidad que quiere reflejar. Los atributos a seleccionar para su caracterización, también resultan críticos.
- Integridad de los datos: Los datos no deben ser susceptibles de modificaciones fáciles o demasiado volátiles.
- Propiedad colectiva de los datos: Los datos no deben ser propiedad del que desarrolló el algoritmo, lo que facilita un compromiso social y global.
- Sesgo de selección: No caer en la trampa de seleccionar solo las partes que más nos interesan o favorecen.
- big datadatos masivos, macrodatos, grandes volúmenes de datos
- big data for social gooddatos masivos para el bienestar social, - para la calidad de vida