Punto clave ocho: La falibilidad de las redes inorgánicas

Las redes de información humanas han evolucionado desde los relatos orales hasta las estructuras burocráticas y, más recientemente, las redes digitales controladas por inteligencia artificial. A pesar de sus promesas de precisión y objetividad, estas redes inorgánicas están lejos de ser infalibles. Los algoritmos, las bases de datos y los sistemas de automatización pueden cometer errores graves, amplificar prejuicios y tomar decisiones sin supervisión humana. Sin embargo, la sociedad ha depositado una confianza casi ciega en estos sistemas, sin cuestionar sus limitaciones.

A diferencia de las redes humanas tradicionales, que dependen de la intuición, la experiencia y el juicio subjetivo, las redes inorgánicas operan bajo una lógica matemática que, en teoría, elimina el error humano. Pero en la práctica, estas redes son diseñadas y alimentadas con datos creados por humanos, lo que significa que heredan sus sesgos, errores y defectos. Un algoritmo de contratación puede discriminar sin darse cuenta a ciertos grupos sociales si los datos con los que fue entrenado reflejan patrones de discriminación del pasado. Un sistema de inteligencia artificial en el ámbito de la justicia puede recomendar condenas más severas a ciertos sectores de la población si su programación se basa en historiales de sentencias sesgados.