La dificultad radica en la complejidad. Las redes neuronales artificiales, por ejemplo, no ofrecen explicaciones claras de sus decisiones. Funcionan como cajas negras: generan resultados sin que ni siquiera sus programadores puedan entender completamente cómo llegaron a ellos. Esta opacidad es peligrosa, porque impide ejercer un control ético o político efectivo.

El problema no es solo técnico, sino filosófico. Las tecnologías actuales no imitan a la inteligencia humana, sino que siguen caminos distintos. No buscan comprender el mundo, sino procesarlo. No necesitan emociones, conciencia o sentido. Son sistemas que optimizan resultados según parámetros definidos. Pero esos parámetros los define alguien. Y ese alguien, en muchos casos, es una corporación, un gobierno o un grupo de ingenieros.

Al delegar decisiones a sistemas que no comprenden los valores humanos, se corre el riesgo de deshumanizar la sociedad. No porque las máquinas se rebelen, sino porque los humanos abdican su juicio en favor de una eficiencia ciega. Las decisiones ya no se basan en empatía, deliberación o experiencia, sino en cálculos opacos que nadie puede cuestionar.