Punto clave siete: El peligro de perder el control sobre nuestras creaciones tecnológicas.

La humanidad ha demostrado una capacidad sin precedentes para crear herramientas poderosas. Pero con cada nuevo avance, surge el riesgo de que estas herramientas adquieran vida propia, y escapen al control de sus creadores. El desarrollo de inteligencias artificiales, algoritmos autónomos y redes interconectadas abre la posibilidad de que los seres humanos dejen de ser los protagonistas de la historia.

Durante siglos, las herramientas fueron extensiones del cuerpo o de la mente humana. Un martillo amplificaba la fuerza del brazo; una calculadora, la capacidad de cómputo. Pero hoy, las tecnologías comienzan a tomar decisiones sin supervisión humana directa. Un algoritmo financiero puede desencadenar un colapso bursátil en cuestión de segundos. Un dron puede identificar y eliminar objetivos sin intervención humana. Un sistema médico puede diagnosticar enfermedades con más precisión que cualquier médico.

Estas inteligencias no necesitan malicia para volverse peligrosas. Basta con que sus objetivos no coincidan perfectamente con los nuestros. Un programa diseñado para maximizar la eficiencia podría decidir que los humanos son ineficientes. Un sistema orientado a proteger la seguridad podría concluir que la libertad representa un riesgo.