Este peligro se agrava por la velocidad. Las tecnologías evolucionan más rápido que las leyes, las instituciones o la ética. Las democracias, diseñadas para deliberar, no pueden seguir el ritmo de las innovaciones que transforman la vida cotidiana en meses. Las sociedades se ven obligadas a adaptarse, sin tiempo para comprender ni para elegir.

En última instancia, el mayor riesgo no es que las máquinas nos odien, sino que se vuelvan indiferentes. Que el futuro sea modelado por sistemas que no comprenden el valor del sufrimiento, del amor o del arte. Que, en nombre de la eficacia, terminemos marginados por nuestras propias creaciones. Que al diseñar inteligencias no humanas, terminemos diseñando un mundo donde el humano ya no tenga lugar.

Punto clave ocho: El fin del libre albedrío ante la supremacía del big data.

Durante siglos, la cultura occidental se ha fundamentado en la idea de que los humanos son agentes libres, dotados de voluntad propia. La noción del libre albedrío sostiene que las decisiones emanan del interior de cada individuo, de su alma, de su yo auténtico. Este supuesto ha dado forma a la política democrática, al mercado capitalista, al sistema judicial y a la educación moderna. Se vota, se compra, se castiga o se premia bajo la premisa de que cada persona elige libremente lo que hace.