4.8
Limitations of the “Crystal Ball” . . . . . . . . . . . . . . . . . . . . . . 74
4.9
Limitations of the “Magic Wand” . . . . . . . . . . . . . . . . . . . . . 75
4.10 Complexity Is the Greatest Challenge . . . . . . . . . . . . . . . . . . . 76
4.11 Appendix 1: Democracy and Freedom—Outdated
Concepts? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78
4.12 Appendix 2: Limitations to Building a Crystal Ball . . . . . . . . . 80
4.12.1 Laplace’s Demon and Measurement Problems . . . . . 80
4.12.2 Parameter Sensitivity . . . . . . . . . . . . . . . . . . . . . . . . 80
4.12.3 Instability, Turbulence and Chaos:
When All the Data in the World Can’t Help . . . . . . . 81
4.12.4 Ambiguity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
4.12.5 Information Overload . . . . . . . . . . . . . . . . . . . . . . . 82
4.12.6 Herding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
4.12.7 Randomness and Innovation . . . . . . . . . . . . . . . . . . 83
4.13 Appendix 3: Will New Technologies Make the World
Predictable? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
5 Genie Out of the Bottle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
5.1
The China Model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
5.2
Can Corporate Control Fix the World? . . . . . . . . . . . . . . . . . . 87
5.3
The Digital Revolution on Its Way . . . . . . . . . . . . . . . . . . . . 88
5.4
Computers More Intelligent Than Humans? . . . . . . . . . . . . . . 89
5.5
When Will We See Artificial Superintelligences
and Superhumans? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
5.6
Everything Will Change . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
5.7
The Third Economic Revolution . . . . . . . . . . . . . . . . . . . . . . 94
5.8
The New Logic of Prosperity and Leadership . . . . . . . . . . . . . 95
5.9
Creating a Resilient Society . . . . . . . . . . . . . . . . . . . . . . . . . . 96
5.10 Time for a New Approach . . . . . . . . . . . . . . . . . . . . . . . . . . . 99
5.11 Appendix 1: Side Effects of Massive Data Collection . . . . . . . 99
5.11.1 Crime . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99
5.11.2 Military Risks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100
5.11.3 Economic Risks . . . . . . . . . . . . . . . . . . . . . . . . . . . 100
5.11.4 Social and Societal Risks . . . . . . . . . . . . . . . . . . . . 101
5.11.5 Political Risks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
5.12 Appendix 2: Why Privacy Is Still Needed . . . . . . . . . . . . . . . 102
References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
6 A Planetary-Scale Threat . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
6.1
Big Data . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
6.2
Surveillance Capitalism . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106
6.3
Digital Crystal Ball . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108
Contents
xix