6.4
Profiling and Digital Double . . . . . . . . . . . . . . . . . . . . . . . . . 109
6.5
World Simulation (and “Benevolent Dictator”) . . . . . . . . . . . . 109
6.6
Attention Economy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110
6.7
Conformity and Distraction . . . . . . . . . . . . . . . . . . . . . . . . . . 111
6.8
Censorship and Propaganda . . . . . . . . . . . . . . . . . . . . . . . . . . 112
6.9
Targeting and Behavioral Manipulation . . . . . . . . . . . . . . . . . 113
6.10 Citizen Score and Behavioral Control . . . . . . . . . . . . . . . . . . . 115
6.11 Digital Policing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116
6.12 Cashless Society . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
6.13 Reading and Controlling Minds . . . . . . . . . . . . . . . . . . . . . . . 118
6.14 Neurocapitalism . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119
6.15 Human Machine Convergence . . . . . . . . . . . . . . . . . . . . . . . . 121
6.16 Algorithm-Based Dying and Killing . . . . . . . . . . . . . . . . . . . . 122
6.17 Technological Totalitarianism and Digital
Fascism . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124
6.18 Singularity and Digital God . . . . . . . . . . . . . . . . . . . . . . . . . . 125
6.19 Apocalyptic AI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126
References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129
7 Digitally Assisted Self-Organization . . . . . . . . . . . . . . . . . . . . . . . . 131
7.1
Self-Organization “like Magic” . . . . . . . . . . . . . . . . . . . . . . . 132
7.2
The Physics of Traffic . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134
7.3
A Capacity Drop, When Traffic Flows Best! . . . . . . . . . . . . . . 135
7.4
Avoiding Traffic Jams . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136
7.5
Assisting Traffic Flow . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136
7.6
Creating Favorable Collective Effects . . . . . . . . . . . . . . . . . . . 137
7.7
Cars with Collective Intelligence . . . . . . . . . . . . . . . . . . . . . . 138
7.8
Self-Organizing Traffic Lights . . . . . . . . . . . . . . . . . . . . . . . . 139
7.9
How to Outsmart Centralized Control . . . . . . . . . . . . . . . . . . . 140
7.10 A Pilot Study . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
7.11 Lessons Learned . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144
7.12 Industry 4.0: Towards Smart, Self-Organizing Production . . . . 145
7.13 Making the “Invisible Hand” Work . . . . . . . . . . . . . . . . . . . . 147
7.14 Information Technologies to Assist Social Systems . . . . . . . . . 148
7.15 Appendix 1: Faster-Is-Slower Effect . . . . . . . . . . . . . . . . . . . . 149
7.16 Appendix 2: The Challenge of Fairness . . . . . . . . . . . . . . . . . 150
References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151
8 How Society Works . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153
8.1
The Challenge of Cooperation . . . . . . . . . . . . . . . . . . . . . . . . 154
8.2
When Everyone Wants More, but Loses . . . . . . . . . . . . . . . . . 154
8.3
Family Relations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155
8.4
Scared by Future “Revenge” . . . . . . . . . . . . . . . . . . . . . . . . . 155
8.5
Costly Punishment . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
xx
Contents
Profiling and Digital Double . . . . . . . . . . . . . . . . . . . . . . . . . 109
6.5
World Simulation (and “Benevolent Dictator”) . . . . . . . . . . . . 109
6.6
Attention Economy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110
6.7
Conformity and Distraction . . . . . . . . . . . . . . . . . . . . . . . . . . 111
6.8
Censorship and Propaganda . . . . . . . . . . . . . . . . . . . . . . . . . . 112
6.9
Targeting and Behavioral Manipulation . . . . . . . . . . . . . . . . . 113
6.10 Citizen Score and Behavioral Control . . . . . . . . . . . . . . . . . . . 115
6.11 Digital Policing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116
6.12 Cashless Society . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
6.13 Reading and Controlling Minds . . . . . . . . . . . . . . . . . . . . . . . 118
6.14 Neurocapitalism . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119
6.15 Human Machine Convergence . . . . . . . . . . . . . . . . . . . . . . . . 121
6.16 Algorithm-Based Dying and Killing . . . . . . . . . . . . . . . . . . . . 122
6.17 Technological Totalitarianism and Digital
Fascism . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124
6.18 Singularity and Digital God . . . . . . . . . . . . . . . . . . . . . . . . . . 125
6.19 Apocalyptic AI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126
References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129
7 Digitally Assisted Self-Organization . . . . . . . . . . . . . . . . . . . . . . . . 131
7.1
Self-Organization “like Magic” . . . . . . . . . . . . . . . . . . . . . . . 132
7.2
The Physics of Traffic . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134
7.3
A Capacity Drop, When Traffic Flows Best! . . . . . . . . . . . . . . 135
7.4
Avoiding Traffic Jams . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136
7.5
Assisting Traffic Flow . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136
7.6
Creating Favorable Collective Effects . . . . . . . . . . . . . . . . . . . 137
7.7
Cars with Collective Intelligence . . . . . . . . . . . . . . . . . . . . . . 138
7.8
Self-Organizing Traffic Lights . . . . . . . . . . . . . . . . . . . . . . . . 139
7.9
How to Outsmart Centralized Control . . . . . . . . . . . . . . . . . . . 140
7.10 A Pilot Study . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
7.11 Lessons Learned . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144
7.12 Industry 4.0: Towards Smart, Self-Organizing Production . . . . 145
7.13 Making the “Invisible Hand” Work . . . . . . . . . . . . . . . . . . . . 147
7.14 Information Technologies to Assist Social Systems . . . . . . . . . 148
7.15 Appendix 1: Faster-Is-Slower Effect . . . . . . . . . . . . . . . . . . . . 149
7.16 Appendix 2: The Challenge of Fairness . . . . . . . . . . . . . . . . . 150
References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151
8 How Society Works . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153
8.1
The Challenge of Cooperation . . . . . . . . . . . . . . . . . . . . . . . . 154
8.2
When Everyone Wants More, but Loses . . . . . . . . . . . . . . . . . 154
8.3
Family Relations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155
8.4
Scared by Future “Revenge” . . . . . . . . . . . . . . . . . . . . . . . . . 155
8.5
Costly Punishment . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
xx
Contents