"Irren ist menschlich; Um Dinge wirklich zu verschmutzen, ist ein Computer erforderlich. “Diese Beobachtung machte William E. Vaughan bereits im Jahr 1969. Die Kontrolle über ein automatisiertes System kann dazu führen, dass das System schief geht und ernsthafte Schäden verursacht, bevor es überprüft wird.
Automatisierung ist nicht neu, aber dank der Integration digitaler und physischer Systeme weit verbreitet. Die Vorteile der Automatisierung im Maßstab liegen in der hohen Effizienz. Der Nachteil bei der Verwendung eines Set-It-and-Forget-It-Systems ist jedoch, dass jemand es möglicherweise nicht richtig einstellt.
Mit einem System, das einfach ohne Eingreifen und ohne die Möglichkeit, die Maschine anzuhalten, durchkommt, können Sie zerstörerische Auswirkungen haben. Dementsprechend kann die Technik die Situation schaffen, die in „The Sorcerer's Apprentice“ dargestellt ist, wenn das, was das Leben zu erleichtern scheint, tatsächlich außer Kontrolle gerät.
