当技术复仇的时候

2020-09-17 00:52:52

虽然失控的汽车和复仇的缝合在一起的人类可能是科幻小说中的素材,但科技真的可以对我们进行报复。将技术视为复杂系统的一部分可以帮助我们避免代价高昂的意想不到的后果。以下是关于复仇效果你需要知道的事情。

从许多方面来看,技术不断让我们的生活变得更美好。我们活得更长、更健康、更富有,在教育、旅行和娱乐等方面的选择比以往任何时候都多。然而,经常有一种感觉,我们在许多方面已经失去了对我们的技术的控制,因此我们最终成为了它意想不到的影响的受害者。

爱德华·坦纳在“何以为恶:科技与意想不到的后果的复仇”一书中指出,我们经常要面对“复仇效应”。Tenner创造了这个术语来描述技术如何解决一个问题,同时制造更严重的问题,新类型的问题,或者将危害转移到其他地方。简而言之,他们会反击。

尽管“为什么把东西咬回去”写于20世纪90年代末,其中的许多具体例子和细节现在已经过时,但它仍然是思考我们今天面临的问题的一个有趣的视角。坦纳描述的复仇效应仍然困扰着我们。随着世界变得更加复杂和相互联系,很容易看出,产生意想不到的后果的可能性将会增加。

因此,当我们引入一项新技术时,明智的做法是考虑我们是否在干扰更广泛的系统。如果是这样的话,我们应该考虑一下以后可能会发生什么。然而,正如Tenner明确表示的那样,一旦涉及的因素变得足够复杂,我们就无法准确地预测它们。

复仇效应的概念既不是勒德派的,也不是危言耸听的,它可以帮助我们更好地理解干预复杂系统的影响,但我们需要小心。虽然二阶思维是无价的,但它不能完全准确地预测未来。了解复仇效果主要是提醒人们谨慎的价值,而不是具体的风险。

重复效应:当更有效的过程最终迫使我们更频繁地做同样的事情时就会发生,这意味着它们没有腾出更多的时间。更好的家用电器带来了更高的清洁标准,这意味着人们最终花在家务上的时间相同-甚至更多。

复制效应:当过程随着其背后的技术进步而变得越来越复杂时就会发生。滕纳给出了一个现在已经过时的例子,即电话号码随着远离旋转式电话而变长。一个现代的例子可能是需要通过应用程序操作的照明系统,这意味着访问者不能简单地拨动开关。

再生效应:当试图解决问题最终造成额外风险时就会发生。用杀虫剂瞄准害虫可以使它们对伤害或杀死它们的天敌越来越有抵抗力。抗生素的广泛使用控制了某些情况,导致了更难治疗的抗药性菌株。

重新安排效应:当成本转移到其他地方,风险转移和恶化时就会发生。地铁上的空调设备为列车降温,同时释放额外的热量,使站台变得更温暖。真空吸尘器可以将尘螨颗粒抛入空气中,使它们保持悬浮状态,更容易吸入。保护海滩免受海浪侵袭将水的力量转移到其他地方。

当解决问题的技术由于几乎不可能预先预测的意外后果而使问题变得更糟时,复仇效应就会发生。智能手机可能会让在家工作变得更容易,但总是可以接触到意味着许多人最终会工作更多。

事情之所以出错,是因为技术并不是孤立存在的。它与复杂的系统交互,这意味着任何问题都会远离它们开始的地方传播。我们永远不能只做一件事。

滕纳写道:“复仇效应之所以发生,是因为新的结构、装置和生物体在真实环境中以我们无法预见的方式与真人发生反应。”他接着补充说,“复杂性使任何人都不可能理解系统可能的行为:紧密耦合一旦开始就会传播问题。”

在工业革命之前,技术通常由作为用户延伸的工具组成。坦纳认为,它们不容易产生报复效应,因为它们不像现代技术那样作为整个系统的一部分发挥作用。他写道,“除非机器是一个系统,而不仅仅是一个设备,否则它不可能看起来有自己的意志。”它需要以意想不到的、有时是不稳定的、不受欢迎的方式相互作用的部件。“。

复仇效应通常涉及将明确的、局部的风险转变为模糊的、渐进的风险,涉及缓慢积累的危害。与看得见的灾难相比,这些灾难更难诊断和处理。

大型局部性事故,如飞机坠毁,往往会促使制定更高的安全标准,从长远来看,使我们变得更安全。小的累积的就不会了。

与本地化的问题相比,累积的问题不容易衡量,甚至不一定要关注。滕纳指出,与全球变暖相比,20世纪90年代对核灾难风险的反应存在差异。虽然两者都是复仇效应,但“热核武器带来的风险几乎是一种内在的维护冲动。气候变化的延缓后果却没有。“。

许多复仇效应都是努力提高安全性的结果。坦纳写道:“我们对急性疾病的控制间接促进了慢性病的发生。”X射线和烟雾报警器每年都会导致少量癌症。尽管它们拯救了更多的生命,避免它们的风险要大得多,但我们不可能不付出代价就获得好处。石棉的广泛清除降低了消防安全,扰乱材料往往比留在原地更有害。

复仇效应不是副作用--定义为伴随利益而来的成本。能够对公共供水进行消毒的价值具有重大的积极健康结果。它还有一个副作用,即需要一个能够管理和监控供应者组织结构。

相反,报复效应实际上必须逆转至少一小部分用户的利益。例如,与打字机相比,在笔记本电脑上打字更容易,这导致了腕管综合症的增加和类似的健康后果。事实证明,按打字机按键和移动车厢所需的体力保护了工人免受长时间打字的一些有害影响。

同样,复仇效应不仅仅是一种权衡--我们为了换取其他利益而放弃了利益。正如坦纳所写的那样:

如果法律要求的安全功能提高了航空公司的票价,那就是一种权衡。但是假设,比如说,要求婴儿坐在单独的座位上(有儿童座椅),并向他们收取儿童票价,将导致许多家庭开车而不是乘坐飞机。原则上,与航空公司继续允许父母将婴儿抱在腿上相比,更多的儿童可能死于交通事故。这一结果将是一种报复效应。

我们似乎比我们的祖先更担心,尽管他们被爆炸的汽船锅炉、肆虐的流行病、相撞的火车、惊慌失措的人群和燃烧的剧院包围着。也许这是因为更安全的生活带来了越来越多的注意力负担。不只是在医学上的两难境地,在自然灾害的管理中,在生物体的控制中,在办公室的运作中,甚至在游戏中,都有需要处理的更微妙和更棘手的问题,不一定是更严重的问题。

虽然Tenner没有为处理他所描述的现象提供明确的指导,但我们可以从他的分析中得出的一个主要教训是,报复效果是可以预期的,即使它们是无法预测的。这是因为“真正的好处通常不是我们预期的,真正的危险也不是我们担心的。”

复杂系统中的因果链比我们通常能想象的要奇怪。我们应该预料到意想不到的情况,而不是期待特殊的效果。

虽然我们不能预测所有后果,但我们可以为它们的存在做好准备,并将其纳入我们对新技术好处的估计中。事实上,我们应该避免对自己预见未来的能力过于自信,即使我们使用的是二阶思维。尽管我们可能会为各种冲击做好准备,但复仇效果可能取决于我们还没有掌握的知识。我们应该期待更大的复仇效果,我们越是强化一些事情(例如,让车更快就意味着更严重的撞车)。

在我们干预一个系统之前,假设它只能改善事情,我们应该意识到,我们的行动可能会适得其反,也可能什么都不做。如果我们一开始持怀疑态度,我们对收益的估计可能会更现实。

如果我们对改变世界的努力更加谨慎,我们就能更好地避免被咬伤。