自动驾驶网络Workshop报告--自动驾驶网络的挑战3

以下内容来自2018年在普林斯顿大学自动驾驶网络研讨会报告，其中特别提到了关于自动驾驶网络技术之外的其他挑战，机器翻译了一下，只能为迅速读懂一个大概的内容提供参考，具体内容还得看原文。

第一部分介绍过法律和政策的挑战，第二部分介绍了隐私的挑战，这里是第三部分，关于道德的挑战。

伦理的挑战:

●自动化安全决策在网络物理系统中产生了意想不到的副作用。自动驾驶网络大大增加了意想不到的后果和副作用的可能性。例如，网络可能会由于感知到的攻击而自动做出决定，在“智能家庭”中为物联网设备设置防火墙，但这样做可能会导致设备故障，潜在地将家庭住户置于物理风险或不便之中。

●自动过滤的附带伤害。随着越来越多的呼吁要求网络能自动调节出现在他们的网络和平台上的内容和言论。然而,语言和规范会随着时间而改变。因此，自动过滤可能会审查或阻止不符合过去“正常”流量模式的内容、流量或言论。一个典型的例子是垃圾邮件过滤器，它具有不可接受的高误报率，从而导致过滤的电子邮件。随着越来越多关于允许或阻止交通流的决策的制定，这样的问题可能会变得更严重因为自动化的决策，而不是固定的规则。

●优先化和剥夺公民权。当网络开始学习包括(1)哪些用户正在开发关键任务应用程序;(2)哪些订户抱怨更多，网络可能有优化业务流程以实现利润最大化的趋势，因此，根据不同的功能，为一些用户提供比其他人更好的服务。有很大的可能性。如果优先级决策是自动化的，一些用户和订阅者可能是自动的被边缘化，甚至可能经营者自身都没有觉察到。

●网络边缘的未知影响。更普遍的是，网络中间的控制决策的影响可能并不总是对终端主机产生明显的影响，如果决策的影响未知，在某些情况下可能会使伦理推理变得困难。

●Kill Switch。在网络完全失控的情况下(例如，由于攻击，不稳定，失败)，是否需要一个“Kill Switch”?如果是这样，那么这样一个“Kill Switch”应该是什么呢? 做什么?它是应该让我们回到“今天的互联网”的运行模式，还是应该导致一些其他的行为?谁应该有权作出决定来执行它？