人工智能伦理实战-全-

人工智能伦理实战（全）

原文：AI Ethics in Action: A practical guide to building modern organizations through purposeful, ethical AI innovation

译者：飞龙

协议：CC BY-NC-SA 4.0

第一章：AI 伦理实践：通过有目的、道德的人工智能创新构建现代组织的实用指南

欢迎来到 Packt 早期访问。在我们这本书上市之前，我们为您提供独家预览。写一本书可能需要好几个月的时间，但我们的作者今天有前沿信息要与您分享。早期访问通过提供章节草案，让您深入了解最新的发展。目前章节可能有些粗糙，但我们的作者会随着时间的推移进行更新。您可以随意翻阅这本书，或者从头到尾跟随；早期访问旨在灵活。我们希望您喜欢了解更多关于 Packt 书籍写作过程的信息。

  1. 第一章：伦理简明指南

  2. 第二章：从伦理到人工智能伦理

  3. 第三章：做伦理：克服反对意见

  4. 第四章：拒绝伦理：洗手不干此事

  5. 第五章：人工智能的可信度（基于风险的框架）

  6. 第六章：野生的 AI（基于权利的框架）

  7. 第七章：像我一样的 AI？（基于关系的框架）

  8. 第八章：利用框架

  9. 第九章：拥有人工智能的复杂性

  10. 第十章：无序与监管格局

  11. 第十一章：导航未来人工智能发展

  12. 第十二章：下一代伦理

  13. 第十三章：全球人工智能领域的权利

  14. 第十四章：全球人工智能治理的导航：道德领导和问责制

  15. 第十五章：最佳实践

  16. 第十六章：结论

  17. 第十七章：现在的延续

  18. 第十八章：足够好的论题

第二章：1 伦理简明指南

伦理与技术始终有着漫长而复杂的历史。人工智能也不例外，它面临着伦理挑战或围绕这些挑战的辩论。由于这项技术的范围和速度，随着危害和挑战与创新的步伐和范围相匹配，对伦理的呼吁变得更加紧迫。从国际到地方性法规，对调解这些挑战的呼吁声巨大。同时，许多人担心，试图保护我们免受技术侵害的努力将像过去从聊天机器人、社交媒体、视频游戏以及最强大的创新——生成式人工智能——中所做的那样失败。AI 伦理的时代已经到来，如果我们知道并理解如何实践伦理的话。伦理关乎人们的决策，它们是正确的、好的、公平的和正义的。对你来说，这些决策往往看起来是主观的，或者其他人无法完全理解，除非他们站在做出选择的人的角度。首先，你将探索不同的伦理行为驱动因素（理论），并了解人们如何以及为什么做出伦理选择。然后，你将了解对伦理的反对意见，这些反对意见进一步复杂化了做出良好选择的过程。最后，你将看到关于理论的不同意见如何创造更有效的关于优先事项和挑战的对话。在本章中，我们将涵盖以下主要内容：

  • 介绍伦理和伦理理论

  • 理解义务论伦理

  • 概述后果主义理论

  • 通过美德伦理探索人格

  • 理解伦理在人工智能中的重要性

介绍伦理和伦理理论

伦理学是研究道德上好或坏、对或错的概念、理论、体系、规则、原则和价值观的学科。相比之下，道德决定了什么是对或错、好或坏的标准。当情况困难且包含善与恶的元素时，它们被称为道德困境。困难的问题往往揭示道德困境，但答案揭示了我们是如何做出道德判断的。这些判断随后揭示了支撑决策的道德规则。一个道德原则或规则可能是不做伤害，提供正义，或确保人们的保护。有趣的是，牛津大学对 60 种文化的研究确定了七条普遍的道德规则：“帮助你的家庭，帮助你的群体，回报恩惠，勇敢，尊重上级，公平分配资源，尊重他人的财产……”（全球发现的七条道德规则，2019 年）。这表明在道德中找到一致性或共同点是可能的。研究伦理学和道德的哲学家们确定，三种基本的道德理论总结了我们的道德决策。每种都有其自身的原则和指导思想。当我们回顾我们的道德选择时，我们可以确定我们使用的是哪种道德理论，以及支持这些选择的我们重视的原则。因此，为了开始我们的伦理学研究，请回答以下问题，然后统计你的 A、B 和 C 答案。在本章的后面，你将了解在做出决策时，你倾向于哪三种道德理论，以及你的原则是否根据你的问题而改变。

测验

我是什么样的道德决策者？

  1. 你遵守严格的隐私法规，但你的客户想要更多。你该怎么办？

    1. 教育你的客户你是如何遵守的。

    2. 寻找提高隐私的方法。

    3. 问问自己一家好公司应该如何回应。

  2. 你有一个现有的应用程序，但为了改进它，你需要数据。你...

    1. 更改服务条款并收集数据。

    2. 通过通知和选择加入设置更改服务条款。

    3. 尝试平衡业务和客户的需求。

  3. 你的企业名称接近竞争对手的名称。你...

    1. 不要紧张，因为你知道在法律上你是清白的。

    2. 考虑你是否应该根据两家企业的具体情况更改名称。

    3. 你应该做一个好人并更改你的名字吗？

  4. 你在建筑外面的街道上找到钱。你...

    1. 把它放在前台；其他任何东西都是偷窃。

    2. 尝试找出它属于谁，或者把它留在桌子上——如果找不到所有者，你将捐赠这笔钱。

    3. 做一个好人会做的事，并遵循那些建议。

  5. 你和一个政治上深有分歧的朋友，他们提出了一个敏感的话题。你...

    1. 拒绝讨论它；你不谈论那些事情。

    2. 尝试对话，但如果其他人感到不安，就放弃这个话题。

    3. 考虑一个好朋友会怎么做，并选择那样做。

  6. 你不相信体罚，但一个朋友分享了他们也这样做。你...

    1. 倾听他们为自己的权利辩护。

    2. 建议其他不涉及体罚的纪律方法。

    3. 根据一个合格父母的行为制定解决方案。

  7. 你的孩子被指控作弊。你...

    1. 制定法律——有规则的原因。

    2. 尝试理解发生了什么，并确定适合情况的后果。

    3. 确定如何加强孩子对诚实重要性的认识。

  8. 你在交通中挡了别人的道，他们愤怒地朝你比划。你...

    1. 驾驶更加小心；你知道交通规则。

    2. 驾驶更加小心；每个人都应该感到安全。

    3. 下定决心成为最好的司机。

  9. 一个朋友担心他们需要做流产，希望你在那里支持他们。你...

    1. 拒绝参与，因为结束生命是错误的。

    2. 从各个方面审视情况，以确定最佳行动方案。

    3. 尽力成为最好的朋友，并从信任的朋友或你尊重的人那里寻求建议。

  10. 你被提供了一个涉及搬迁的梦寐以求的工作。你...

    1. 核实他们将支付的费用以及你将支付的费用。

    2. 考虑对你和你的伴侣、你的朋友以及你的家庭的影响。

    3. 由于不确定，向他人寻求建议。

现在你已经完成了测验，务必统计你的答案，以便你知道在做出道德决定时使用了哪些理论。这是理解你的决定以及那些不同意你的人的决定的一个重要部分。认识到那些不同意你的人所重视的东西，在谈判和解决道德困境时更为重要。一旦你了解了驱动复杂选择的原因，深入的对话就变得可能。答案：大部分是 A - 德性伦理学，大部分是 B - 功利主义伦理学，大部分是 C - 功德伦理学。现在让我们在接下来的部分中了解这些伦理理论。

理解德性伦理学

伊曼努尔·康德的义务论理论是一种基于理性主义的理论。换句话说，你必须运用理性来判断什么是对的。因此，如果你深入思考道德选择，你就会知道该怎么做。在康德看来，正确的或正确的道德选择应该是恒定的，以克服宗教的主观挑战。如果道德选择是恒定的，我们可以将它们理解为道德真理或绝对真理。这意味着道德真理是存在的。这也意味着道德困境的焦点必须是我们希望做的行为，而不是决策的后果或影响。我们必须首先理解康德的观点，才能考虑这种可能性。想象一下，你面对的是一个贫穷的人，在绝望中从当地杂货店拿走了食物。许多人可能会声称，在绝望的情况下拿走食物是道德的。然而，如果你思考这个场景，实际上被问到的其实是人是否应该能够从别人那里拿走他们想要的东西。杂货店的大小、能否轻易吸收拿走食物的损失（费用）以及个人的饥饿或绝望都不重要。在思考这个场景后，我们得出的准确问题是，我们是否都应该同意生活在一个当人们想要某样东西时就可以拿走的世界。道德问题在于偷窃是否应该被允许。贫穷、杂货店的大小、克服产品损失的能力以及其他合理化都是试图避免关于偷窃的真正问题，并讨论可变后果。然而，并非所有选择都取决于什么是对的；相反，我们关注我们想要或渴望的东西。例如，你可能会为了周末有更多空闲时间而在某个晚上加班。这个决定可能是正确的事情，但它没有道德分量。康德将这些称为假言命令，关注的是当你想要某样东西时应该做什么。这些应该被视为更实际的选择，而不是道德选择。它们也可以通过行动不是必需的来识别；你可以选择周末工作，或者找到第三个选择。定言命令是与你必须做出的道德选择相关的，即使你更喜欢做其他事情。“定言，因为它不依赖于任何人的特定欲望，命令，因为它是一种理性的命令。”（Cahn，2018）。这意味着即使我们不愿意，我们都被道德法律所束缚。为了理解你面临的是哪种命令，理性思考将引导你得出正确的结论。为了解释这个想法，康德使用了命令的公式。第一个公式是我们必须只遵循我们愿意普遍化的道德规则（格言）。我们之前关于偷窃的例子符合这个规则，因为确定人们可能违反不偷窃的格言会导致偷窃成为一种道德上好的或正确的事情。对大多数人来说，这几乎没有意义。这也意味着没有人可以因为偷窃而受到追究。

类别命令：普遍性

只按照那些你愿意使其普遍化的（规则）准则行事（Cahn, 2018）。意愿某事就是拥有做出选择的能力。因此，意愿某事物应该被普遍化就是选择它是对的还是错的，而不存在矛盾（有时是对的还是错的）。

第二个公式的依据是一种责任感，康德认为我们都有对他人承担的这种责任感。通过我们对他人的责任，我们必须确保人们被视为有他们自己的目标、欲望和需求，他们必须被允许自己去追求。我们不能利用人们来实现我们的欲望和需求，同时忽视他们的需求。这是第二个公式的基石，该公式指出我们必须只把人们作为目的，而不是手段。这被称为自身目的公式，康德如下解释道：

类别命令：自身目的

以这样的方式行事，你总是将人性，无论是你自己的还是任何其他人的，既不单纯作为手段，同时也作为目的来对待。（Cahn, 2018）

可以说，我们有时确实将他人作为手段，例如去银行时，柜员为我们办理取款。因此，我们需要澄清何时可以利用他人来推进自己的目的，而何时这样做是错误的。“将某人仅仅用作手段，意味着将其卷入一个他们原则上不可能同意的行动方案中”（Cahn, 2018）。这意味着，当对方在充分知情的情况下同意协助你时，你并非在利用他们。而当你隐瞒了可能使其拒绝参与你行动方案的细节时，你就是在仅仅将其作为手段（这是错误的）。这禁止了欺骗、胁迫、谎言、半真半假的陈述等。对于大多数人而言，初次接触康德的义务论时，其普遍性条件往往是难点。许多人支持规则的例外，或认为规则就是用来被打破的。康德两者都不接受，他要求我们只应遵循那些我们希望他人也遵循的规则。这与“己所不欲，勿施于人”的金科玉律不同，因为那意味着如果你认为自己值得例外，你也应该给予他人例外。而康德对此绝不认同。相反，康德期望每个人都毫无偏差地遵循同一标准，即使是为了占据道德高地。挑战康德的观点似乎是合理的，即有时我们必须牺牲自己的道德真理以实现更大的善。例如，考虑这个流行例子的一个版本：警察敲你的门，询问你是否藏匿了你的朋友。你选择了藏匿，相信能找到证据证明他们无罪——你认为他们是无辜的。你回答警察说你不知道朋友在哪里，并结束了对话。不幸的是，朋友偷听到了你的话，试图逃跑，但在离你家两个街区的地方被抓住了。（Green, 2016）如果你说了实话，警察可能会去搜查你所说的朋友藏身之处（卧室的壁橱），而你的朋友则可能趁机溜出门。然而，你的谎言改变了事态的发展，使你——而非警察或你无辜的朋友——对结果负责，尽管你的意图是好的。所以，如果你的朋友在抓捕过程中受伤，那伤害就是你的过错。对康德而言，责任在于说谎者。对义务论最常见的反驳是：忽视情有可原的情况（后果）而只关注行为本身似乎是错误的。当然，痛苦或困境可能导致一个人做出错误的选择。也可能出现这样的情况：人们想要一条普遍规则，且他人也会同意，但这规则本身似乎仍是错误的。人们常常想要错误的东西，而认为只有多数人认可的规则才是道德规则，这似乎也有问题。最后，当专注于对他人的义务时，如果一个人对许多人都有义务，他该怎么办？总之，康德的义务论是一种基于规则的道德理论，专注于做出以普遍接受和对他人义务为核心的道德选择。该理论关注行为或选择本身，而非其后果。它认为，道德结果的责任在于那些通过自身行为违反道德规则的人。这种观点可能显得冷漠、不关心他人，或无视我们在现代世界中做出道德选择所面临的挑战，特别是因为它不允许任何偏离道德规则的例外或借口（延伸阅读，资源 1 和 3）。还有另一种观点，它考虑了决策的复杂性以及我们最艰难选择所带来的后果，我们接下来将探讨它。

观察后果主义理论

功利主义，或效用理论，解决了德性论所避免的关于后果的担忧——同时忽略了道德行为的意图。这种道德理论声称好的后果使得道德选择是好的。因此，为了做出好的选择，我们必须有一种评估我们行为后果的方法。我们可以通过确定从这些行为中可以获得多少幸福来评估这些后果。因此，幸福是我们所有选择和行动所指向的目标。所以，这种观点的基础是寻求快乐和避免痛苦。这种观点并不关注自我中心的关切，比如一个人为了自己的利益而做的事情，以至于他们最终过得更好。相反，由于强调快乐和减少痛苦等同于幸福，它通常被认为是一种享乐主义理论。然而，效用（幸福）理论的优点是它关注尽可能多的人的最大幸福。这被称为最大的幸福原则：

最大的幸福原则

“我们应该始终采取行动，以产生对最大多数人的最大好处。” (legaldesire.com/benthams-utilitarianism-theory-scope-criticisms/)

需要注意的是，为了确定从后果中可以获得多少幸福，我们必须有一个幸福度的衡量单位。享乐是快乐的一个单位，而痛苦则衡量痛苦。我们必须确定与后果相关的享乐数量来评估它。例如，如果你很久没有见到你的家人，你可能会认为它的价值是 100 享乐。另一方面，如果你见到他们感到痛苦，这次拜访可能的价值是 100 痛苦。还可能有许多类似的次级后果，可以将它们分解为享乐和痛苦，直到我们得出最终的决定和规定的行动。有时，这种计算会导致容易遵循的行动，而有时，答案是有问题的。为他人提供幸福（并将你的需求视为不比他人更重要）的挑战在于，你可能不得不采取一种不是你偏好的或不符合你愿望的行动，以便更大的利益得以实现。例如，想象一下你想和朋友聚会。你希望有一个轻松的夜晚，享受一顿美餐和交谈。然而，你的朋友群想去听音乐会。最终，你决定支持其他人去听音乐会。这不是你想要的，但它会让其他人开心。尽管如此，似乎为了满足每个人而不是自己而做出的选择可能会出现问题。为了提醒我们，我们自己的愿望仍然只有一票，功利主义者接受他们必须扮演一个无私的观察者角色，仅仅观察情况的发展。这个视角将使我能够暂时放下我的感受和意见，并观察事件而不是将自己视为参与者。这应该有助于消除偏见，真正地提出对每个人都最好的建议。与这一理论相关的一个挑战是，它可能导致违反你道德观念的选择。例如，想象你在一所银行，一个持枪者闯进来抢劫。你可以选择一个人被杀，如果银行不给他们钱。你认为杀人是不对的，但选择一个人意味着可以拯救二十个人。在效用理论中，正确的事情是选择一个人牺牲以拯救其他人——即使你不同意杀人。这种传统的功利主义观点被称为行为功利主义。这是我们一直在讨论的观点。它可以总结如下：

行为功利主义

“一个行为是正确的，当且仅当它产生的善与任何可用的替代方案一样多”（Cahn, 2018）。

另一种形式的功利主义是规则功利主义。它通过以下引言来解释：

规则功利主义

一个行为是正确的，当且仅当它符合一个规则，而这个规则本身是规则集的一个成员，接受这个规则集将比任何可用的替代方案为社会带来更大的效用”（Cahn, 2018）。

这种更广泛的观点着眼于长期增加幸福。（它与德性论不同，德性论认为规则应该是普遍的，并认识到我们对他人有责任。）这些规则将专注于确保后果为整个社会带来幸福。例如，虽然为了拯救 20 名人质而牺牲一个人可能是合适的，但我们可能不希望允许外科医生从健康患者身上摘取器官，即使他们能够拯救更多的病人。很难想象有人会反对一个促进幸福观点的看法。尤其是那种能够在促进幸福的同时最小化痛苦并应对任何困境的观点。功利主义确实有一些批评者，他们对这种观点提出了严重的反对。在这里，我们将简要讨论五种最流行的观点（Cahn，2018）：

  1. 无休息异议：如果我们必须始终向世界增加幸福，无论我们做什么，我们都可以做更多或更好的事情。

回应：调用允许休息或缓刑的规则，这将也会最大化效用。

  1. 荒谬含义异议：我们可能不得不应对一些相当荒谬的挑战，例如在真相和谎言之间产生联系。

回应：说实话，有时需要撒谎，所以也许这个担忧揭示了困境的准确看法。

  1. 完整性异议：有时，我们可能不得不违反我们的道德准则并实施我们宁愿避免的行为。

回应：有时情况也是如此，避免它是无法实现的。

  1. 正义异议：有些情况下，我们可能需要对我们对正义或权利的看法采取随意态度。毕竟，如果数学表明违反权利将带来最大的幸福，那么我们必须实施权利侵犯。

回应：我们可能不得不违反或权衡权利与更大利益之间的关系。

  1. 公开性异议：你必须知道道德原则才能遵循它们。然而，功利主义者并不认为每个人都应该因为涉及到的深思熟虑而遵循效用原则。

回应: 如果其他人要遵循这种道德观点，规则或指导必须为人所知，并公开提供。我们通过法律和立法来实现这一点。这种反对意见仅适用于行为功利主义。在结束之前，功利主义是一种认为世界上的善被增加的观点，很难认为这有什么问题。然而，计算（总计快乐和痛苦）以及确定要评估的后果，只是为了到达可能让我们以从未想象过的方式行动的选择，这使这一理论（以及我们对它的接受）变得复杂。此外，我们可能经常需要采取似乎违反我们自身深刻信念以利于他人幸福的行为。这种自我牺牲可以挑战我们接受这一观点作为实用主义和值得的。您可以从进一步阅读部分的资源 2中了解更多关于这方面的内容。我们已经讨论了基于规则的途径（德性论）带来的清晰性，现在讨论基于后果的途径——功利主义。但我们很少谈论做出选择的人或他们的性格如何影响他们的选择。

通过美德伦理探索人物性格

亚里士多德的美德伦理是应该考虑的第三种道德理论。美德伦理认为，一个人通过正确地行动、说话和根据情况行事，可以成为一个始终能从美德出发的人。这样的人被认为是有德行的（行为道德或正确），并且具有良好的道德性格。这种理论不像功利主义那样陷入后果，也不像德性论那样陷入规则。相反，这种理论关注选择行为的人以及一个有良好道德的人应该具备的品质——这是关于一个人的性格。从这个有良好性格的人的概念出发，可以得出结论，好人会做出好的选择和决定。然而，我们必须学习如何成为好人以做出好的选择，但亚里士多德认为这是可能的，如果我们想要人类繁荣或生活得更好，这就是我们注定要做的事情（Cahn，2018）。但为了按照我们的本性行事并繁荣，我们必须认识到美德是确保一旦发展就会产生良好行为的性格特征。这些美德位于两个极端或恶习之间。通过从中间，或黄金法则，我们学会成为好人并做出好的选择。在图 1.1的例子中，我们避免了受害者和侵略（恶习）的两种极端，最终达到自信（黄金法则）。

图 1.1 – 黄金法则

图 1.1 – 黄金法则

想象一下，有一个人经常被欺负，却拒绝为自己挺身而出。他们经常遭受虐待并遭受痛苦，因为他们无法建立良好的界限；这不是人类繁荣的道路。具有侵略性的人也会因为他们在互动中的持续冲突和压力而无法繁荣。然而，一个适度自信的人可以繁荣，因为他们既不是受害者也不是侵略者。此外，亚里士多德还声称，黄金法则（两种恶习之间的中点）在不同情况下会有所不同。例如，在许多情况下，自信似乎是正确的。然而，当面对一个既强大又愤怒的人时，黄金法则可能更接近于和平主义，因为平息局势似乎是一个更好的主意。美德伦理学允许我们对情境有这种直观的理解，从而指导正确的行动。

黄金法则

“……它是一种介于两种恶习之间的中庸之道，一种涉及过度，另一种涉及不足，它之所以如此，是因为它的特性是旨在追求激情和行动中的中间状态……”（Cahn, 2018）。

这似乎意味着美德伦理无法通过学习获得，并且更直观，因为必须针对每种情况量身定制回应。幸运的是，亚里士多德向我们保证，学习成为有美德的人是可能的，但你必须通过实践从黄金法则出发。换句话说，这是一种实用技能和智慧。亚里士多德当然会同意，在美德方面，实践出真知。在采取美德行动之前，我们必须记住，我们的心灵正忙于识别恶习，确定黄金法则，并在行动之前评估情况。因此，美德伦理需要心灵和实践来实现。然而，当我们学习从美德出发行动时，屈服于恶习的诱惑可能相当强烈。幸运的是，美德伦理允许我们识别一个道德典范，我们可以模仿其行为，同时仍在学习成为有美德的人。道德典范可以是祖父母、宗教人物，甚至是一个最好的朋友，如果他们已经学会了（比你更多）如何从美德出发行动。通过实践、认识和典范的引导，适当的回应将成为你性格的一部分，使你成为有美德的人。但为什么我们应该接受这种美德的理念呢？答案是，为了作为人类繁荣，以及在我们彼此和世界中过上我们应该过的日子。幸福，人类的繁荣，是一种涉及教训、努力、决心、成长（情感和心理上）以及面对作为人类所面临的斗争和挑战的生活。美德伦理并非旨在解决这些挑战，而是帮助人类在挑战中繁荣。美德伦理的支持者声称，这一理论的好处是任何人都可以成为有美德的人，每种情况都得到了适当的关注，并且它专注于帮助人们变得更好，从而改变世界。批评者担心没有提供推荐行动，并且理论过于模糊，难以实用。重要的是要记住，亚里士多德的美德伦理关注的是在道德困境中做出选择的个人，而不是后果或行为本身。这一理论鼓励人们变得更好，学会成为有道德的人，而不仅仅是要求它或提供规则来确保它。它还寻求通过人类本性的方式，让人类繁荣，过上他们应有的生活。这意味着一种充满斗争、成就和挑战（包括道德挑战）的生活。它还期望我们通过道德典范（例子）的引导，在成长为我们有美德自我的过程中，努力远离恶习，同时依靠美德。在“进一步阅读”部分的资源 4 和 5中，我们探讨了这些怀疑。

识别伦理理论的挑战

讨论的三个道德理论认为，存在一个可以接受或理解的统一道德理论，尽管并非所有人都相信这一点。那些不同意的人通常分为三类：文化相对主义、唯心主义和怀疑主义。虽然我们不会对这些进行深入的讨论，但它们值得考虑。毕竟，并非每个人都认为他们属于上述三个类别之一。但与功利主义、义务论和美德伦理学一样，这些理论也可以被反驳。

文化相对主义

文化相对主义是一种信念，即一个人的文化实践应该通过那个人的文化视角来评估。这些实践在与其他国家做生意时也会发生。例如，在诸如日本和中国（以及意大利、挪威、博茨瓦纳，甚至硅谷）等国家，允许午休或在工作时打盹，因此在评估打盹政策（通过文化相对主义）时，我们应该从那些文化的视角来审视，而不是我们自己的或其他人的（Nishat，2019）。(www.openaccessgovernment.org/customs-from-countries/59117/) 这意味着在允许打盹的文化中打盹并不成问题。同样，如果世界某个地区的法规不同，可能会诱使我们默认采用那些法规，即使发生事故的可能性很大或风险很高。这种观点关注的是文化与实践之间的差异，而不是相似性。并且它坚持认为这些实践应该受到尊重。那些反对文化相对主义观点的人会引导我们关注相似性，看看差异是否真的像看起来那样不同。例如，如果我们认识到打盹为员工提供休息时间，我们必须承认几乎所有组织都允许这样做，而且许多政府要求这样做。因此，通过观察更广泛的主题，我们可以更好地理解这种差异代表着满足需求，而不是否认需求。

唯心主义

这种观点基于个人对对错的认识。在这种观点下，道德仅仅是任何人对道德含义的个人看法。例如，一个人可能认为撒谎是错误的，而另一个人可能认为对大事撒谎是错误的，但认为小白的谎言是可以接受的。这种观点的强点在于它可以帮助人们更加理解差异、信仰、思想和文化。它坚持要保持开放的心态，并推迟判断。这种观点最具挑战性的部分是确定任何人如何对其所做之事负责。如果一个人认为某事在道德上是正确的，那么另一个人有什么理由反对呢？然而，我们与他人之间的关系和联系依赖于信任和责任。没有这些，想象在商业或人际关系中前进是困难的。毕竟，如果道德是主观的，它也可能改变。这意味着如果一个人改变了对道德的看法，这可能会对我们与他们之间的互动产生重大影响。我们也可以改变我们的想法，改变他人的情景。

怀疑论

道德怀疑论者认为我们无法获得关于道德的知识（道德真理、原则和价值观无法确定）。这在我们的道德选择对话中表现得非常明显。我们犹豫是否归咎，或者过于迅速地归咎。我们因为某些情况而原谅某些行为，但不是所有行为。我们根据与谁不同意而看到不同的事情，使得我们的观点变得毫无意义。如果我们知道道德或道德真理是什么，我们就不需要犹豫或迅速提供例外。如果是这样，那么道德不仅仅是主观的。相反，我们有理由怀疑我们甚至无法解开这个话题。我们已经到了没有什么可说或讨论的地步。如果怀疑论是正确的，我们甚至无法进行这次对话，而必须声明我们不知道足够的信息来参与对话。然而，我们的生活和关系（个人和商业）将继续，但没有任何道德主张。在严格理解道德知识的同时，似乎为了在这个世界上导航，我们至少必须能够就责任、正直、公平、偏见和道德进行对话。但这样做就是拒绝怀疑论。

理解在人工智能中伦理的重要性

由于这是一本伦理学书籍，因此分享这些信息在人工智能工作中的应用方式和原因似乎是正确的。简而言之，那些开发技术、选择支持哪些创新以及推广这些创新的人，正在使用上述过程来做出并支持他们的决策。这些伦理决策由于开发者的本质以及他们所参与的社会的性质，被内置于所有技术中。无论是选择开发具有自动驾驶能力的智能汽车、参与机场安检的 AI 辅助摄像头，还是希望通过当地城市交通信号灯处的摄像头避免超速罚单——理解选择影响的问题，就像技术一直所做的那样，是一个挑战。同样，使用技术和开发技术的人之间的选择，正持续地相互碰撞。有时影响是有利的，决策和选择得到了极大的支持。有时碰撞不那么有利，甚至有害，将用户置于与技术和其开发者对立的位置。他们之间的分界线在于双方提供的伦理决策和保护。由于伦理判断（好与坏）交织在一起，技术中的伦理影响是一个微妙的对话。虽然许多非伦理学领域的人认为伦理只是一个受欢迎的竞赛，但实际上它是对在相互竞争的利益、愿望和需求之间导航这一伦理边缘的理解——即使所有这些都有强有力的论据支持。伦理学不是简单的咖啡聊天或假期时的紧张对话。相反，它是对思想的深入质询，是接受对立论点，接受所持观点的弱点，并最终做出行动决策的工作。这是哲学、论证、逻辑和人文训练有素的伦理学家的工作。在人工智能技术中必须有意识地处理伦理的原因是，伦理可以并且已经被轻易地回避和规避。例如，一个组织可能声称自己是值得信赖的（这是一种表演性言语，因为言语的目的是产生信任的行为）。然而，同一家公司可以说自己是值得信赖的，但随后做出的选择却未能反映信任的承诺。说一套做一套是常见的。不幸的是，当这种情况以 AI 的速度和规模发生时，这样做的问题会加剧。这可以通过针对最大技术公司的诉讼来看到：Meta（反垄断、隐私、儿童、版权）、微软和 Open-AI（版权、知识产权）、苹果（对待开发者）、Alphabet（版权、数字千年版权法（DMCA））、账户暂停）、亚马逊（反垄断）、三星（价格操纵）。虽然其中大部分与 AI 有关（例外是苹果和三星），但所有都涉及伦理和技术。

摘要

在本章中，我们确定了我们如何做出道德选择，探讨了三种主要的道德理论，并讨论了它们的反对意见。我们还讨论了伦理与道德的区别，支撑我们选择的道德原则，以及与它们相符的道德理论。当面对人工智能中的伦理问题时，重要的是要理解开发者、用户甚至风险投资家将对包含这些理论的产品做出判断。创始人可能关心实用性（用户的幸福或社会的福祉），但可能与道义论的资金代表进行谈判。或者，一个产品可能由道义论团队发布，但后来发现用户寻求的是实用性。还可能出现一种情况，即开发者可能会质疑接受资金提议是否还能让他们被视为一家好公司或组织。任何这些观点和涉及到的观点在做出决策时都可能倾向于三种主要观点或完全拒绝它们。当涉及到人时，观点的不一致可能导致挑战性的关系、情境、产品或对每个人都不舒服的场景。在下一章中，将介绍技术，以了解其早期基础，并在本书的后续章节和部分中开始了解技术伦理和人工智能的实践探索。

进一步阅读

以下资源已提供，以帮助您探索本章的内容：

  1. www.youtube.com/watch?v=1A_CAkYt3GY

  2. www.youtube.com/watch?v=-a739VjqdSI

  3. www.youtube.com/watch?v=8bIys6JoEDw

  4. www.petersinger.info

  5. www.youtube.com/watch?v=PrvtOWEXDIQ

参考文献

第三章：2 从伦理学到人工智能伦理

如果不理解技术本身及其带来的历史——算法、创新和伦理——那么就难以理解人工智能伦理的重要性。在本章中，我们将探讨人工智能如何成为今天流行的生成式人工智能，以及它被部署的环境。在这里，我们的目标是为您提供历史背景和对今天技术的坚实基础理解。在本章中，我们将涵盖以下主要主题：

  • 追溯早期技术的演变：开发算法

  • 利用早期算法进行创新：从聊天机器人到社交媒体

  • 揭示游戏中的伦理问题

  • 发现新的转折点：生成式人工智能

  • 在生成式人工智能、社交媒体和游戏时代重申对伦理的呼吁

追溯早期技术的演变：开发算法

可能会诱使人们认为生成式人工智能或社交媒体这样的转折点是人工智能的诞生或开始。然而，人工智能并非突然出现，也并非行业人士或那些掌握技术创新脉搏的人所预料。相反，我们的最早技术为今天我们所享受的创新铺平了道路。在人工智能能够被认真探索之前，需要硬件、存储、能力——以及算法的激进进步。技术时代真正开始于 1900 年左右。它之所以引人注目，是因为世纪之交之后出现了大规模的创新。虽然先前的时代允许我们创造工具、电力和理解，但 20 世纪的技术创新使我们的现代世界成为可能。

人工智能历史上的女性

作为一本关于伦理人工智能的书，由于女性在该领域缺乏代表性，因此在叙事中强调了她们。在这个文本中消除她们，就是继续忽视她们有意义的贡献（进一步阅读，资源 1 和 2）。

在 1900 年至 1945 年之间的几十年里，计算机仅仅是人们使用表格、微分分析仪和其他详细信息（数据）进行手动计算的工具。在两次世界大战期间，（人工）计算机被用来提供炮弹的路径和轨迹，协助军事实现其目标。满足世界大战期间军事的迫切需求需要创新这一计算过程。当联邦倡议必须迅速推进时，他们通常会转向高等教育和前瞻性部门，那里的工作已经展开。向机构的管理层呼吁，是为了联邦资金和推进可以归功于机构的工作。这通常为政府确保了额外的资金或未来的项目。宾夕法尼亚大学的摩尔工程学院（Moore School of Engineering）已经建立了一台机械计算机，可以在几分钟内解决问题——而不是几个月。其资金来自联邦政府的罗斯福新政。1946 年，在原子弹投下后仅一年，第一台数字通用计算机被推出——ENIAC（电子数值积分器和计算机）。所创造的是一台能够完成人类计算机无法完成或耗时太长的任务，并且比机械计算机更快的计算机。相比之下，这台新计算机能够每秒完成数千次加法运算，使用的是在摩尔电气工程学院工作的女性设计的算法。它也是一个联邦资助的项目。通过使用算法，ENIAC 的遗产贡献是整个计算机化世界以及由此产生的所有技术（E，2021）。由于 ENIAC，从聊天机器人到生成式 AI 的一切都成为可能。它是一个转折点，自那以后彻底改变了我们的世界。

战争与大型科学

“战争因此加速了从‘小科学’，即研究仍主要局限于少数孤立科学家的规模较小的努力，到‘大科学’的转变，‘大科学’强调由政府和公司赞助的大型研究团队集体从事新技术的发展和应用的转变”（技术史 | 进化、时代与事实 | 百科全书，2023）

应该提到，这个过程并非没有伦理挑战。如果伦理学家被询问，肯定会有关于这个过程以及协助开发武器的问题。还会有人质疑战争是否公正，以及参与这场不公正战争的人是否行为不道德。比例、伤害、苦难、正义原因、战争中的公平性以及许多其他问题也会受到质疑。但也有一些社会问题同样需要考虑。这个时代的巨大挑战与关于隔离、歧视和民权的问题有关。在另一个国家为不公平待遇而战，而自己却生活在不平等之中，这种不公平的讽刺不仅深刻，而且是一个伦理问题。这个问题后来通过民权运动得到了回应。在大萧条后的新政时期，美国的政治环境也会对机构施加压力，如果被要求这样做，则应协助政府。此外，摩尔学院为机械计算机获得的资金可能对帮助军事的决定施加了压力。如果是这种情况，那么我们必须考虑这究竟是一个选择，还是不是。如果这是一个操纵的选择，那么我们可能不会对由此导致的伤害或死亡负责。另一个需要考虑的因素是战争是否不道德，或者为了提高杀戮的效率而接受金钱是否道德。这些问题根植于哲学中的正义战争理论。迄今为止，普遍的观点是，没有正义的战争。（进一步阅读，资源 3）然而，该机构可能认为赢得战争是结束战争的唯一途径，或者认为他们的学生应该得到资助。如果有高尚的理由，我们可能会原谅他们的选择。但那时我们还得确定什么使一个选择变得高尚。我们当然应该对这些情况提出更多的问题，同时挑战现状，这可能不符合我们希望实现的目的。这次对话也提醒我们，错过做伦理或质疑选择和决策的机会是有后果的。虽然没有人能确切地说为什么宾夕法尼亚大学选择在这个例子中与军方合作，但我们知道，他们这样做实际上改变了我们的世界。现在我们将讨论一个创新接着一个创新是如何导致我们今天所处的社交媒体和聊天机器人时代的。我们还将讨论导致这个时代的伦理考量。

利用早期算法进行创新：从聊天机器人到社交媒体

我们现在将讨论推动聊天机器人和社交媒体发展的算法的历史发展时间线以及与之相关的伦理考量（表 2.1）。我们的时间线将延伸至 2010 年；我们将在未来的章节中探讨更多当代的创新及其挑战。目前，我们需要一个起点。

表 2.1 – 聊天机器人和社交媒体发展进步的时间线

表 2.1 – 聊天机器人和社交媒体发展进步的时间线

在 ENIAC 问世二十年后，第一个聊天机器人ELIZA（1966 年）被开发出来。虽然它通过模式匹配和替换与用户进行对话，但也使用了脚本预测答案。PARRY（1972 年）被开发出来模仿精神分裂症患者，并试图模拟疾病的效果。PARRY 不是使用脚本，而是使用加权度量，并纳入“假设、归因和情感反应”来确定如何对提示做出回应（Ina，2017 年）。当与图灵测试相比时，该程序提供的准确率优于随机水平。后来，Jabberwacky（1998 年）被开发出来；它旨在使用“上下文模式匹配”来模拟人类对话（Ina，2017 年）。在 1991 年至 2010 年之间，Sbaitso 博士（Sound Blaster Artificial Intelligent Text to Speech Operator，1992 年）、ALICE（1995 年）和 SmarterChild（2001 年）通过其在理解和处理语音及文本交互方面的先进能力，为个人助理的发展铺平了道路。1991 年之后的聊天机器人开发与社会媒体的演变重叠，因此关于聊天机器人历史的讨论将在介绍社交媒体之后继续。然而，在 20 世纪 90 年代之前，世界主要是模拟的（物理的），人们通过面对面交流分享信息。照片和投币电话是常态。台式计算机是独立的系统，无法与其他计算机或用户共享信息。然而，“1991 年 8 月 6 日，在没有喧哗的情况下，英国计算机科学家蒂姆·伯纳斯-李在大型粒子物理实验室 CERN 工作期间发布了第一个网站（Nix，2016 年）。”这允许人们通过技术进行信息共享，社交媒体竞赛由此开始。第一个社交媒体网站Six Degrees（1997 年）允许用户通过他们创建和共享的资料与别人建立联系。社交网络如 Myspace 随后出现，到 2004 年用户数量达到 100 万（ourworldindata.org/rise-of-social-media）。从 2004 年开始，我们看到了社交媒体通过 Facebook、Reddit、YouTube 以及其他所有快速想到的社交媒体平台（LinkedIn、Snap、TikTok 等）的演变而变得流行。尽管如此，Facebook 标志着个人社交网络成为我们今天所理解的社交媒体的时间点。然而，最重大的社交媒体创新即将到来。人们推动了社交媒体活动，探索用户的相似想法、观点和主题，最终建立了用于进一步探索的团体。领导者和组织者成为这些团体中交换这些想法的领军人物。很快，领导者成为内容创造者和领域专家，用户向他们寻求建议。大约在 2005 年，开发者注意到了这种从基于连接的互动转向寻求建议的转变，并创建了以分享建议为中心的整个平台，如 Reddit。到 2006 年，团体和领导者的力量导致了社交媒体上广告的加入，通过领导者的推荐来产生收入，他们现在变成了影响者。到 2010 年，即社交媒体在 2004 年出现后的六年，微信/Weixen 开发了一个允许用户互相发送消息的平台。虽然微信的成功令人印象深刻，被视为 Facebook 的强劲对手，但其伟大成就是允许用户向其他用户发送私密消息。这种对话技术的使用至今仍在不断发展。然而，这并不是社交媒体遗产的终结。在 2010 年，微信首次发布的那一年，与聊天机器人相关的另一项创新发生了。使用人工智能的对话式聊天机器人，如苹果的 SIRI，于 2011 年推出，现在可以借助语音识别理解自然语言（我们说话的方式）。现在可以通过简单的“嘿，Siri”来理解和执行自然语言。当然，谷歌（2012 年，Google Now/Google Assistant）、微软（Cortana，2014 年）和亚马逊（Alexa，2014 年）随后跟进，成为 SIRI 的竞争对手。到 2014 年，人工智能竞赛已成为主流，寻找其用途的竞赛至今仍在继续。毫不奇怪，随着具有人工智能能力的聊天机器人的演变，社交媒体仍然繁荣。在 2013 年，人工智能和社交媒体在创新的最佳机会中融合。根据皮尤研究中心的数据，2013 年 5 月，72%的成年在线用户正在使用社交媒体（Smith，2013 年）(www.pewresearch.org/internet/2013/08/05/72-of-online-adults-are-social-networking-site-users/#:~:text=As%20of%20May%202013%2C%20almost)。当时，技术已经允许通过直接消息进行互动，产生了大量数据和信息的宝库，而人工智能现在能够将这些数据过滤成可用的见解。尽管影响者的推荐仍然有影响力，但社交媒体平台现在可以通过用户在网站上的活动、广告、产品推荐和想法来了解用户的兴趣，这些想法和产品可以轻松地与适当的市场共享。专家和领导者不再需要展示想法或产品。相反，在社交媒体网站上运行的 AI（算法）可以推荐想法、产品和服务——甚至建议新的思想领袖和内容创作者。在技术发展的当时，人们非常重视技术的功能。新事物总是看起来很耀眼，有很大的吸引力。但这并不是说道德担忧不存在。但担忧更多地是关于寻找有用的联系而不是有害的联系，避免“跟踪狂和怪人”，以及通过电子邮件和消息始终保持可访问性的挑战。很少有人注意到从选择可信的声音到算法在过程中产生影响的转变。更少的人意识到人工智能在聊天机器人中发挥作用，直到对话出现偏差。虽然没有明确指出，但到目前为止，我们的关注点一直是能够较好地应对社交媒体在线挑战的成年用户。然而，这种对技术和其危害的随意看法不仅限于成年人。孩子们也没有被落下。相反，他们与技术的联系：进入青少年游戏玩家的兴起和正式对伦理的呼吁。现在让我们将重点转向游戏及其相关的伦理问题。

揭示游戏中的伦理问题

随着社交媒体和算法的使用，另一种技术（也使用算法）导致了对考虑技术伦理的早期呼吁。“乒乓”（一种乒乓球数字版本）是一款流行的街机游戏，它在 1972 年吸引了公众的注意。然而，到 20 世纪 70 年代初，Magnavox 的 Odyssey 游戏机通过其版本的“乒乓球”将街机游戏带入了家庭。到 1975 年，Atari 普及了“家庭乒乓”，到 1977 年，游戏机引入了摇杆、卡带和彩色——并开始了创造可在计算机上玩的游戏的竞赛。随之而来的是一代（X 世代——1965-1980）的计算机和电子游戏玩家，他们预示并适应了随后出现的每一个创新。

让游戏开始吧

1982 年《时代》杂志的封面大声疾呼“GRONK！FLASH！ZAP！电子游戏正在席卷世界！”如果你那年打开收音机，你可能会听到“Pac-Man Fever”，这是巴克纳和加西亚的一首流行歌曲。孩子们恳求他们的父母在圣诞节时给他们买一台雅达利，或者给他们一些硬币投入“Pac-Man”的投币口。好莱坞电影如《瑞德蒙特的疯狂时光》将电子游戏厅描绘成典型的青少年聚集地。（杂志，2017）

对于那些记得那些早年的人来说，玩游戏和成为游戏最佳玩家的冲动是强烈的（尤其是与朋友相比）。这导致了持续对更复杂游戏、游戏路径、角色和选项的需求，这些选项超出了 A/B 选择。这些更复杂游戏需要更复杂的算法，从 Magnavox 到 PlayStation（以及其他所有公司）的游戏开发者没有辜负期望，同时获得了更多忠诚（痴迷）的用户。随着电子游戏的发展，20 世纪 80 年代也带来了人们对人们痴迷行为的担忧——特别是美国里根总统政府推广的“毒品战争”。虽然不是立即明显，但关于成瘾的担忧随着社交媒体和电子游戏的使用而成为主流。从早期对赌博成瘾的担忧到行为上的担忧，孩子们被“吸进游戏”并发生变化的恐慌成为了一个持续的讨论。1994 年，娱乐软件评级委员会（ESRB）在美国建立了一个自愿评级系统。

达成了一项妥协

…在咨询了广泛的儿童发展和学术专家、分析了其他评级系统以及与全国范围内的家长进行全国性研究后，ESRB 发现家长们希望有一个既包含基于年龄的分类，又包含关于内容的简洁且公正信息的评级系统。本着这一理念，今天 ESRB 管理着一个包含评级类别、内容描述和交互元素的三个部分系统。（杂志，2017）

视频游戏中的下一个重大创新是互联网协议语音（VoIP），这项技术允许一个人的声音从一个 IP 地址传输到另一个 IP 地址。到 1995 年，视频游戏中的聊天功能已经建立。早期的使用归功于Activision，一家视频游戏发行商，尽管由于与控制器的集成不足，限制了其普及度。当世嘉在 1999 年将其集成到 Dreamcast 中时，游戏中的语音使用得到了广泛的应用，允许用户通过浏览器进行聊天。随着视频游戏的日益流行，关于游戏危害的担忧在家庭和学校中持续存在，并且有了评级制度，游戏可以包含任何内容，父母负责监督青少年玩的游戏。然而，1999 年 4 月 20 日美国发生的科伦宾校园枪击案（造成 15 人死亡，24 人受伤）使得这些担忧得到了广泛的认可，当时两名学生似乎在重新模拟《毁灭战士》中的场景。家用游戏机只有 25 年的历史，比枪手们只大几岁。对枪击事件的调查似乎揭示了人们对视频游戏对青少年影响的认识：西蒙·维森塔尔中心，一个追踪互联网仇恨组织的机构，上周在其档案中发现了一份哈里斯的网站副本，其中包含了他定制的血腥射击游戏《毁灭战士》版本。在哈里斯的版本中，有两个枪手，每个枪手都有额外的武器和无限的弹药，他们遇到的人无法反击。据与维森塔尔中心合作的互联网调查员说，哈里斯和克莱博德在 4 月 20 日进入科伦宾时，“他们就像在上帝模式中玩游戏一样”（Pooley/Littleton，1999）。他说：“他们所做的事情不是关于愤怒或仇恨，”。“这只是他们活在当下，就像他们身处一个视频游戏中。”布朗认为，只要他们按照计划行事，屠杀对他们来说就不像真的。但这种解释过于轻易地赦免了杀手：“受伤和垂死的人的肉体对他们来说真的不如视频显示器上的像素真实吗？”布朗认为是这样的。“然后他们无法从图书馆中逃脱，他们经历了一刻深深的悔恨，”他推测。“或者也许一个人做到了，而另一个人仍然迷失在游戏中”（杂志，2017）。到 2005 年，这种暴力和校园枪击事件已经进入白人郊区的中产阶级意识中，并在普通人和政治家中间引发了道德恐慌。

道德恐慌

当一个群体或一群人的行为被认为威胁到社会的利益时，就会发生道德恐慌。媒体经常通过夸大社会问题和危害来推动这些恐慌，从而在社会中引发恐惧（进一步阅读，资源 4）。

作为对恐慌的明显回应，在美国，当时的参议员希拉里·克林顿与民主党同仁一起提出了《家庭娱乐保护法案》，该法案旨在对向未成年人出售 M 级游戏的个人处以罚款，并使 ESRB 评级成为强制性的（Ferguson，2017）。其目的是限制最暴力的游戏或内容最令人不安的游戏触及青少年。该法案从未走出委员会（进一步阅读，资源 6、7 和 8）。在同年 2005 年，加利福尼亚州科技博物馆的创新展览“Game On”包括了关于电子游戏的伦理问题，这些问题是由圣克拉拉大学的 Makkula 应用伦理中心根据伦理理论（包括功利主义和美德伦理等）组织的（进一步阅读，资源 5）（大学，不详）。他们的伦理问题包括以下内容（直接摘自 Makkula）：

  • 从功利主义角度来看 - 一些玩家和开发者认为，电子游戏在教授逻辑和解决问题的技能方面比许多学校课程更有效。不可否认的是，电子游戏给玩家带来了快乐。我们将如何权衡这些好处与游戏被归因于的潜在危害，例如上瘾、性别刻板印象和暴力宣传？

  • 从权利角度来看[包含在效用之下] - 电子游戏是否是一种言论形式，如果是的话，它们是否受到言论自由权的保护？如果这种“言论”贬低女性，或者导致暴力，我们是否应该尝试对其进行监管？我们如何保护成年人有权选择他们想要听到的任何形式的言论，同时保护儿童免受其影响，尤其是当游戏对孩子们来说如此受欢迎时？向儿童出售包含成人内容的游戏是否应该成为犯罪？内容是否应该受到监管？

  • 从公平角度来看 - 目前，电子游戏几乎完全吸引男性玩家。只有 7-8%的电子游戏开发者是女性。女性是否被排除在外？这是否是一个问题？在某些电子游戏中，唯一的女性角色是妓女，而且游戏有时会鼓励杀死她们。这如何塑造玩家对女性的看法？探索游戏如何描绘男性，这是否是一种刻板印象？

  • 公共利益视角 - 电子游戏对社区有什么影响？在什么时间点——每周五小时？每周 25 小时？——游戏会干扰人们对其家庭和社区的义务？游戏是一种反社会活动，还是它使玩家参与了一种不同类型的社区？真正的社区可以在网上存在吗？游戏开发者是否有义务使在线体验不那么容易上瘾？

  • 美德视角 - 理解到一天只有 24 小时，你应该如何分配时间给视频游戏，这会造就怎样的人？阅读与玩视频游戏相比，有什么固有的美德？内容的不同又有什么影响？玩暴力视频游戏会让你变得暴力吗？玩暴力游戏会让你对暴力变得麻木吗？假设暴力不会影响你，但你了解到对于玩视频游戏的人群中的一部分人来说，所有的血腥场面都激发出了暴力倾向——是否应该限制他们接触游戏，以及如何限制？应该允许小孩子玩暴力游戏吗？（大学，不详）

但对话并未结束，2006 年，由于联邦层面的努力未能成功，各州决定解决视频游戏内容的问题。最终的决战将涉及加利福尼亚州通过一项法律，禁止向 18 岁以下的人销售暴力视频游戏（以色情限制为依据）。一旦该法律通过，就有人提起诉讼以推翻它，导致上诉，最终由美国最高法院做出裁决。保护儿童的故事即将走向一个可预测且令人不安的转折点。2011 年，在提起上诉后，该案件上诉至美国最高法院。在布朗诉娱乐商品协会与娱乐软件协会案中，他们裁定视频游戏的暴力（以及其他令人不安的内容）与艺术、语言和其他创意领域的并无不同。这赋予了视频游戏与那些绘制裸体画或使用粗俗语言和令人不适主题的音乐艺术家相同的保护。由开发者创作的视频游戏内容现在受到第一修正案的保护——但儿童却完全没有受到保护。从那时起，主要的主题一直是“一切皆可”，开发者们和媒体全力以赴地采用“震撼与敬畏”（一个军事术语，指的是突然使用压倒性的力量）——毫无阻碍。结果是，暴力和不令人安的内容渗透到了所有社交渠道——包括社交媒体、聊天、私信等。枪击、自杀、直播暴力、性骚扰、刻板印象、偏见、种族主义、仇恨，以及更糟糕的是，这些内容在网上都有安全的避风港。科技公司也继续严重依赖第一修正案的保护来防御缺乏内容监管，暗示只有父母才是最适合代表孩子进行干预的人。其中最大的挑战之一是，一旦在线上造成伤害，就会扩散到其他人和地方，使其他人有勇气发布和分享相同的内容。到 2020 年代，网络暴力和伤害已成为一个全球性问题。尽管全球对此表示关注，但调节或通过（并执行）针对它的法律已被证明是具有挑战性的，并且基本上是徒劳的。当然，如果伤害仅限于未成年人，那么父母处理内容监管的观点是合理的。在讨论这一点是否成立之前，我们必须讨论 AI 向公众的引入。

发现一个新的转折点：生成式 AI

在这一点上，我们已经讨论了算法的发展以及嵌入它们的各种技术。算法已经彻底改变了我们的世界，从社交媒体到聊天机器人再到视频游戏。但是，如果不讨论最近使用算法的最新创新——不到一年的创新，那么技术讨论就不完整。Open AI，一家曾经的开源技术公司，发布了一个经过多年努力的项目——ChatGPT——以公开测试的形式进行测试。幸运的是，对于 Open AI 来说，公众被深深吸引，就像 80 年代的青少年和他们的视频游戏一样。有趣的是，很少有人意识到 ChatGPT-3 只是一个测试版，忽视了最新创新的困难和挑战。但为什么这项创新如此令人兴奋呢？ChatGPT 是一种生成式 AI，可以从自然语言（像我们这样的语言）中创建图像、音频和文本。这项技术使得没有计算机编程能力的人也能使用 AI 来创建电子邮件、提问、接收答案，甚至通过简单的提示和背景信息撰写简历和求职信。而且生成式技术不仅限于写作，现在只需要一个提示就可以生成图像、音频、视频和其他模态。技术的新时代已经到来，用户急于开始探索生成式 AI 如何帮助他们工作。随着生成式 AI 的快速增长，反馈巨大，并且确实指出了重大问题——与社交媒体中发现的相同类型的问题。这是因为当 Chat 开发时，它的训练集来自社交媒体网站。毕竟，任务是让技术“说话”像我们一样。因此，为了使 ChatGPT 学会说话，它需要在对话中进行训练，而可用的对话是在网上发生的。这些可以在公开帖子、评论、论坛或任何允许访问其数据的公共论坛中轻松找到。这意味着训练集使用了社交媒体帖子（如推特（现在称为 X）和 Reddit 上的帖子）作为训练材料。因此，Chat 从社交内容中学习对话说话和上下文，这长期以来一直是全球关注的问题。ChatGPT 的流行推动了各种生成式 AI 的创新和兴趣。现在可以完成的任务包括（但不限于）从文字生成图像、模拟声音和创建深度伪造，这些任务简单、成本低廉且易于操作。然而，每个任务都包含了与社交媒体相同的有问题的观点、内容和信息，并且它们使用了来自同一网站和公司的训练集。尽管如此，公众的兴趣仍然存在，对这项技术的需求从开源 AI 转向了闭源，从测试版到投资（由微软投资 10 亿美元）仅在几个月内。尽管 ChatGPT 和 OpenAI 突然且短暂地进入公众视野，但已经巨大的伦理挑战因扩散而大幅增加。Makkula 中心在 2005 年提出的问题至今仍然相关。现在，让我们通过 AI 的视角回顾这些问题，以确定我们在后续章节中必须解决的问题。

在生成式人工智能、社交媒体和游戏时代重申对伦理的呼吁

正如本章“揭示游戏中的伦理问题”部分所指出的，对技术伦理的呼吁始于对电子游戏和街机的担忧，通过科伦宾大屠杀继续，并在 2005 年由 Makkula 完全阐述。自 Makkula 阐述了几代人的担忧以来已经过去了 18 年，然而直到今天，在解决这些问题上几乎没有取得任何进展。事实上，在 2023 年 10 月，Meta（Facebook）因担心其平台被设计成具有上瘾性，同时让儿童和其他人接触有害内容而被美国 40 多个州起诉（Levinson，2023）。同样，生成式人工智能技术包含偏见、刻板印象、性别挑战、幻觉（虚构信息）、虚假信息、暴力和影响选择的能力。这是使用预测技术和大数据集的直接结果，这些技术允许对单个问题有多个可能的答案，并包括人类偏见的模式和对危害的倾向。然而，法官们正在他们的法庭上使用它来做出有关判决的决定，一位律师用它提交了一份包含幻觉引用案例的法庭简报。企业已经将内容发布给公众和他们的竞争对手，隐私政策正在修订，以获取用于训练或出售给他人以推进这项技术的用户数据。尽管存在担忧和对公众生活轨迹的影响，政府和企业仍在使用这项技术。然而，这些担忧是熟悉的，并且针对的是技术（电子游戏、社交媒体、聊天机器人和人工智能）。这些困扰当今技术的担忧与之前版本的技术如此相似，以至于只需将“电子游戏”一词换成“人工智能”，Makkula 在 2005 年的问题及其原始担忧仍然存在。为了阐明这一点，让我们看看 Makkula 在 2005 年的原始措辞和针对人工智能在表 2.2中更新的版本：

| 那时 | 现在 | |

| --- | --- | --- |

| 从功利主义的角度来看 | 一些玩家和开发者认为，与许多学校课程相比，电子游戏在教授逻辑和解决问题的技能方面做得更好。不可否认，电子游戏给玩家带来了快乐。我们如何权衡这些好处与游戏被归因于的潜在危害，例如上瘾、性别刻板印象和暴力推广？ | 一些 用户 认为 技术（包括人工智能） 在教授逻辑和解决问题的技能方面比许多学校课程做得更好。但是，我们如何权衡这些好处与被归因于 技术 的潜在危害，例如上瘾、性别刻板印象、暴力推广和伤害？ |

| 从权利的角度来看 [包含在效用之下] | 电子游戏是否是一种言论形式，如果是的话，它们是否受到言论自由权的保护？如果这种“言论”贬低女性，我们应该尝试对其进行监管吗？如果它导致暴力，我们应该怎么办？我们如何保护成年人能够接触到他们选择的任何形式的言论，同时保护儿童免受暴露，尤其是在游戏对孩子们来说如此受欢迎的情况下？向儿童出售包含成人内容的游戏是否应该成为犯罪？内容应该受到监管吗？ | 技术是否是一种言论形式，如果是的话，它们是否受到言论自由权的保护？如果这种“言论”贬低女性，我们应该尝试对其进行监管吗？如果它导致暴力，我们应该怎么办？我们如何保护成年人能够接触到他们选择的任何形式的言论，同时保护儿童免受暴露，尤其是在AI 嵌入到技术中，并且它对孩子们来说如此受欢迎的情况下？ |

| 从公平的角度来看 | 目前，电子游戏主要吸引男性玩家。只有 7-8%的电子游戏开发者是女性。女性是否被排除在外？这是一个问题吗？在一些电子游戏中，唯一的女性角色是妓女，而且游戏有时会鼓励玩家杀死她们。这如何影响玩家对女性的看法？探险游戏如何描绘男性，这是否是一种刻板印象？ | 只有6-12%的开发者和 AI 研究人员是女性（Mebourne，2023）。女性是否被排除在外？这是一个问题吗？在技术领域，女性往往被低估或伤害。在现代游戏中，女性角色被性感化，而且游戏有时会鼓励玩家杀死她们。这如何影响用户对女性的看法？ |

| 公共利益视角 | 电子游戏对社区有什么影响？在每周五小时、每周 25 小时的时候，游戏是否会干扰人们对家庭和社区的义务？游戏是一种反社会活动，还是它让玩家参与到了不同类型的社区？真正的社区可以在网上存在吗？游戏开发者有义务使在线体验不那么上瘾吗？ | 技术的使用是否会干扰人们对家庭和社区的义务？技术的使用是一种社交活动，还是它让玩家参与到了不同类型的社区？真正的社区可以在网上存在吗？开发者有义务使在线体验不那么上瘾吗？ |

| 美德视角 | 了解一天只有 24 小时，你应该用多少时间来玩游戏，这将使你成为什么样的人？阅读与玩游戏相比，有什么固有的美德？内容有什么区别？玩暴力游戏会使你变得暴力吗？玩暴力游戏会使你对暴力变得麻木吗？假设暴力不会影响你，但你知道对于玩游戏的某些群体来说，所有的血腥场面都会引发暴力倾向——他们的游戏访问应该受到限制，如何限制？应该允许年幼的孩子玩暴力游戏吗？ | 与使用技术相比，阅读有什么固有的美德？内容有什么区别？使用暴力技术会使你（或某些人）对暴力和伤害变得麻木吗？应该允许有害技术影响人们吗？ |

表 2.2 – 那时和现在的伦理问题

表 2.2 的适用范围

此表更新了 Makkula 在 2005 年提出的疑问。关于偏见、版权侵权、未经许可在专有数据上训练以及许多其他当前危害的额外问题将在未来的章节中解决。

在这些陈述中，视频游戏被用来代表技术，因为实际上所有技术都包含相同的挑战。有一个重要的区别：AI 的规模和速度使得这些危害在几秒钟内传播到全球。这些能力不仅带来了技术的益处，还带来了持续伴随我们每一次进步的危害。有害的评论、声明、偏见、威胁以及更严重的事情可以在几秒钟内传播到全球：黑客和那些寻求破坏或挑战发展的人。创新带来了技术的益处和潜在的伤害。它们是技术硬币的两面。在 AI 时代，所列出的担忧可以也应该扩展到远超过这里所展示的内容。那将是另一章的内容，现在，最重要的是要注意，我们正在重新审视社会已经意识到超过 40 年的担忧。

摘要

在这一点上，可以说，人工智能只是众多携带我们社会固有危害的技术之一。虽然我们发展了技术，但自从其早期出现以来，我们的行为、评论和信仰变化不大。虽然我们变得更加复杂，但我们仍然缺乏对他人的基本关怀和他们的困境。简而言之，我们已经对伦理学家的呼吁和以我们忽视的态度对待我们家人、邻居、朋友和同事的命运的行为变得免疫。不幸的是，选择将伦理留给未来的创新（或下一代）的做法，在未来到来时并没有显示出任何这样的倾向去做。在下一章中，我们将讨论为什么有意义地实施伦理似乎是不可能的。

进一步阅读

以下资源已提供，以帮助您探索本章的内容。

  1. www.womentech.net/en-us/women-technology-statistics

  2. www.globalapptesting.com/blog/the-women-who-changed-the-tech-world

  3. opiniojuris.org/2022/06/27/just-war-theory-the-only-winner-across-four-grim-conflicts/

  4. daily.jstor.org/moral-panics-a-syllabus/

  5. www.scu.edu/ethics/

  6. www.congress.gov/bill/109th-congress/senate-bill/2126

  7. www.visitthecapitol.gov/sites/default/files/documents/resources-and-activities/CVC_HS_ActivitySheets_Committees.pdf

  8. www.washingtonpost.com/wp-dyn/content/article/2005/12/16/AR2005121601883.html?itid=lk_inline_manual_5

参考文献

第四章：3 进行伦理学研究：克服反对意见

现在我们已经了解了我们在与技术的关系中是如何走到这里的，我们必须决定接下来要做什么。不幸的是，开始行动是进行伦理学研究的最具挑战性的部分之一。而且有许多理由可以用来避免这项工作。然而，一旦更好地理解并充分解释了这些反对意见，前进的障碍就不再是不可逾越的。这正是本章的目的，也是我们未来工作的基础。本章旨在解决进行伦理学研究的许多反对意见。它还将解释这项工作为什么困难，为什么可能诱人回避，以及我们如何找到克服问题开始进行“进行伦理学研究”的方法。在本章中，我们将涵盖以下主要主题和反对意见：

  • 克服进行伦理学研究的反对意见

  • 在冲突的观点和优先事项中找到共性

  • 在建议和指导中找到实用性

  • 克服伦理学中的完美和理想理论

  • 挑战框架

  • 进行伦理学研究

克服进行伦理学研究的反对意见

在哲学中，克服异议意味着首先针对一个观点或立场提出的主要批评进行回应。在这个例子中，论点是我们必须做重要的伦理工作。现在，克服对该观点的异议的过程可以开始了。首先，我们必须确定反对做伦理的理由，并尽我们所能去理解它们。为了做到这一点，我们必须将异议视为有价值和有效的，并以慷慨的态度看待它，这意味着要怀着开放的心态去倾听，考虑到在回应之前我们可能已经犯了一个错误，并且要真心实意地认为对方可能是正确的。只有这样，我们才能着手构建回应。回应通常包括在尊重异议和异议者的情况下，增加细微差别、澄清、细节或缺失的事实。这个过程的好处是它有助于加强原始论点，并使其更能经受住批评。通常，这发生在那些不同意的人之间的来回对话中。然而，当它以书面形式出现时，批评往往发生在审查期间甚至出版之后。记住，只关注少数异议意味着其他异议可能被忽略，这会让不同意你的人转向新想法来维持他们的立场。这意味着将有新的异议需要克服。因此，克服异议的过程是迭代的。关于克服异议的最后一点必须提到的是，这个过程最关键的部分是真诚地考虑你的观点可能是错误的——而不是他们的。这就是为什么从慷慨和开放的心态来看待对立的论点是至关重要的。只有完全理解他们的论点并探索其优势，你才能理解你如何向他们解释为什么你的观点更加强大。你不能反对你不理解或没有充分探索的东西。一旦你理解了对立的一方，你就可以确定你将采取什么立场，并更好地理解如何捍卫它。我们首先将讨论如何在冲突的观念中找到一个交集，并优先考虑伦理。

在伦理学中寻找冲突观念和优先事项中的共性

当讨论伦理学时，首先遇到的挑战之一是伦理概念、思想和优先事项之间缺乏共性。例如，信任是一个大多数人熟悉并了解个人经历的话题。由于这种个人性质和他们的个人信仰，许多人认为伦理似乎是一个个人偏好的问题。他们说：“当我感觉到一个人……时，我觉得我可以信任这个人。”个人也明白不同的人可能会以不同的方式结束这个句子。这种个人主义观点通常会导致一种更狭窄的伦理观，关注差异而不是共性。

个人主义

单独工作或将个人需求置于集体利益之上的行为。

个人主义不仅与人们对什么是值得信赖的看法有关，而且他们也认识到，对一个人来说非常重要的东西可能对另一个人来说不那么重要。换句话说，我们认识到道德术语，并按照它们对我们自己的重要性来优先排序。这种个人主义观点在探索与人工智能相关的道德观念时提出了独特的挑战。

思想

思想旨在描述我们对某些术语或概念所持有的想法。在技术领域，其中一些概念是道德性的，包括信任、保护和安全。首先，让我们讨论安全。我们应该熟悉这样的认识，即有些人比其他人更不愿意冒险，这表明他们更喜欢感觉安全的事物。同样，在诚实方面，一个人认为的不诚实和拒绝信任的理由，另一个人可能认为那只是保持信任的无害的小谎言。最后，使许多人感到受保护的因素可能因人而异。有些人愿意在没有障碍的情况下走到悬崖边缘，而其他人可能更喜欢不离开他们的车辆。当将这些概念应用于技术时，似乎有太多相互冲突的偏好和想法，以至于很难找到“真正的”答案。让我们考虑三个假设的人物，他们正在处理安全这一想法。让我们假设萨莉对安全的偏好（或我们提到的任何概念）被马克所拒绝。与此同时，马克拒绝萨莉对安全的理解似乎是不可避免的。想象一下，萨莉或马克不希望杰森对安全的想法。杰森拒绝了他们的两种理解。图 3.1。找到中间立场似乎几乎是不可能的。由此延伸，制定具有这种差异的政策和偏好也是一个挑战，因为无论做出什么决定，许多人都会感到失望。

图 3.1 – 展示缺乏一致性

图 3.1 – 展示缺乏一致性

前一段简要提到了我们假设的杰森对安全的想法。从讨论安全到杰森对安全的想法的微妙变化是显著的。安全作为一个定义意味着受到保护，但在这里我们关注的是使杰森感觉安全的事物。这揭示了关于这些概念的结论的挑战在于人们对其信念或想法。而且，如果每个人对每个道德术语或原则都有自己的看法，这些看法影响着他们对情境的反应，而世界上大约有 75 亿人口——这有很多相互冲突的想法，太多以至于无法考虑——更不用说深思熟虑地采取行动或用来制定政策了。然而，这些概念旨在成为指导人工智能的道德框架的一部分。但如何呢？

道德框架

一套结构化的规则或指南，提供了一种系统化的道德问题解决方法。

假设我们不是看到个体，而是将他们视为群体。让我们尝试创建三个大型群体，以使事情在这个阶段简单（且可管理）。

  • 我们将第一组称为“独行侠”；他们是冒险者。这些人会三思而后行，“快速行动，打破常规”，或者认为风险值得回报（而不太考虑风险）。例如，他们可能会第一次与一家他们不熟悉的公司进行蹦极跳，他们可能会认为安全带没有必要，或者认为保护措施过于过度。

  • 然后，让我们为非常谨慎的人创建第二组；让我们称他们为“谨慎者”。谨慎者会仔细检查每一个细节。他们几乎不留任何机会给运气，并在每个转折处都采取谨慎的态度。他们有清单、计划和应急计划。他们绝对不会进行蹦极跳——如果出于某种原因他们决定尝试，他们会审查公司、飞机、打包装备的人、他们的安全保护措施、评论，并希望有文件证明这一切——而且他们不会同意成为当天的第一个跳伞者。在所有这些研究之后，他们甚至可能根本不去尝试。

  • 最后，我们将为那些处于中间位置的人创建一个列表——他们既不是独行侠也不是谨慎者，而是中心位置的人。这些人专注于对风险采取实用主义的方法。他们会“踢轮胎”，但会非常确信他们可能会采取跳跃。他们也可能有一个 B 计划，但不是针对过度潜在结果的应急计划。他们愿意承担计算风险，但不需要是工程师。这是中间位置，就像美德伦理学的黄金法则。图 3.2。

虽然你可能不知道每个人的个人安全观，但你可以通过分类来解决这个问题。我们不是要在这两组之间创建重叠或维恩图；相反，将这些视为容器或桶——彼此分开。现在想象一下快速地对人群进行分类；你只有三个选择，每个人只能被放置在单个类别中。（维恩图可以稍后出现，为这个过程提供更多细微差别，但这里的想法是一个起点，一个更简单的起点是最好的。）

图 3.2 – 风险排序方法

图 3.2 – 风险排序方法

没有两个人是完全相同的，但仍然可以找到一种方法来确定你与谁最相似。即使现在，如果被要求为自己选择上述桶中的一个，你也能将自己归类到一个群体中，而不需要引入其他选择。（有些人可能不喜欢这样，但这并不意味着他们不能选择。）重要的是要注意，我们不是在寻找那些意见不一致的人之间的共性，而是在每个群体内部寻找共性。因此，谨慎者团结在他们的谨慎中，拓荒者团结在他们的冒险中，中心派团结在他们中间风险的处理方法中。我们不需要在谨慎者和拓荒者之间——或者任何由贾森、萨莉和马克组成的组合之间寻找共性。相反，我们需要认识到谁最像马克，谁最像萨莉，谁最像贾森。这使我们到达一个起点（当然，还需要更多的细微差别，并且随着时间的推移，我们会达到那里）。

共同性原则

面对大量不同观点或偏好时，寻求寻找共性而非差异。

要在伦理学（涉及并专注于这些伦理概念）方面取得进展，而不是识别差异，寻找共性将是明智的。事实上，找到共性对于推进这项工作至关重要。当然，会有时间来解决差异，但这不应该是第一步，也不应该用来避免这项工作。

优先级

现在，我们可以看到与信任相关的问题被划分为几个类别：那些愿意冒险的人，那些希望看到谨慎的人，以及那些处于中间位置的人；我们发现了另一个挑战：确定优先级。虽然理解信任对我们意味着什么是一回事，但确定是优先考虑安全还是信任，则是另一个完全不同的问题。为了确定我们的优先级，我们首先必须有一些基本的道德概念来考虑和权衡。在人工智能伦理学中，你会看到之前提到的术语，如信任和安全，但你也会听到关于权利保护、不造成伤害、行善（仁慈）和偏见的内容。但我们如何知道这些中哪些应该是我们的首要任务或最后任务？当然，你可能已经猜到了，共性也可以帮助我们应对这个挑战。在众多框架中，它们之间存在着共性。因此，通过寻找共性，我们可以找到那些引起他人共鸣的主题或主题，为我们提供一个起点。幸运的是，研究人员已经开始进行这项工作，对 84 个框架的初步分析揭示了它们之间的共性(arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf Jobin 等人，第 7-10 页)。虽然没有任何具体想法或伦理原则在所有框架中都有，但以下原则在大多数框架中都被注意到了（在评估的框架中有 73-47 个）：透明度、正义与公平、无害、责任和隐私。虽然没有确定具体原则，但共性仍然能够被识别，并可以作为开始伦理评估的基础。然而，我们仍然不知道如何对这些进行优先排序。将这 5 个中的任何一个视为同等优先级似乎没有意义，仅仅依赖共性也是一个挑战。如果你的组织受到严格的监管怎么办？如果你的行业风险很高怎么办？这个困境的答案是分级。

人工智能伦理中的分级

将道德关切和原则置于首位的行为，是由忽视它们对个人、地点、环境、组织以及更广泛社会的威胁所决定的。

如你所知，分级治疗是一个医学术语，允许医生或紧急工作人员确定他们的优先级。这通常基于患者负面结果的风险，死亡是主要驱动力。将此作为类比，我们可以开始看到分级治疗如何帮助我们通过人工智能优先考虑组织的风险。例如，如果你在隐私方面受到严格监管，那么隐私可能在你优先事项列表中排名更高。如果你正在使用可能影响人们生活结果的技术，那么权利保护可能在你优先事项列表中排名更高。在这里，对你组织的威胁驱动了你的优先级。这使得选择在之前可能看似不明确的情况下变得更加直接和清晰。对于那些熟悉工程的人来说，这种做法可能与现场应对事件的值班班次有关，但需要确定问题的严重性和适当的响应。在工程中，目标是最大限度地减少问题的影響，并在需要时实施修复。在这个例子中，伦理可以帮助确定和优先考虑哪些问题需要首先关注，哪些可能被移至优先事项列表的较低位置。有一个值得注意的例外，无论是否需要分级治疗，任何需要解决方案的情况或情况都只会被降低在优先事项列表中——而不是被移除。请谨慎行事，避免因困难而删除任务的诱惑。分级治疗、公关和值班工作的概念也与艾森豪威尔矩阵的指导原则相吻合：

  • 执行紧急且具有重大后果的任务。

  • 安排那些对成功重要但可以延迟的任务。

  • 将任务委托给更适合处理它们的人。

  • 删除/移除那些重复、不必要或分散对所需工作注意力的任务。

在建议和指导中寻找实用性

很容易产生这样的想法，即道德建议和指导缺乏支持人工智能创新所需的实用性。这是对人工智能伦理学家贡献和工作的一种误解或假设。开始进行道德工作的挑战之一是，收到的建议很少具有实用性。这种观点得到了许多原则、术语、定义和由此产生的分歧的支持。例如，信任的定义可能被解释、改变、细化或修订。在某些情况下，信任可能意味着不止一件事。当技术专家谈论信任时，他们通常指的是一个按程序运行的算法，而当用户讨论它时，他们正在考虑他们是否应该信任他们正在使用的应用程序或程序。然而，很少有人放慢脚步意识到这个挑战，也没有花时间去解释提供的或声称的信任类型。当建议以标准框架方法提供时，这种语言、术语和定义的挑战变得更加严重。虽然框架看起来是一个很好的工具，但许多组织领导者和一些最懂技术的人只看到了一个重要术语的列表，但没有方法使它们变得可操作或应用。这往往使那些试图解决伦理和技术问题的人感到困惑，“接下来怎么办”？没有人可以回答这个问题。幸运的是，这个挑战更多是因为没有“大声说出内心的想法”——这是一个自从开始这项工作以来就变得非常受欢迎的短语。大声说出内心的想法通常意味着说出别人不会说的话，或者说出别人忽略的事情。那么，在这个例子中，还有什么没有说出来的“内心的想法”？想象一下，如果有人问你是否对项目进行了修订，你明白他们实际上是在问他们何时会看到变化。关于框架，它们的创造者主要把“内心的想法”留给了实施者，只提供了术语和定义——而没有提供如何使用它们来完成工作的指导。在伦理工作中，最关键的是“内心的想法”。框架可以变得可操作并变得实用。术语和定义可以变得清晰并解释给他人，以便每个人都能理解它们在不同角色、不同任务和领导力下的看法。但这需要理解讨论偏离了什么方向。技术专家、人工智能伦理学家和用户必须开始使用相同的语言，大声说出他们的“内心的想法”，以促进这一过程。每个人都在对另一个人说话，但误解了他人，或者不愿意离开我们专业领域的隔阂，以另一种方式看待事物，这是问题的一部分。技术专家和开发者对伦理学家实际上做什么存在巨大的误解，用户对开发者和技术专家正在创建的内容以及伦理学家如何提供帮助也存在误解。更不用说其他参与这项工作的人了。相互之间说些无关紧要的话对任何人都没有帮助，进步在于那些尚未提供的未说出的澄清。这是一个转折点，是时候那些参与人工智能的人与该领域工作的许多人建立了强大且非对抗性的关系。这不是避免伦理的理由，而是一个以新的方式做技术，将伦理、技术、领导力、监管者、开发者和用户（所有相关人员）合并在一起，共同朝着积极目标努力的理由。这就是做人工智能伦理。

偏好而非解决方案

另一个实际的挑战是，道德并不能作为解决任何问题的实际方案。相反，它仅仅是人们的偏好。但这也缺少了一个重要的考虑：道德是法律的基础。考虑一下学校或重要集会场所附近的减速区域。为什么那些地方需要减速？直接的答案是有人注意到在这些位置快速行驶的汽车是危险的。然后，他们注意到这种危险并不是一个异常或一次性的情况，而是一个持续的威胁。最后，可能会放置非官方的标志或交通协管员，希望驾驶员会减速。无论使用了哪种干预措施，其成功（警告有效）或者甚至是不成功（仍然超速）都可能导致官方减速标志的设置。但这基于有人注意到问题并采取干预，干预措施是实用的。在人工智能伦理中，存在同样的过程。一个问题被注意到，然后寻求解决方案。由于问题是具体的，解决方案也将服务于实际目的。这意味着道德并不是一些不切实际的尝试去解决不可能的事情，而是一种解决具体问题和解决问题的方法。事实上，目标与关键结果（OKRs）和具体、可衡量、可实现、相关和基于时间的（SMART）目标可以与伦理框架结合使用，提供由伦理关切驱动的具体和可衡量的行动。这将在未来的章节中进一步讨论，但就目前而言，要知道这些过程将帮助你在伦理工作中。我们通常不需要重新发明轮子，而是使用我们已有的知识来更好地满足我们的需求。

伦理学家的作用

伦理工作的一个最终实际挑战是在组织中为伦理学家确定合适的职位。他们将向谁汇报，他们将属于哪个部门，他们将整天做什么？由于伦理学家既不是律师，也不是人力资源专家，也不是编写代码的开发者，因此可能会觉得找到具有上述技能的人是更好的选择，也更容易适应。然而，这又是对伦理学家在组织中的目的和价值的一种误解。首先，伦理学的学习属于哲学范畴。哲学之所以与社会科学不同，是因为它坚持逻辑作为基础（而不是编码或法律）。作为哲学探究的基础，逻辑也意味着它是伦理学的基础。这意味着应用伦理学家（与理论伦理学家不同）不仅仅想要找到一个问题的答案；他们寻求基于证据和理由（逻辑）的正确答案，从而能够为他们提供的指导提供强有力的论证。这些哲学家不是理论家，尽管他们对理论很精通。相反，他们希望看到他们的解决方案在世界中得到应用。通过这个基础，应用伦理学家的解决问题和查找事实的任务与律师相似，律师必须知道和理解情况的真实性以协助他们的客户。这些伦理学家正在努力寻找解决现实世界问题和困境的方案。事实上，哲学家有 75%的入学率进入法学院——这是所有专业中最高的(nationaljurist.com/prelaw/classics-philosophy-majors-do-best-when-it-comes-getting-law-school/)。当你聘请哲学家的帮助时，你将接触到一位批判性思维者，并遇到一位熟练的问题解决者——但他们没有法学学位。似乎有必要指出，开发者、技术专家、律师和人力资源专家可以具有伦理意识，但伦理学家是一个独特的技能集和培训，这种技能和培训在哲学培训之外是不存在的。由于他们被事实和逻辑所驱使，伦理学家成为专家政策专家，他们能够轻松理解法律建议、后果和影响在世界和人们身上的定位。他们在处理法规和政策受到质疑的无序环境中特别擅长，因为他们不依赖法律来完成他们的工作。他们的自然工作环境与今天存在的 AI 环境非常相似：复杂、无序、模糊，并且有许多问题需要解决。然而，在组织中定位伦理学家也是完全接受 AI 伦理的一个反对意见。由于逻辑和解决问题的重叠，伦理学家可能是一个大型组织中的伦理、法律或技术团队的一部分。伦理学家可能是一家小企业的董事会顾问、特别顾问、总监或副总裁。目标是将他们安置在具有影响力的角色中，并且靠近决策制定的地方。在一个高度监管的行业中，将他们与法律部门合并可能是一个战略选择。如果行业面向客户，他们应该定位为协助人力资源部门，但与法律部门保持一致。对于那些处理尖端技术的人来说，伦理学家应该定位为在法律和技术两方面提供帮助。不要误解：应用伦理学家不是律师、开发者或人力资源专家，但他们独特地有资格解决 AI 创新问题。同样，开发者、人力资源专家和律师都没有伦理学家的技能集。这些角色不可互换，但具有巨大的价值（进一步阅读，资源 1、2 和 3）。

克服伦理中的完美和理想理论

完美和理想的目标常常阻碍了应用伦理（世界中的伦理）。这是因为它们是无法实现的。对许多人来说，追求完美是一个必须克服的挑战。伏尔泰曾经说过：“完美是好的敌人。”当我们参与伦理时，我们寻求的是好。与其追求完美的工作，不如在今天的工作中追求卓越，同时理解完美可能是什么。让我们将注意力转向人工智能伦理中的完美挑战。许多人认为，由于我们无法掌握或完善——或者保证完美——人工智能伦理，我们可能根本不会考虑参与其中。再次强调，默认的答案仍然是等待监管——虽然它在路上，但现在还没有到来，许多情况无法或不会通过它们得到解决。然而，确实，伦理现在或将来不太可能使事情变得完美。变量太多，还有更多的创新要跟进，有不良行为者，以及未来等待我们的其他一系列挑战。不参与这项工作并不能阻止或允许我们避免这些挑战。它们仍然会出现，并通过宣传、诉讼、市场份额的损失、声誉打击或更糟糕的事情在全球范围内为人所知。所以，虽然伦理学家不能保证完美（没有人可以），但他们能够帮助组织和个人采用人工智能并减轻它可能造成的损害。他们还更有可能通过宣传、保护你的声誉和避免诉讼来为你带来好处——这基本上是上述所有内容的反面。虽然没有魔法棒可以防止所有的不良行为，但寻求善似乎比避免它更好。如果出了问题，你的律师会感谢你帮助他们为你辩护。毕竟，如果你在公共错误或问题发生时向你的律师陈述，可能会是这样的：

  • “我们的行为符合所有适用的法律。”

  • “这里没有适用的法律；我们的行为符合所有适用的法律。”

  • “我们期待着有法律出台，为这些情况提供指导。”

或者它可能看起来像以下这样的陈述：

  • “不幸的是，发生了一种没有人预料到的情况，但我们承诺去做需要做的事情——并且继续做出可能的最优选择，找到最好的答案，并遵守道德的最佳实践。”

虽然律师可能需要审查和改进这些声明，但似乎在没有违反法律的情况下，优先考虑的是关心受影响的人，并对伦理表示认可。最后一条声明是唯一承认这一点的。不幸的是，经常依赖的声明是第一条。双倍不幸的是，这是客户最不关心的声明。你做出了一个你确信不会因此被起诉的选择，对你的客户或用户没有任何帮助，听起来像是自我保护或自我服务。第二条声明表现略好，因为它关注的是未违反的法律，导致人们产生你的利益高于他们的印象。通过承诺遵守未来的法规来软化它，也暗示你将继续按照原来的方式行事，直到新的法律出台。同样，这些对服务你的人没有任何帮助。虽然进行人工智能伦理是具有挑战性的，但因为它不完美且对组织、客户、用户或更广泛的公众贡献甚微，所以绕过它是不可取的。他们也知道这一点。

理想理论

在完美的另一面是人工智能伦理作为一个理想理论的概念。为了解释参与人工智能伦理的这种反对意见，我们首先必须解释在哲学中理想理论是什么。在这种情况下，理想理论是一种作为目标追求的某种完美世界。这意味着理想理论无法实现，但可以用来确定挑战所在，以及需要解决或改进的问题和危害。

理想理论

理想理论旨在通过确定理想的情况或环境来识别现有情况或环境中的问题，揭示挑战的真实性质及其潜在解决方案。理想理论是一个目标或目的，它指导并告知所需的变化。

在人工智能伦理学中，挑战是类似的。有些人认为伦理技术是不可能的，因为技术会出错，无法完美。毕竟，总会有不良行为者，环境变化，带有缺陷的未来创新等。一般观点是，既然我们无法纠正一切，我们追求的是不可能的事情，那么开始这项工作是没有意义的。这可能会让人信服，而且伦理学家很可能也面临过这种想法。毕竟，某些组织大量裁员，而且对他们的工作有很多反对意见。每当一个问题得到解决，就会有五十到数千个新的问题出现。虽然伦理学家已经学会了克服他们领域的挑战，但其他人却利用这个挑战来避免做伦理工作。在这里，就像追求完美一样，未能达到理想导致一些人放弃了改进工作。然而，再次强调，放弃是不明智的，因为接受技术挑战和问题的状态不改进，甚至当有可能改进时也不改进。当任何超出现在的改进仍然是改进时，专注于理想是一种错误，满足于现状可能导致更大的伤害。伦理学对伦理学家来说不是一条容易的道路，但认为它不值得探索或进行这项工作，这与每个人的最佳利益以及那些依赖与办公室外和结构外的人的关系来繁荣发展的组织的最佳利益相悖。人工智能具有全球影响，其后果在全球范围内都能感受到。当然，世界值得付出努力和投资，在寻找做更多事情的方法的同时，尽我们所能去做。在育儿方面，人们常说，当你知道得更多时，你会做得更好。需要理想和完美的论点类似于说，知道得更多应该导致没有变化或改进。

具有挑战性的框架

我们已经探讨了确定适合框架的伦理原则的反对意见以及仅从原则出发得出实用或推荐行动的困难。但还有其他反对意见。

文化相对主义

当评估框架的原则时，评估实体的文化将对它做出价值判断（确定它是好是坏或应该如何被看待）。然而，在一种文化中被认为是道德可接受的，在另一种文化中可能被拒绝。这个挑战对于人工智能尤其相关，因为它可以在全球范围内部署。在这里，共同性也可以通过流行或接受来帮助这个过程，但通过评估揭示挑战存在原因的基本原则。例如，欧洲国家在社会中嵌入的护理伦理与美国不同。这并不意味着美国不关心，或者欧盟过度投资于护理。相反，这次审查揭示出关心很重要，但表现方式不同。

不完整和僵化的框架

也可以说框架既可能不完整又可能僵化。这是因为框架可能看起来遗漏了重要的考虑因素，或者仅仅固定在几个主要观点上。对于那些寻找差异的人来说，大量的信息似乎被遗漏并完全被忽略。这种情况并不一定发生。相反，框架可以被扩展以包括新的优先事项或新的信息。在这里，挑战在于将应用伦理视为对变化动态和创新的响应。此外，虽然需要一条“底线”来开始工作并取得进展，但定期的审查允许扩展和我们所提到的灵活性。在一个非静态的社会中，技术也不是静态的，没有理由说道德指导也应该是静态的。然而，正如产品发布必须在某个时刻发生一样，道德工作也必须有一个开始的时刻。在人工智能伦理和技术中，需要审查、改进和适应。

框架中的偏见

正如偏见存在于我们的社会以及社会中的所有人一样，偏见也是伦理学家面临的挑战。因此，偏见可能会悄悄地渗透到框架中。伦理学家并非完美或道德善良的不朽典范。相反，他们是会犯错的，容易受到文化观念和自身认知的影响。他们并没有从自己的人性或弱点中得到豁免。然而，伦理学家接受过训练，以根除自己的先入之见，挑战自己的思想，即使在捍卫自己观点时也不接受薄弱的答案。所有伦理学家都必须进行自我反思，以确保如果他们的观点与建议一致，他们已经检查了偏见引导他们的可能性。伦理学家也可能对伦理理论或原则有偏见。这可能会在框架中找到其位置，使得框架更多地关乎哲学家观点，而不是待完成的工作。为了完成这项工作所需的自我反思和透明度，为什么那些领导伦理人工智能倡议的人需要接受哲学训练。如果选择不同的领导，伦理倡议反映领导者的观点而不是对所需内容的公正反映的可能性大大增加。让我们继续讨论如何做伦理学。

做伦理学

在本章中，我们讨论了不参与道德工作的许多原因。但除了不进行道德工作的理由之外，考虑是否有理由或合理的论据来支持进行道德工作同样重要。毕竟，说一个人不应该做某件事并不是他们应该做另一件事的好理由。换句话说，对一种想法的否定并不立即导致对相反想法的肯定。相反，为什么应该进行道德工作的答案与这个答案截然不同。进行道德工作意味着认识到我们的世界充满了受到创伤和伤害的人们，他们不应该因为我们的努力或创新而变得更糟。进行道德工作的动机是在未来之间做出选择——一个是乐观的，另一个是伤害的。伤害的未来涉及坚持现状。这是一个充满偏见、伤害、刻板印象和每个人失去机会的世界。这是一个我们无法完全与他人互动的世界，我们的技术无法理解我们的挑战。这是一个聊天机器人和算法像在一个没有中立性或客观性的世界中一样做出选择的世界。对伤害的解释默认为法律要求和对更好监管的需求，这种监管无法通过或达成共识。技术是基于利润而不是需求来开发的，那些可以帮助世界的倡议在利润模式下被边缘化，或者留给慈善事业。那个世界看起来很像这个，但更糟。还有一种可能性的未来。它不是所有可能世界中最好的，但它每天都在改善。偏见、伤害和刻板印象通过技术、自我意识和自我改进得到解决和调解。通过创新，为我们提供了更多可能的机会。我们再次意识到，相互交流和认识到我们的技术对世界的理解（以及理解得多么少）的重要性。我们承认，即使是技术的选择也是我们的——编码为帮助我们的能力。对伤害的解释涉及问责制和责任，同时保持利润，并保护人们和我们的世界。法规因其提供的价值而受到重视，道德因其填补技术进步中空白的能力而被认可。技术强调世界的需求和利润，指出未能满足需求会使利润变得可疑。慈善事业、利润和创新是推动更美好世界的伙伴——而且人们因此变得更好。这些不同的世界是理想理论的例子，因为我们可以清楚地看到社会及其与技术的关系中存在的问题，并且由此延伸，我们理解了什么应该得到改善。

破碎的镜子理论

但还有一个理论对进行伦理学同样有帮助：破碎的镜子理论。这个理论指出，技术、数据和 societal challenges 提供了社会的真实反映，但我们的诱惑将是清理数据或采取表演性行动（从而改善我们的反映），同时避免防止这些社会工作的需要。换句话说，破碎的镜子理论是避免进行伦理学的另一种方式，但它也为我们必须在我们自己身上修复的东西提供了洞察，而不仅仅是我们的技术。这是因为我们的技术反映了我们的无意识偏见，我们对他人和环境的不尊重，我们未能与正在发展的国家的关怀或支持进行互动，我们的仇恨、愤怒和挫折。我们的数据、技术（如生成式 AI 的输出），以及我们如何对待彼此（最终会反映在我们的数据中），都清楚地表明，这个必要组成部分是我们自己的变化和发展。AI 不仅是一个技术上的分水岭时刻，也是一个对我们自己的时刻。道德 AI 的一个必要组成部分是培训和教育用户、开发者、部署者、组织以及所有与或创造我们技术互动的人。那么，进行伦理学将涉及我们作为一个社会迎接这一时刻。

破碎的镜子理论

技术、数据和 societal challenges 提供了社会的真实反映，但我们的诱惑将是清理数据或采取表演性行动（从而改善我们的反映），同时避免防止这些社会工作的需要。

不幸的是，趋势是绕过这项工作通过另一种方法，那就是通过洗白。洗白是一个概念，其中组织和人们希望通过关于他们道德倡议的声明来获得积极的关注，而这些声明没有得到行动或事实的支持。这个过程在道德、DEI（多样性、平等与包容）、远程办公以及许多其他证明没有伦理学家协助就难以完成的倡议中已被使用。在人工智能伦理中，当最普遍的洗白例子是雇佣然后悄无声息地解散整个 AI 伦理部门，或者在一个组织中分散道德声音，阻止协作或提出挑战时，问题变得更加具有挑战性。这发生在包括微软、Meta、Twitter、谷歌和亚马逊在内的几家最大的科技公司中。到目前为止，苹果的表现相当不错，但它只是刚开始拥抱人工智能。总的来说，在科技领域，非官方的座右铭是在人工智能中高喊道德，同时移除或解散专门负责道德工作的团队或协作努力。那么 AI 公司呢？Anthropic 本应是一家好的 AI 公司，专注于伦理。然而，它也屈服于科技行业的压力，正在努力反对 AI 监管，与谷歌和亚马逊有财务联系，并被指控大规模数据抓取。竞争和利润驱动的追求甚至将这个“好人”推向了摇摆不定或越过从好到不好的界限。与此同时，OpenAI 解散了其 AI 风险团队，领导层跳槽到其他组织。然而，上述提到的每家公司仍然依赖于他们关于负责任人工智能的声明，通过信任、安全、风险调解和伦理来实现。

道德洗白

这是一个由组织和人们用来描述他们道德承诺和社会责任被错误表述为比实际情况更积极以获得信任的术语。

这种避免，现在已成为许多组织的常态，也是对两个世界首先讨论的选择之一。有些人抵制一个由 DEI（多样性、平等与包容）、环境和社交问题带来变革的世界。然而，变革已经通过年轻一代、技术和等待我们的潜在危害而到来。如果有一个情况或环境可能会阻碍人工智能伦理的进步，那就是我们在一个和行业中工作，这个和行业还没有完全接受它。除了普遍的伦理漂白之外，它还可以应用于人工智能的特定任务，如收集、评估和讲述数据的故事。这些都可以是有缺陷的，或者仅仅受到根深蒂固的思想（正面和负面的偏见）的影响。甚至数据来源也不是中立的，因为某些资源可能被优先考虑。最后，数据所讲述的故事可能受到需求、偏好和偏见的影响。而且，这些影响可能与数据分析师以及使用它们的组织或利益相关者有关。有趣的是，数据的过程中有多少是受到我们世界中狭窄的选择、决策和根深蒂固的偏见的影响。我们总是可以选择进行伦理工作、避免它或质疑其价值。随着选择的出现，随之而来的是相应的后果、利益、风险和责任。

摘要

进行伦理工作的复杂性质现在应该是清晰的。那些刚开始学习哲学的人可能会发现自己感到压力和不知所措。其他人可能会兴奋地开始。对这里提供的见解的任何反应都是可以预料的。如果伦理是为每个人准备的，那么主修这个学科的人会更多。好消息是，有专家可以使这个过程不那么令人畏惧，而且有基于伦理的声音可以使专家的见解更加完善。没有提到容易，因为这项工作是有难度的。但它仍然值得我们关注和努力。尽管有似乎合理的论点来劝阻我们进行手头的工作，但它们可以被挑战和克服。

进一步阅读

以下资源已提供，以帮助您探索本章的内容：

  1. 学习哲学的实际价值：www.montclair.edu/philosophy/2023/09/01/the-practical-value-of-studying-philosophy/

  2. 数字游戏：www.apaonline.org/members/group_content_view.asp?group=110435&id=918649

  3. 哲学学士学位清单：www.umsl.edu/~philo/files/pdfs/checklist.pdf

参考文献

posted @ 2026-07-27 16:27  绝不原创的飞龙  阅读(9)  评论(0)    收藏  举报