读所罗门的密码笔记04_社会信用

1. 人工智能

1.1. 人工智能可以帮助人们处理复杂的大气问题，完善现有的气候变化模拟，帮助我们更好地了解人类活动对环境造成的危害，以及如何减少这种危害

1.2. 人工智能也有助于减少森林退化和非法砍伐

1.3. 人工智能甚至可以将我们从枯燥乏味的生活中解放出来

1.4. 随着日益复杂的人工智能系统越来越多地进入我们的生活，我们可能会对单调乏味的生活获得全新的控制，从而能更好地应对各种复杂的社会环境

1.5. “更智能”的数字技术既触手可及，又具有技术性和匿名性，这一点尤其重要

1.5.1. 任何有手机的人都可以使用先进的数码工具对他人造成名誉和物质上的伤害，而且几乎无须承担责任

1.6. 预测分析、人工智能和交互式机器人已经成为个人、政府和企业必不可少的宝贵工具

1.7. 识别系统

1.7.1. 这是一场交通违法专项整治运动的一部分，旨在减少交通事故和乱穿马路的现象

1.7.2. 监控系统覆盖的远不只是主要城市的十字路口人行横道

1.7.2.1. 截至2017年12月，东方某神秘大国大约在全国各地安装了1.7亿个摄像头

1.7.3. 大众识别系统通过识别和公开那些乱穿马路的人来降低交通事故的死亡率

1.7.4. 将确保社会中的坏人无处可去，而好人来去自由，不受阻碍

1.7.4.1. 2018年4月底，该征信系统已累计限制购买机票1 110万人次，限制购买高铁动车票430万人次

2. 警务预测系统

2.1. 洛杉矶的执法部门使用了自己的一套先进的人工智能系统来帮助警察监视潜在的热点地区，识别可疑人员

2.1.1. 分数更高意味着你要面临更多的检查，也更可能与警察发生口角，填写更多的现场调查卡，和随之而来的更高的分数

2.1.2. 很少有人知道洛杉矶警察局究竟使用了多少数据，以及他们如何使用这些数据

2.1.3. 人们并不知道警察在使用这些数据时究竟受到多大的约束

2.1.4. 如果某人不止一次经过犯罪现场，他的名字在系统中的分数就会上升，这也意味着警察对他的潜在关注度提高了

2.1.4.1. 这种相关性有助于警方破案，虽然警察并不认为人在现场就意味着参与了犯罪活动，但这也会造成一些麻烦

2.2. 警务预测系统引发了人们对于人工智能导致权力滥用的各种担忧

2.2.1. 如果不设置适当的保护措施，智能机器就可能帮助企业或政府操纵个人

2.2.1.1. 美国公民自由联盟和洛杉矶的一些非政府组织已经开始抵制基于人工智能的警务预测系统

2.2.2. 另一方面，警务预测的分析和预测能力也可以让社会更安全

2.2.2.1. 警务预测有助于建立一个更文明的社区，创造更好的经商、旅游、交通出行和人们日常生活的环境

2.3. 如果缺乏明确的指导，警察就可以任意标记或污蔑居民，而目前尚无相关法规要求洛杉矶警察局和其他部门必须删除记录、进行匿名化处理或只能将个人标记为犯罪区域的背景元素，例如建筑物或树木，而不是潜在的嫌疑人

2.3.1. 洛杉矶和纽约的居民很少能对这些技术采取同样的抵制措施，部分原因是洛杉矶警察局和纽约警察局并没有主动地与社区的警务预测系统进行沟通，更不用说在更加公开的公共论坛上讨论了

2.4. 如果一名警方调查员搜查嫌疑人的各种纸质材料，包括历史收据、家庭互动情况和比萨订购记录等，大多数美国人都会将其视为正当的搜查

2.4.1. 当警方查看这些信息的电子副本时，他们能得到同样的信息，他们现在可以更加肆无忌惮地窥视，而对他们的限制少了很多

2.5. 当调查人员进入不同的数据库调查潜在嫌疑人，为申请搜查证和逮捕证搜集依据，自然就会发生这种情况

2.5.1. 某些情况下，这些信息并未出现在宣誓书或证据之列

2.5.2. 会在调查过程中发现这样的情况，但在法庭上看不到这样的证据

2.6. 执法部门不仅要能追踪嫌疑人，而且更理想的情况是能够预防犯罪

2.6.1. 政府可以更好地追踪信息，进行预警，缓解紧张局势，防止犯罪活动的发生

2.6.2. 主要目的是尽最大努力防止死伤，那么在犯罪发生后再派遣急救人员就等于失职，这也是对人力和经济资源的严重消耗

2.6.2.1. 没算上审判、缓刑和监禁的后续人力和财力成本

2.7. 大家都不能（也不愿）解释机器的推理过程

2.7.1. 给出的理由就是在激烈的市场竞争中要保守商业秘密

2.7.2. 如果我们不能解释这种推理过程，那么为嫌疑人辩护的律师就无从反驳，这就限制了他们为被告人提供另一番陈述的能力

2.7.3. 这在那些自诩透明、崇尚法治的国家中无疑是一个问题

2.8. 警务预测的结果称为“向上涓滴”（trickle-up）的城市发展

2.8.1. 使那些“数据不太干净”的人们或弱势群体因其经济社会地位而被进一步边缘化

2.8.2. 当出现家庭暴力报案时，如果该社区帮派横行、毒品猖獗、犯罪活动肆虐，警方的回应往往就比较被动

2.8.3. 如果类似的报案发生在富人区，或警方根据背景数据库查出了其他积极因素，那么警察就有了一种“交付服务”的心态

2.8.4. 如果涉及小孩，那么他们肯定是去‘交付服务’，而不只是去兴师问罪

2.9. 我之蜜糖，彼之砒霜

2.9.1. 可能成为一个国家信任的奠基石，但也可能成为另一个国家信任的腐化剂

2.9.2. 同样一个为降低犯罪率而设计的系统，它可能增加社会偏见，也可能建立一个数据库，消除对少数群体的成见

3. 陪审团制度

3.1. 陪审团制度是美国司法体系的一个基本优势，部分原因是人们可以设身处地设想违法行为

3.1.1. 法官和陪审团将自己的智慧和分析能力带到法庭上，同时也将他们的社会公正观念和对受害者和嫌疑人的同情也带上了法庭

3.2. 即使美国司法系统帮助法官从一些沉闷乏味、带有偏见的工作中解放出来，人工智能又如何将我们的同理心以及人类共同享有又时常冲突的社会价值观进行数字化呢？

3.2.1. 研发人员尚不能将如此完整的人类背景融入机器学习算法之中，而这些机器学习算法通常是由数千英里之外的程序员设计的

4. 儒家思想

4.1. 古往今来，在历史的进程中，中国文明比世界上其他任何文明都更彻底地抵御外来文化的影响，或对外来文化进行彻底改造，而儒家思想就是中国文化的重要内在凝聚力

4.2. 几千年来，它抵抗着几乎所有外来哲学思想或权威的影响

4.2.1. 佛教思想在汉代（约公元前1世纪）从印度传入中国，但它并没有改变儒家的核心文化思想

4.2.2. 事实上，佛教很快就被“汉化”了

4.3. 已经存在了若干个世纪的科举考试一直是人们步入仕途的敲门砖

4.3.1. 这些考试主要考查的是考生的中国古典文学知识和文学功底，更多是为了维护国家统一的文化、知识和政治观念，而不是确保考生具有适当的技能和实践能力

4.4. 人们的生活水平所得到的大幅提升是在几十年前根本无法想象的

4.5. 新兴的繁荣正在削弱深厚的文化基础

4.5.1. 中国大多数城市居民在付款时都不再掏钱包拿现金，也不使用信用卡，而是使用支付宝和其他类似的移动支付应用来付钱

5. 奖惩分明

5.1. 与美国复杂的程序和不透明的评级体系相反，东方某神秘大国公开阐述了自己的方针和理念：打击腐败和其他不诚信行为，同时保证经济活动和人际交易的可靠性

5.2. 阿里巴巴的芝麻信用是几个试点项目之一，旨在建成一个全国性的社会信用体系，其内容将不仅仅涵盖金融信息

5.2.1. 芝麻信用已经成为世界上最广泛的个人数据采集系统之一

5.3. 在没有建立成熟的信用评级体系的情况下，东方某神秘大国正在寻求从微信、支付宝等各种应用程序中搜集电子商务、社交媒体及其他线上数据，创建一个征信系统

5.3.1. 尽管早期的试点举措遇到一些抵触情绪，但国家社会信用体系仍然在2018年稳步推进

5.3.2. 地方执法人员可以通过智能眼镜获取个人身份信息，并通过面部识别系统识别公民身份，从而更加准确地实施抓捕

5.3.3. 征信系统的目标不仅限于财务信息，也“可以代表个人的可信度”

5.3.4. 其他规模更小的社会征信项目还收录了其他各种类型的数据

5.4. 尽管西方对这些技术的侵入性表示担忧，但政府利用技术来了解人们的做法并没有引起东方某神秘大国民众的普遍担忧

5.4.1. 在东方某神秘大国，这些智能技术背后的社会契约是不同的

5.4.1.1. 今天的民众对先进技术的力量和潜在收益更加乐观

5.4.1.2. 由于人们普遍认为人工智能带来的种种问题还很遥远，因此在主流媒体或公共话语中很少有关于其潜在负面影响的讨论

5.4.1.3. 在不远的将来，随着全球信息的自由流动，这样的议题很快就会被推到风口浪尖

5.5. 问题

5.5.1. 专家们质疑社会信用体系可能会催生新的社会阶层，评分高的人会对评分低的人避之不及

5.5.2. 公民有没有办法来纠正错误或者对分数提出质疑呢？