人类对于被监视这件事已经习以为常。几百万年来，我们一直被其他动物或其他人观察着、追踪着。家人、朋友和邻居总想知道我们在做什么、想什么，我们也总是很在意他们懂不懂我们、对我们有何看法。不论是谈到社会等级、政治手腕还是浪漫关系，都需要我们不断努力去解读别人的感受与想法，偶尔也得把自己的感受与想法隐藏起来。

人类发展出的中央集权式官僚网络，其最重要的功能之一就是对全民进行监控。秦朝的官员想知道人民有没有缴纳赋税，有没有密谋反抗；天主教会想知道人民有没有缴纳什一税，在家有没有偷偷自慰；可口可乐公司想知道怎样才能说服我们买它的产品；至于统治者、商人或各个宗教的神职人员，也都想知道我们的秘密，以便对我们加以控制、操纵。

当然，各种有利民生的服务同样需要监控机制的配合。帝国、教会或企业想为民众提供保障、支持与民生必需品，没有信息肯定不行。在现代国家，卫生官员想知道民众从哪里取水、到哪里排便；医疗保健官员想知道民众想摆脱哪些疾病、食量有多少；福利部门官员则想知道民众是否失业、有没有受到配偶的虐待。没有这些信息，他们就无法帮助我们。

为了了解我们，不论好的还是坏的官僚机构都需要做两件事：第一，收集大量关于民众的数据；第二，分析所有数据，找出其中的规律模式。所以从古代中国到现代美国，各个帝国、教会、企业与医疗保健体系都会收集并分析几百万人的行为数据。但无论古今中外，监控从来都没有做到滴水不漏。现代美国这样的民主政体，为了保护隐私与个人权利，监控行为有法律限制；而像中国秦朝或现代苏联这样的政体，虽然没有法律的阻碍，却有技术的限制。不管那些专制者有多么残暴，他们都没有足够的科技能够随时随地永远监控所有人。所以就算是在希特勒时期的德国，民众通常也是有一定程度的隐私的。

格奥尔基·约瑟费斯库是罗马尼亚第一批计算机科学家，他还记得，20世纪70年代首次引进计算机的时候，政府对这种陌生的信息技术非常不安。1976年的某一天，约瑟费斯库走进政府的计算机中心上班，却看到有个陌生男人穿着皱巴巴的西装坐在那里。约瑟费斯库向他打招呼，他没回应。约瑟费斯库又自我介绍，他还是嘴巴紧闭。于是约瑟费斯库回到自己的工位上，打开一台大型计算机开始工作。那个陌生人这时拉着椅子靠了过来，就这样观察着约瑟费斯库的一举一动。

一整天，约瑟费斯库多次想跟那个陌生人搭话，问他叫什么名字、为什么在这里、到底想知道些什么，但他始终一言不发，只是睁大眼睛看着一切。等到晚上约瑟费斯库下班时，那人才起身离开，连一声道别也没有。约瑟费斯库很清楚最好别再问下去了，那个男人显然是个特工，隶属于罗马尼亚国家安全局（以下简称国安局）。

约瑟费斯库第二天一早上班，那个特工已经到了。他再次在约瑟费斯库旁边坐了一天，默默地在一个小记事本里做着笔记。这种情况一直持续了13年，直到1989年东欧剧变。与这位特工多年共处一桌，约瑟费斯库甚至连他叫什么都不知道。

约瑟费斯库知道，办公室外面可能还有特工在监视他。因为他掌握着一项强大且可能具有颠覆性的技术，所以他成了重要的监控目标。但事实上，当时的罗马尼亚政府相当偏执，把罗马尼亚2000万公民都当成监控的对象。如果当时做得到，他们应该会持续监控所有人，而且他们还真的朝这个方向迈了几步。1965年，国安局在布加勒斯特只有一个电子监控中心，其他省级城市有11个。但到1978年，光是布加勒斯特就有10个电子监控中心，各省监控中心总数达到248个；另外还有1000个便携式监控装置，用来窃听偏远的度假地点与村庄。

20世纪70年代晚期，国安局特工发现有些罗马尼亚人会写匿名信给自由欧洲电台，批评罗马尼亚政府。于是他们发动了一项全国活动——收集2000万罗马尼亚公民所有人的笔迹。从大学到中小学，所有学生被迫交出写的小论文或作文作业。雇主必须要求所有员工呈交手写履历，转给国安局。

但就像斯大林当政时期的苏联，罗马尼亚政府也不可能真的一天24小时监控所有公民。因为就算是国安局特工也得睡觉，所以如果真想持续监控罗马尼亚2000万公民，大概得有4000万名特工才做得到。而国安局特工人数只有大约4万。就算罗马尼亚政府真有办法召唤出4000万名特工，也只会引出新的问题：难道特工就不需要有人监控吗？解决方案之一是让人民彼此监控。所以除了4万名专业特工，国安局还有40万个民间线人。但不管秘密警察能找来多少线人，这样收到的资料还是不足以创造出一个全面监控的政体。假设国安局成功招到足够的特工与线人，能够每天24小时监控所有人。等到一天结束，每个特工与线人把观察到的情况写成报告，结果就是国安局每天都会收到2000万份报告，相当于每年73亿份，国安局会直接被报告淹没。而且要是没有分析，这些报告也只会是废纸。但国安局能上哪儿找到足够的分析师，每年细细审查比较73亿份报告呢？

正因为收集与分析信息如此困难，就算是20世纪最极权的国家，也无法有效监控全民。在罗马尼亚与苏联，公民的大部分言行仍然能够躲过罗马尼亚国安局与苏联克格勃的注意。就算是某些细节真的被记到了档案里，也常常就是摆设，无人问津。国安局与克格勃真正的力量并不在于能够持续监控所有人，而在于能够激发民众对于“自己可能正被监控”的恐惧，进而对自己的一言一行都格外小心。

如果一切监控只能靠人的眼睛、耳朵与大脑（就像约瑟费斯库上班时旁边坐着的那位特工），那么即使像约瑟费斯库这样的首要监控目标也会保有一点儿隐私，特别是没人能看到他的脑子在想什么。然而，正是约瑟费斯库这些计算机科学家的研究，让事情出现了变化。1976年，约瑟费斯库桌上的那台计算机虽然还很原始，但已经比旁边椅子上坐着的国安局特工更懂得怎么处理数字了。而到2024年，计算机网络已经无所不在，有能力每天24小时监控全国公民，而且不需要雇用和培训数百万的人类特工，只要靠着数字特工就能做到。网络甚至不需要自己负担这些数字特工的成本：公民不但心甘情愿地付钱，走到哪里还都带着它们。

那位监控约瑟费斯库的特工并不会跟着约瑟费斯库进厕所，在约瑟费斯库做爱的时候也不会坐在床边。但我们现在的智能手机却常常能做到这一点。此外，有很多在约瑟费斯库的时代与计算机无关的活动（比如看新闻、和朋友聊天、买东西吃），现在都是在线上完成的，因此网络也更容易知道我们在做些什么、说些什么。我们成了自己的线人，把自己的原始数据提供给了网络。现在就算是不用智能手机，也几乎逃脱不了某些摄像头、麦克风或追踪设备的监控，不管是求职、买票还是看病，甚至只是走在路上，都常常需要和计算机网络互动。目前大多数人类活动都是通过计算机网络来联结的，几乎所有金融、社会或政治交易都离不开计算机。因此，就像伊甸园里的亚当和夏娃，我们也躲不开云端的眼睛。

计算机网络既不需要几百万的人类特工来监控我们，也不需要几百万的人类分析师来找出我们这些数据的意义。国家机构里的那片纸海并不会自我分析，但现在的计算机有了机器学习与人工智能的魔力，已经能够自行分析它们收集来的大部分信息。一般以英语为母语的人每分钟能够阅读大约250个英文单词。所以分析师如果每天轮班12小时，整年不放假，在他40年的职业生涯中，大概可以阅读26亿个英文单词。但在2024年，像ChatGPT与Meta公司的Llama这些语言算法，每分钟就能处理数百万个单词，要“读完”26亿个英文单词也花不了几小时。这些算法处理图像、录音与视频片段的能力同样是人类远远不及的。

更重要的是，这些算法在海量数据里找出规律和模式的能力也远远高于人类。要找出规律和模式需要两种能力：创造准则的能力，以及做出判断的能力。举例来说，人类分析师如何判断某个人是“疑似恐怖分子”，必须格外注意呢？第一，他们会创造一套通用准则，比如“读极端主义的作品”、“与已知的恐怖分子交朋友”，以及“拥有足以制造危险武器的技术知识”。第二，他们需要判断某个人是否符合标准，从而标记为疑似恐怖分子。假设某人上个月在YouTube上看了100部极端主义影片，他有个朋友是已定罪的恐怖分子，目前还在某个存有埃博拉病毒样本的实验室里攻读流行病学博士学位，这个人该不该被列入“疑似恐怖分子”名单？如果他是个生物系大学生，上个月看了50部极端主义影片，这又该怎么判断呢？

在20世纪70年代的罗马尼亚，只有人类能够做出这样的判断。但到21世纪10年代，人类越来越多地把这种事交给算法了。2014—2015年，美国国家安全局启用了一套名为“天网”（Skynet）的人工智能系统，它能够依据民众的通信、写作、旅行与社交媒体发帖形成的电子行为模式，判断某人是否需被列入“疑似恐怖分子”名单。据一份报告称，这套人工智能系统“对巴基斯坦的移动电话网络进行了大规模监控，再通过一套机器学习算法分析5500万人的蜂窝网络元数据，评估每个人是恐怖分子的可能性”。一位曾担任美国中央情报局与国家安全局局长的人士表示：“我们根据元数据杀人。”虽然天网的可靠性一直遭到严厉批评，但到21世纪20年代，这样的科技已经变得更精密了，采用的政府也越来越多。算法分析大量数据之后，就能找出全新的“嫌疑人”判断准则，逮住过去人类分析师可能抓不到的漏网之鱼。在未来，算法甚至可能只要研究已知恐怖分子的生活模式，就能创建出一套全新的模型，用来判断人的偏激程度。当然，计算机仍然可能出错（这一点在第八章还会深入讨论），把无辜的人误判为恐怖分子，或者创造出错误的偏激度模型。在更基本的层面上，这些算法对于像恐怖主义这种事物的定义是否真的客观，也值得商榷。各国政权把所有反对人士都贴上“恐怖分子”的标签，也早就不是一两天的事了。所以，在人工智能把某人标记为“恐怖分子”的时候，有可能反映的只是意识形态上的偏见，而不是客观的事实。创造准则的能力，以及做出判断的能力，都必然与犯错的能力密不可分。就算算法没有犯下任何错误，光是拥有在海量数据里找出规律和模式的超人类能力，就可能极大增强许多恶意行为者的力量，包括帮助独裁者识别异见人士，或是协助诈骗犯找出容易上当的“肥羊”。

当然，这样的模式识别功能也很有可能对社会大大有利。比如，算法或许可以找出贪腐的政府官员、白领罪犯和逃税的公司，还能协助人类卫生官员找出对饮用水的威胁，协助医生发现疾病与迅速发展的疫情，协助警察与社工识别受虐的配偶与儿童。我接下来很少会谈到算法对官僚体系可能带来的助益，毕竟那些领导人工智能革命的企业家已经让大众听到太多美好的预测了。我将把重点放在算法模式识别可能带来的危害上，目标正是要平衡一下那些乌托邦式的愿景。希望我们既能好好发挥算法可能带来的助益，同时也能控制住算法可能造成的危害。

但要做到这一点，我们就得先看清楚新的数字官僚与过去的人类官僚有何不同。非生物的官僚能够一天24小时“在线”，随时随地监控人民、与人民互动。这意味着官僚制度与监控已经不再是我们在特定时间和地点才会遇到的事。不论是医疗保健系统、治安维护还是企业对民众的操控，都正在成为生活中无所不在、永远存在的一部分，而不是只存在于我们与特定机构互动的时刻（比如诊所、警察局、商场）。这些官僚制度会越来越常伴我们左右，不断观察和分析我们的一举一动。就像鱼生活在水里，人类也开始活在数字官僚制度之中，不断吸进呼出各种资料数据。我们的所有活动都会留下一道数据痕迹，这些数据会被数字官僚收集分析以进行模式识别。

不论好坏，数字官僚不但能够监控我们在这个世界上的所作所为，还能观察我们体内所发生的一切。以追踪眼球运动这件事情为例。在21世纪20年代初，许多监控摄像头以及笔记本电脑与智能手机上的摄像头，已经开始固定收集分析人眼运动的数据，包括瞳孔与虹膜在仅仅几毫秒内的微小变化。人类或许没有能力注意到这样的数据，但计算机却能根据瞳孔与虹膜的形状、反射的光线，计算出我们注视的方向。运用类似的方法就能知道某个人的目光究竟是盯着某个稳定的目标，还是跟随着某个移动的目标，抑或只是轻松随意地四处张望。

举例来说，根据眼球运动的模式，计算机能够判断一个人现在是专心还是分心，知道某个人是比较在意细节还是比较看重全局。光是从眼睛，计算机就能推断出人类许多个性特征（比如对新体验的态度有多开放），也能判断一个人从阅读到做外科手术等各个领域的专业水准。如果是该领域的专家，并拥有完善的策略，眼动模式会显得专注而有条理，而新手的眼动模式则会显得漫无目的。眼动模式也能显示我们对眼前对象与情境感兴趣的程度，并判断出这种兴趣是正面、中性还是负面的，由此就能推论我们从政治到性等各个领域的偏好。此外，它也能用来了解我们的身体状况，以及是否使用各种物质。酒精与使用药物（即使用量还不足以让人失去控制）也会对眼睛与注视的状况造成可测量的影响，比如瞳孔大小的改变，注视移动物体的能力变差。这一切信息自然能让数字官僚用来改善民生，比如能够尽早检测出可能有药物滥用与精神问题的患者。只不过以这些功能为基础，显然也很可能催生出史上最具侵入性的极权主义政权。

理论上，未来独裁者还能让他们的计算机网络走得更深，而不局限于观察眼睛。如果这个计算机网络想了解民众的政治观点、人格特质与性取向，只要监控民众的身体与大脑内部的反应就能做到。有些政府与企业正在研发所需的生物特征识别技术，比如马斯克的新创公司Neuralink所做的实验，就是将电探针植入活体大鼠、羊、猪和猴子的大脑。每支探针都有高达3072个电极，除了能够识别电子信号，理论上也能将信号传输到大脑。2023年，Neuralink获得美国当局批准开始进行人体实验。2024年1月，据报道，第一个大脑芯片已植入人体。

马斯克毫不讳言自己对这项技术有着远大的期许，认为这不但能处理像四肢瘫痪这样的疾病，还能提升人类的身体能力，协助人类与人工智能竞争。但应该不难想见，目前不论是Neuralink的探针还是其他类似的生物特征识别设备，都有诸多技术问题，难以真正发挥其功能。想从体外准确地监控大脑、心脏或其他身体活动的难度很高，而要把电极与其他监控设备植入体内又有侵入性，不但危险、昂贵，也算不上高效。比如，人体的免疫系统就会攻击被植入的电极。

更重要的是，人类目前仍然缺乏必要的生物学知识，无法只根据大脑活动这些皮下数据就做出各种推断（例如推论政治观点）。科学家不但距离解开人脑奥秘还差得很远，甚至就连小鼠大脑的奥秘都还没能掌握。目前，光是绘制小鼠大脑里的每个神经元、树突与突触，就已经超出了人类运算能力所能处理的范围，更别提要了解其中的动态关系了。所以，虽然现在从人脑内部收集数据变得越来越可行，但利用这些数据来破解人体的奥秘却绝没有那么简单。

21世纪20年代初期有一种流行的阴谋论，认为有一群像马斯克这样的亿万富豪领导着邪恶的组织，正在将计算机芯片植入民众的大脑，准备监视并控制全人类。然而，这套理论担心的对象错了。我们当然该担心即将崛起的新的极权制度，但现在担心有计算机芯片要植入人脑还为时过早。真正该担心的，是大家用来阅读这些阴谋论的智能手机。假设有人想知道你的政治观点，你的智能手机会知道你看的是哪些新闻频道，也会记录你每天平均看40分钟福克斯新闻台，只看40秒的美国有线电视新闻网。与此同时，假设你植入了Neuralink的计算机芯片，它会全天监控你的心率与大脑活动，知道你的最大心率是每分钟120次，也知道你的杏仁核活跃程度比人类平均水平高出大约5%。这样一来，哪些数据比较能猜出你的政治立场？是那些智能手机的数据还是植入身体的计算机芯片提供的数据？目前，如果真的要作为监控的工具，智能手机显然是比生物特征识别传感器更好的选择。

然而，随着生物学知识的增加（特别是靠着计算机分析了千万亿字节的数据之后），特别是如果再连接上其他监控工具，皮下监控或许最终能充分发挥作用。到那时候，假设生物特征识别传感器能够记录几百万人在智能手机上观看特定新闻时的心率与大脑活动，那么计算机网络能掌握的绝对不再只是我们大致的政治立场，而是能够准确掌握是什么让每个人感到愤怒、恐惧或欢愉。然后，计算机网络将能预测并操纵我们的感受，让我们心甘情愿地接受它想推销的东西——可能是某种产品，可能是某位政客，也可能是某场战争。

在过去那个由人类来监控人类的世界，基本上享有隐私是件天经地义的事。但如果到了一个由计算机来监控人类的世界，人类就有可能在史上首次完全失去隐私。关于侵入式监控，最极端也最广为人知的案例可分成两类：一类是在特殊紧急的情况下；另一类则是处于非正常秩序的地点，比如巴勒斯坦被占领区、印控克什米尔地区、克里米亚、美墨边境、阿富汗与巴基斯坦边境。在这些特殊的时期或地点，新的监控技术结合了严苛的法规与大批警力或军队，无情地持续监控着人民的行为、举止甚至感受。但我们必须知道，人工智能监控系统正迈向大规模应用，成为世界各地日常生活的一部分。“后隐私时代”正逐渐站稳脚跟，不仅是在从白俄罗斯到津巴布韦这样的地方，就连伦敦和纽约这种民主政体的大都会也同样如此。

不论是好是坏，为了打击犯罪、打压异己或对抗内部真实或想象中的威胁，政府都会在全国布满互联或离线的监控网络，安装间谍软件、监控摄像头、人脸与语音辨识软件，以及庞大的可搜寻数据库。只要政府想要，就能让监控网络无孔不入，从市场到宗教场所，从学校到私人住宅。（虽然不是每个政府都想或都能在民众的家里安装摄像头，但就算是在我们的客厅、卧室和浴室，算法也会通过计算机和智能手机固定观察着我们。）

政府监控网络还会在全民知情或不知情的状况下，固定收集全民的各种生物特征数据。比如，公民如果要申请护照，有超过140个国家要求提供指纹、脸部扫描或虹膜扫描。等到我们拿着护照进入某国，该国也常常要求我们提供指纹、脸部扫描或虹膜扫描。市民或游客走在德里、北京、首尔或伦敦的大街上，一举一动都很可能会被记录下来。在这些城市（以及世界上许多其他城市），每平方千米平均有100多个监控摄像头。2023年，全球在用的监控摄像头超过10亿个，平均大约每8个人就会有一个摄像头。

人的任何身体活动都会留下一连串数据的痕迹。每次购物都会被记录在某个数据库里。不论是给朋友发信息、分享照片、支付账单、阅读新闻、预约行程或叫出租车，这些线上活动都会留下记录。这样的海量数据就能用人工智能系统加以分析，识别里面的非法活动、可疑模式、失踪人口、疾病携带者或政治异见人士。

如同各种强大的科技，这些系统可以用来行善，也能用来作恶。在2021年1月6日美国国会山骚乱事件之后，美国联邦调查局与其他美国执法机构就用了最先进的监控系统来追踪逮捕暴乱分子。根据《华盛顿邮报》调查报道，这些机构除了参考国会大厦里的监控摄像头拍摄的视频，还参考了社交媒体上发的帖子、全美各地的车牌辨识系统、手机信号塔位置收集记录，以及各种既有的数据库。

一名俄亥俄州男子在脸书上说自己那天到华盛顿是为了“见证历史”。法院向脸书发出传票，于是脸书向联邦调查局提供了该名男子的脸书帖子，以及他的信用卡信息与电话号码。这有助于联邦调查局把该名男子的驾照照片与国会大厦监控视频做比对。此外，谷歌也接到了搜查令，于是提供了该男子智能手机在1月6日当天的准确地理位置，使得联邦调查局特工能够绘制出他是怎么一步一步先到了参议院的会议厅，又进了时任众议院议长佩洛西的办公室的。

联邦调查局也利用车牌辨识系统，清楚掌握着某位纽约男子是怎样在1月6日6：06：08通过亨利·哈德孙大桥，然后去了国会大厦，最后又在当天晚上23：59：22通过乔治·华盛顿大桥回家的。在95号州际公路监控摄像头拍到的影像中，可以看到该男子前座挡风玻璃下方有一顶超大的帽子，上面写着“让美国再次伟大”，和他在脸书自拍照戴的帽子恰好一样。他后来还在国会大厦里上传了几段视频到Snapchat（阅后即焚），更进一步坐实了自己的犯罪事实。

另一名暴乱分子在1月6日当天则是戴了口罩，没开直播，甚至用的还是他妈妈名下的手机，希望躲过追查，但只是白忙活一场。从2021年1月6日的视频片段中，联邦调查局的算法成功比对到该男子在2017年申请护照时使用的照片。另外，该男子在1月6日穿了一件独特的哥伦布骑士团夹克，而联邦调查局算法发现他在另一个YouTube视频中，曾在另一个场合也穿过一样的夹克。那部注册在他妈妈名下的手机，当天的地理定位曾出现在国会大厦里，车牌识别系统也记录到他的车在1月6日早上曾出现在国会大厦附近。

人脸识别算法与能用人工智能搜寻的数据库，现在已经成为世界各地警方日常使用的标准工具，而且它们不是只用来处理国家紧急事件或安全危机的，还被用于执行日常警务工作。2009年，一个犯罪集团拐走了3岁的桂豪，当时他正在四川省父母开的酒铺外面玩耍。这个男孩后来被卖到大约1500千米外的广东省某个家庭。时间来到2014年，虽然警方成功逮捕了拐卖该儿童的犯罪集团的头目，但没办法确认桂豪和其他受害儿童被卖到了哪里。一名警方调查人员提到：“小孩长得快，几年间容貌变化巨大，即使亲生父母也可能认不出来。”

但在2019年，一套人脸识别算法成功找到了时年13岁的桂豪，也让这一家得以团圆。为了找到桂豪，这套人脸识别算法用了他还在学步时期的一张老照片，模拟他长到13岁时可能的外貌（算法已经考虑到长大可能带来的巨大影响，以及发色发型的改变），再将模拟的结果与实际监控视频做比对。

2023年，甚至还发生了几则更惊人的寻人案例。2001年，年仅3岁的雷岳川被拐走；1998年，陈昊同样在年仅3岁时被拐卖。这两个孩子的父母从未放弃找回孩子的希望，20多年间不断往返中国各地，刊登寻人启事，悬赏相关信息。2023年，人脸识别算法终于协助他们寻得这两位失踪男童，现在两个孩子都已经是二十几岁的成年人了。目前除了中国，印度也开始以这样的技术来帮助寻找该国每年成千上万的失踪儿童。

与此同时，在丹麦，布隆德比足球俱乐部于2019年7月在主场启用人脸识别技术，用来辨识足球流氓，并禁止其入场。在每场可能多达3万名球迷涌入体育场的过程中，观众必须摘下口罩、帽子与眼镜，让计算机扫描他们的面部，从而判断他们是否被列入禁止入场的闹事者黑名单。重要的一点在于，该程序经过审查核准，符合严格的欧盟《通用数据保护条例》（GDPR）。丹麦数据保护局解释说，相较于人工检查，这项科技能够“更有效地执行黑名单，并且缓解球场入口处的排队压力，降低球迷因为排队不耐烦而引发大规模骚乱的风险”。

运用这种技术虽然理论上值得称赞，但显然可能引发在隐私与政府越权方面的忧虑。这些技术虽然可以用来识别暴乱分子、营救失踪儿童和禁止足球流氓，但同样的技术要是落入极权者手中，也能用来迫害和平示威者，或是严格要求所有人遵守同一套僵化的规定。最终，人工智能监控技术就可能创建出全面监控的政体，一天24小时监控公民，并促进新型且无所不在的自动化极权镇压。伊朗的“头巾法”就是个典型的例子。

1979年，伊朗伊斯兰共和国建立后，实行政教合一制度，新上任的政府强制女性必须戴头巾。但伊朗的道德警察发现执行这条法规实在不易，毕竟他们不可能在每个街角都配置一名警力，而且公开对抗不戴头巾的女性也常常引发人民的抵制与不满。2022年，伊朗把执行头巾法的重大责任交给全国性的人脸识别算法系统，持续监控物理空间与网上环境。伊朗高层解释说，这套系统会找出各种不适当、不寻常的行为，其中就包含不遵守头巾法的行为。伊朗伊斯兰议会的司法和法律委员会主席穆萨·加赞法拉巴迪在一次采访中表示：“使用人脸记录摄像头能够系统地执行这项任务，减少警方出面，也就不会再有警民冲突了。”

不久之后，22岁的玛莎·阿米尼因戴头巾的方式不符合标准，被伊朗道德警察逮捕，死于拘留期间。这起案件引发一波抗议浪潮，几十万名女性摘下头巾，有的还公开焚烧头巾，再围着火堆起舞。为了镇压这起抗议运动，伊朗当局再次使用人工智能监控系统，依靠的就是人脸识别软件、地理定位、网络流量分析，以及各种既有的数据库。

2023年4月8日，伊朗警政首长宣布，从2023年4月15日开始，将密集加大使用人脸识别技术的力度，特别是如果算法发现有女性乘车或开车时没戴头巾，会自动发出短信警告。若这些女性被再次发现不戴头巾，车辆将被勒令停驶一段时间，如不遵守，车辆还将被没收。

两个月后，伊朗警方发言人表示，自动监控系统已经发出近百万条短信，警告那些被逮到在私家车里不戴头巾的女性。显然，这套系统能够自动判断它看到的是一位未戴头巾的女性而非男性，能够识别她的身份，还能找出她的手机号码。这套系统还发出了133174条短信要求车辆停驶，没收了2000辆车，并将4000多名“惯犯”移送司法部门。

一位叫马里亚姆的52岁女性曾分享过她被这套系统监控的经历：“我第一次收到开车不戴头巾的警告，正巧开过一个十字路口，摄像头拍到了照片后，我就立刻收到了警告短信。第二次是我买完东西，提着大包小包上车，头巾掉了，我就收到了短信，说因为我违反了强制戴头巾的法律，车子要被‘依规扣押’15天。我不知道这是什么意思，于是到处打听，才从亲戚那里知道这意味着我的车在接下来15天内不能开。”从马里亚姆的表述中可以知道，人工智能在短短几秒内就会送出警告短信，过程中不可能有时间让哪个人类来审查与授权。

相关惩罚还远远不止车辆的停驶或没收。2023年7月26日的一份报告指出，由于这种大规模的监控，无数女性被大学停学或开除，不得参加期末考试，也无法使用银行服务与乘坐公共交通工具。企业如果不要求员工或顾客遵守头巾法，也会受到惩处。比如，在德黑兰东部的“乐土”（Land of Happiness）游乐园，一位女员工被拍到没戴头巾，照片被传上了社交媒体，结果该游乐园直接被伊朗当局勒令停业。据报道，伊朗当局共关闭了几百个旅游景点、饭店、药店与购物中心，只是因为它们没有强制顾客戴头巾。

2023年9月，伊朗伊斯兰议会又通过一项新的更严格的头巾法。根据这项新法，女性如果不戴头巾，将被处以高额罚款，以及最高10年的有期徒刑。其他处罚还包括没收汽车与通信设备、禁止开车、扣除工资与就业福利、解雇、禁止使用银行服务等。企业主如果不要求员工或顾客遵守头巾法，将面临最高达三个月企业利润的罚款，并可能在长达两年的时间里被禁止出境，或不得参加各种公开或线上活动。这项新法适用的对象除了女性，也包括穿着“露出胸部以下或脚踝以上身体部位的暴露服装”的男性。最后，该法要求伊朗警方必须创建并加强人工智能系统，运用固定或移动式摄像头等工具，查明违法行为人。

讲到监控，我们一般想到的就是各种国家机器，但要了解21世纪的监控，就不能忘记监控还可能有许多不同的形式。比如，爱吃醋的配偶也算其中一种，因为他（她）总想知道自己的伴侣每分每秒都在哪里，只要有一点点与日常不同，就需要让对方好好解释一番。现在有了智能手机，再搭配一些不用花多少钱的软件，他们轻轻松松就能建立自己的婚姻独裁：监控每一段对话、每一个动作，记录通话内容，追踪社交媒体发文与网页搜索记录，甚至能够启动配偶的手机摄像头与麦克风，使其成为间谍装置。总部位于美国的终结家庭暴力全国网络发现，超过半数的家暴者都会使用这样的追踪软件技术。这样一来，就算身在纽约，其配偶也仿佛身处极权国家，总是受到监控与限制。

目前也有越来越多的员工（从办公室职员到卡车司机）持续受到雇主的监控。主管能够精确掌握员工在什么时间位于什么地点，上厕所花了多长时间，上班的时候是不是在偷看私人电子邮件，以及完成每项任务用了多长时间。企业也会以同样的方式监控客户，想知道他们的好恶，预测他们未来的行为，以及评估风险与契机。比如，现在的车辆会监控驾驶员的行为，并把数据分享给保险公司的算法，于是保险公司把“坏司机”的保费提高，把“好司机”的保费降低。美国学者肖莎娜·朱伯夫就把这种不断扩大的商业监控体系称为“监视资本主义”。

除了上述自上而下的监控体制，还有一种点对点监控体系，它是由个人不断互相监视。国际旅游评论网站猫途鹰就等于经营着一个全球监控系统，该系统监控着各地的酒店、度假村、餐厅与游客。2019年，使用该网站的旅客人次达到4.63亿，浏览了网站上的8.59亿条评论，以及86亿个住宿、餐厅与旅游景点。该网站判断某家餐厅是否值得光顾，用的不是什么复杂的人工智能算法，而是让顾客自己说。只要去过某家餐厅用餐，顾客就能给那家餐厅1~5分的评分，也能加上照片与文字评论。猫途鹰的算法只是把数据汇总起来，计算某餐厅的平均得分，再与其他同类餐厅进行比较，最后让所有人都能看到结果。

这套算法同时也会对顾客进行评分。只要发表评论或旅游文章，用户就能得到100点积分；上传照片或视频，可获得30点积分；在论坛发帖，可获得20点积分；为商家打分，可获得5点积分；推荐他人的评论，可获得1点积分。接着，所有顾客被分为从第1级（300点）到第6级（10000点）的等级，并有对应的奖励。使用者如果违反系统规则（比如发表种族歧视的评论，或者通过撰写不合理的差评来勒索餐厅），就可能受到惩罚，甚至直接被踢出系统。这就是所谓的点对点监控，是由每个人不断地给其他人评级打分。猫途鹰并不需要自己投资购买摄像头、间谍软件或是研发超复杂的生物特征识别算法。网站上几乎所有的内容与工作都是由数百万顾客自行提交与完成的，而猫途鹰算法唯一要做的就是汇总这些人类的评分再公布出来。

每天，猫途鹰这样的点对点监控体系为数百万人提供了重要信息，让大家更容易规划假期、找到好的酒店与餐厅。但与此同时，这也改变了私人与公共空间的边界。传统上，顾客与服务人员之间的关系是一种相对私人的关系。进入一间小酒馆等于进入了一个半私人空间，并与服务人员建立了半私人的关系。除非有犯罪行为，否则顾客与服务人员之间的往来就是他们自己的事。如果服务人员行为粗鲁，或是讲了什么种族歧视的话，你或许会在现场大吵大闹，或许会告诉亲朋好友以后都别去那间小酒馆了，但除了在场人士或亲友，没有太多人会知道这些事。

点对点监控网络已经抹杀了这种私密感。要是服务人员让某个顾客不满意，餐厅就会得到一个差评，而这个差评可能会影响未来几年成千上万个潜在顾客的决定。不论好坏，权力的天平都是往顾客那一方倾斜的，而服务人员也发现自己比以前更容易被曝光到大众面前。正如作家兼记者琳达·金斯特勒所言：“在猫途鹰之前，顾客只是个有名无实的国王。但在猫途鹰之后，顾客成了名副其实的暴君，拥有左右店家生死的力量。”如今，数百万个出租车司机、理发师、美容师与其他服务业者，都能感受到自己同样失去了隐私。过去坐到出租车里或进入理发店，等于进了一个私人空间。但现在，如果有人坐进你的出租车或进入你的理发店，他们还会随身带着照相机、麦克风、监控网络以及几千名的潜在观众。这正是非政府点对点监控网络的基础。

点对点监控体系一般就是汇总许多点的分数，得出总分。还有一种监控网络更是把这种“评分逻辑”发挥到极致，这就是社会信用体系，其目标是给人们的所有事情都打上分数，而得出的总分也会影响一个人的所有事情。人类上一次想出这种雄心勃勃的点数制度是在5000年前的美索不达米亚，当时刚刚发明货币。对于社会信用体系，我们也可以把它视为一种新型货币制度。

金钱这种点数，就是大家靠着销售某些产品与服务来积分，再用来购买其他产品与服务。某些国家的点数被称为美元，其他国家的点数被称作欧元、日元或人民币。这些点数的形式可能是硬币、纸币，也可以是数字银行账户里的数据位。当然，这些点数就本质而言毫无价值。硬币不能吃，纸币也不能拿来穿，只能作为一种记账用的价值象征，方便社会记录我们每个人手上到底有多少点数。

金钱货币彻底改变了我们的经济关系、社会互动与心理。就像监控一样，金钱也有局限，不是真的无处不在。就算在最崇尚资本主义的社会，也有许多金钱无法渗透的地方，总是有许多事物的价值无法用金钱来衡量。一个微笑值多少钱？去看望祖父母，又该收多少钱？

对于这些金钱买不到的东西，就有另一套非货币的评分机制，它也有各种不同的称呼：荣誉、地位、声誉。而各种社会信用体系所追求的，就是把这个声誉市场的估值加以标准化。社会信用就是一套新的点数系统，就连微笑或是拜访亲人这种事，这套系统都能明确告诉你价值是多少。为了理解这件事是多么惊天动地、影响深远，让我们先来简单谈谈这个“声誉市场”与一直以来的“货币市场”有何不同，好让我们了解要是突然把货币市场的原则延伸到声誉市场，可能会让社会关系发生怎样的变化。

金钱与声誉的一大区别在于，金钱多半是个能够精确计算的数学概念，但声誉很难用数字来评估。举例来说，中世纪贵族有公爵、伯爵、子爵之类的等级，但没有人计算这些代表多少声誉点数。如果在中世纪的市场想买东西，通常就得知道自己的钱包里有多少硬币，以及摊位上每种产品的价格。在货币市场上，每一枚硬币都得数得清清楚楚。相较之下，在中世纪的声誉市场上，骑士并不知道每种行为能带来多少“高尚点”，也不知道自己现在得到的总分是多少。在战场上英勇作战，是会带来10点高尚点还是100点？要是没人目睹或记录，又该怎么办？事实上，就算有人目睹，不同的人在判断价值的时候也没有一个共同的标准。然而，像这样的不精确非但不是这套系统的缺陷，反而是其重要的特色。我们说这个人怎么“那么爱算计”，等于是在说这个人太过狡猾、工于心计；而所谓的行事高尚，本来就该反映自身的内在美德，而不是追求外在回报。

直到现在，依然可以看到货币市场锱铢必较、声誉市场随性而为的状况。在小酒馆里，每道菜都有明确的价格，付得不够别想躲过老板的注意与追讨。但在社会上，有人如果做了好事，要怎么知道有没有人看到呢？如果餐厅与酒店为年长顾客提供帮助，或是对无礼的顾客格外有耐心，但事后却没能得到合理的回报，这要向谁投诉呢？有些时候，它们现在就能向猫途鹰讨个公道。这个网站打破了货币市场与声誉市场之间的界限，让餐厅与酒店原本模糊的声誉高低变成了一套有精确分数的数学系统。社会信用的想法就是把这种监控方式从餐厅和酒店扩展到万事万物。在最极端的社会信用体系里，每个人都会得到一个整体声誉分数，把他们所做的一切都纳入考量，也将决定他们能做的一切。

比如，捡起路上的垃圾可能加10分，扶老人过马路加20分，但打鼓吵到邻居要扣15分。如果你分数足够高，或许就能优先买车票，或是申请大学有加分；如果你分数太低，则可能找不到工作，或者连约会对象也不想跟你更进一步，保险公司可能提高你的保费，法官判刑也可能更加严厉。

有些人可能觉得，这样听起来，社会信用体系奖励亲社会行为、惩罚自私行为，应该就能创造出更友善、更和谐的社会。比如有些政府就表示，社会信用体系有助于打击贪腐、诈骗、逃税、虚假广告、伪劣产品，而让人与人之间、消费者与企业之间、公民与政府机构之间有更多信任。但有些人可能觉得，为各种社会行为都确定一个明确的价值，是有辱人格和不人道的。更糟的是，全面施行社会信用体系将会彻底抹杀隐私，等于让生活变成一场永无止境的求职面试。你在任何时间、任何地点做的任何事，都可能影响你后续能否找到工作、取得贷款、找到结婚对象，甚至是否会被判入狱。你曾经在大学聚会上喝醉后做过一些合法但丢脸的事吗？你曾经参加过政治示威活动吗？你是否有一个信用分数很低的朋友？这一切都可能在短期甚至几十年后的职场面试（或刑事判决）中成为考量的一部分。

当然，人类本来就一直受到声誉市场的控制，被约束着要遵守当时的社会规范。在大多数社会，人类甚至宁可丢钱也不想丢脸。被钱逼到自杀的人数要远远小于被羞耻自责逼上绝路的人数。就算有些人因为被开除或企业破产而决定自杀，真正让他们踏出最后那一步的因素通常也不是经济困难本身，而是社会羞辱。

然而，由于声誉市场的不确定性与主观性，过去很难将这套体系用于极权控制。正因为没有人能判断该如何明确评价每次社交互动，也没有人能够监控所有互动情形，于是这里也就有极大的操作空间。过去如果要参加一场大学聚会，你在聚会上的行为应该只是想吸引在场朋友的注意，并不用担心未来雇主的感受。等到参加工作面试时，你很清楚你那群朋友都不会在场。当你回家看色情影片时，你也大可放心你的老板和朋友都不会知道你在做什么。人的生活一向都会被划分为不同的声誉领域，每个领域都有各自不同的地位竞争。很多时候你只属于自己，根本不需要参与任何地位竞争。正因为地位竞争太重要，带来的压力也非常大。因此不只是人类，就连猿类等其他社会性动物也都很喜欢偶尔放下竞争，得到一些喘息机会。

遗憾的是，社会信用算法加上无处不在的监控技术，就有可能整合一切现有的地位竞争，合并成一场永无止境的比拼。即使已经回到家里，或者想要好好享受一场假期，人们也得万般注意自己的一言一行，就好像是在数百万人面前登台演出一般。这可能会形成一种极度紧张的生活方式，破坏人类的幸福，影响社会的运转。如果数字官僚用这种苛刻的点数制度来时时刻刻监控每个人，目前正在崛起的这种声誉市场就有可能抹杀人类的隐私，并对人类形成远比货币市场更令人窒息的控制。

人类就是一种生物，有一套循环的生物周期：有些时候醒着，有些时候睡着；在剧烈活动后，我们需要休息；我们会成长，也会衰老。而人类形成的网络也一样会受到生物周期的影响：有时候开机运作，有时候关机休息；职场面试总有结束的一刻，警察也不会一天24小时巡逻，官僚也需要休假。就连货币市场也必须尊重这些生物周期：纽约证券交易所只在每周一到周五上午9：30到下午4：00开市，独立纪念日和元旦这些假日都休市。假设某个周五的下午4：01爆发战争，股市得等到下周一早上才会做出反应。

相较之下，计算机形成的网络就能永远开机运行。因此，计算机正逼着人类走向一种新的生活方式：永远连线，永远受到监控。在某些情况下（比如医疗保健），这或许是件好事；但在其他情况下（比如极权国家的公民），这或许就是一场灾难。而且，就算网络本身是良性的，光是它永远“开机”，就可能对人类这种生物实体不利，因为这等于剥夺了人类断开连接、好好放松的机会。要是生物永远没有休息的机会，最后必然是崩溃而亡。但我们又怎么可能让永不停歇的网络走慢一点，好让我们休息一下呢？

我们必须避免让计算机网络完全控制社会，这不但是为了让我们有点儿休息的时间，更是为了有机会修正网络里累积的错误。如果网络只是不断演化、不断加速，里面的错误就会越积越多，快到我们来不及找出并修正那些错误。因为网络的特性除了永不停歇、无所不在，还很容易出错。没错，计算机能够收集前所未有的大量人类数据，一天24小时观察我们的行为；计算机也能用超人类的效率，在海量数据中找出各种规律与模式，但这并不代表计算机网络对世界的理解就永远正确。信息并不等于真理与真相，一套全面监控的系统对世界与人类的理解可能极为扭曲。计算机网络有可能并不会找出关于世界与人类的真理与真相，反而是利用它庞大的力量，创造出一套新的世界秩序，并逼迫人类接受。

1、Paul Kenyon, Children of the Night: The Strange and Epic Story of Modern Romania(London: Apollo, 2021), 353–54.

2、Ibid，356.

3、Ibid，373-74.

4、Ibid，357.

5、Ibid.

6、Deletant, “Securitate Legacy in Romania,” 198.

7、Marc Brysbaert, “How Many Words Do We Read per Minute? A Review and Meta-analysis of Reading Rate,”Journal of Memory and Language 109 (Dec. 2019), article 104047, doi.org/10.1016/j.jml.2019.104047.

8、Alex Hughes, “ChatGPT: Everything You Need to Know About OpenAI’s GPT-4Tool,”BBC Science Focus, Sept. 26, 2023, www.sciencefocus.com/future-technology/gpt-3; Stephen McAleese, “Retrospective on ‘GPT-4Predictions’ After the Release of GPT-4,”LessWrong,March 18, 2023, www.lesswrong.com/posts/iQx2eeHKLwgBYdWPZ/retrospective-on gpt-4-predictions-after-the-release-of-gpt; Jonathan Vanian and Kif Leswing, “ChatGPT and Generative AI Are Booming, but the Costs Can Be Extraordinary,” CNBC, March 13, 2023,www.cnbc.com/2023/03/13/chatgpt-and-generative-ai-are-booming-but-at-a-very-expensive price.html.

9、Christian Grothoff and Jens Purup, “The NSA’s SKYNET Program May Be Killing Thousands of Innocent People,”Ars Technica , Feb. 16, 2016, arstechnica.co.uk/security/2016/02/the-nsas-skynet-program-may-be-killing-thousands-of-innocent-people/.

10、Jennifer Gibson, “Death by Data: Drones, Kill Lists, and Algorithms,” in Remote Warfare:Interdisciplinary Perspectives, ed. Alasdair McKay, Abigail Watson, and Megan Karlshøj Pedersen (Bristol: E-International Relations, 2021), www.e-ir.info/publication/remote warfare-interdisciplinary-perspectives/; Vasja Badalič, “The Metadata-Driven Killing Apparatus: Big Data Analytics, the Target Selection Process, and the Threat to International Humanitarian Law,”Critical Military Studies 9, no. 4 (2023): 1–21, doi.org/10.1080/23337486.2023.2170539.

11、Catherine E. Richards et al., “Rewards, Risks, and Responsible Deployment of Artificial Intelligence in Water Systems,”Nature Water 1 (2023): 422–32, doi.org/10.1038/s44221-023-00069-6.

12、John S. Brownstein et al., “Advances in Artificial Intelligence for Infectious-Disease Surveillance,”New England Journal of Medicine 388, no. 17 (2023): 1597–607, doi.org/10.1056/NEJMra2119215; Vignesh A. Arasu et al., “Comparison of Mammography AI Algorithms with a Clinical Risk Model for 5-Year Breast Cancer Risk Prediction:An Observational Study,”Radiology 307, no. 5 (2023), article 222733, doi.org/10.1148/radiol.222733; Alexander V. Eriksen, Sören Möller, and Jesper Ryg, “Use of GPT-4to Diagnose Complex Clinical Cases,”NEJM AI 1, no. 1 (2023), doi.org/10.1056/AIp2300031.

13、Ashley Belanger, “AI Tool Used to Spot Child Abuse Allegedly Targets Parents with Disabilities,”Ars Technica, Feb. 1, 2023, arstechnica.com/tech-policy/2023/01/doj-probes-ai tool-thats-allegedly-biased-against-families-with-disabilities/.

14、Yegor Tkachenko and Kamel Jedidi, “A Megastudy on the Predictability of Personal Information from Facial Images: Disentangling Demographic and Non-demographic Signals,”Scientific Reports 13 (2023), article 21073, doi.org/10.1038/s41598-023-42054-9;Jacob Leon Kröger, Otto Hans-Martin Lutz, and Florian Müller, “What Does Your Gaze Reveal About You? On the Privacy Implications of Eye Tracking,” in Privacy and Identity Management. Data for Better Living: AI and Privacy, ed. Michael Friedewald et al. (Cham:Springer International, 2020), 226–41, doi.org/10.1007/978-3-030-42504-3_15; N. Arun, P.Maheswaravenkatesh, and T. Jayasankar, “Facial Micro Emotion Detection and Classification Using Swarm Intelligence Based Modified Convolutional Network,”Expert Systems with Applications 233 (2023), article 120947, doi.org/10.1016/j.eswa.2023.120947; Vasileios Skaramagkas et al., “Review of Eye Tracking Metrics Involved in Emotional and Cognitive Processes,”IEEE Reviews in Biomedical Engineering 16 (2023): 260–77, doi.org/10.1109/RBME.2021.3066072.

15、Isaacson, Elon Musk, chap. 65, “Neuralink, 2017–2020,” and chap. 89, “Miracles: Neuralink,November 2021”; Rachel Levy, “Musk’s Neuralink Faces Federal Probe, Employee Backlash over Animal Tests,” Reuters, Dec. 6, 2023, www.reuters.com/technology/musks neuralink-faces-federal-probe-employee-backlash-over-animal-tests-2022-12-05/; Elon Musk and Neuralink, “An Integrated Brain-Machine Interface Platform with Thousands of Channels,”Journal of Medical Research 21, no. 10 (2019), doi.org/10.2196/16194; Emily Waltz, “Neuralink Barrels into Human Tests Despite Fraud Claims,”IEEE Spectrum,Dec. 6, 2023, spectrum.ieee.org/neuralink-human-trials; Aswin Chari et al., “Brain-Machine Interfaces: The Role of the Neurosurgeon,”World Neurosurgery 146 (Feb. 2021): 140–47,doi.org/10.1016/j.wneu.2020.11.028; Kenny Torrella, “Neuralink Shows What Happens When You Bring ‘Move Fast and Break Things’ to Animal Research,”Vox, Dec. 11, 2023,www.vox.com/future-perfect/2022/12/11/23500157/neuralink-animal-testing-elon-musk usda-probe.

16、Jerry Tang et al., “Semantic Reconstruction of Continuous Language from Non invasive Brain Recordings,”Nature Neuroscience 26 (2023): 858–66, doi.org/10.1038/s41593-023-01304-9.

17、Anne Manning, “Human Brain Seems Impossible to Map. What If We Started with Mice?,”Harvard Gazette, Sept. 26, 2023, news.harvard.edu/gazette/story/2023/09/human-brain too-big-to-map-so-theyre-starting-with-mice/; Michał Januszewski, “Google Research Embarks on Effort to Map a Mouse Brain,” Google Research, Sept. 26, 2023, blog.research.google/2023/09/google-research-embarks-on-effort-to.html?utm_source=substack&utm_medium=email; Tim Blakely and Michał Januszewski, “A Browsable Petascale Reconstruction of the Human Cortex,” Google Research, June 1, 2021, blog.research.google/2021/06/a-browsable-petascale-reconstruction-of.html.

18、随着科技的发展，这一点也可能改变。比如俄亥俄州立大学在2022年6月2日发表的研究报告就表示，可以用脑部扫描来准确预测受试者在政治上是保守派还是自由派。参见：Eun Yang et al., “Functional Connectivity Signatures of Political Ideology,”PNAS Nexus 1, no. 3 (July 2022): 1–11, doi.org/10.1093/pnasnexus/pgac066. See also: Petter Törnberg, “ChatGPT-4Outperforms Experts and Crowd Workers in Annotating Political Twitter Messages with Zero-Shot Learning,” arXiv, doi.org/10.48550/arXiv.2304.06588;Michal Kosinski, “Facial Recognition Technology Can Expose Political Orientation from Naturalistic Facial Images,”Scientific Reports 11 (2021), article 100, doi.org/10.1038/s41598-020-79310-1; Tang et al., “Semantic Reconstruction of Continuous Language.”

19、目前，算法已经能在不依靠生物特征识别监控的情况下判断并预测人类的情绪，例如参见：Sam Machkovech, “Report: Facebook Helped Advertisers Target Teens Who Feel‘Worthless,’”Ars Technica, May 1, 2017, arstechnica.com/information-technology/2017/05/facebook-helped-advertisers-target-teens-who-feel-worthless/; Alexander Spangher, “How Does This Article Make You Feel?” Open NYT, Medium, Nov. 1, 2018, open.nytimes.com/how-does-this-article-make-you-feel-4684e5e9c47.

20、Tal Shef, “Re’ayon im Sasi Elya, rosh ma’arach ha-cyber bashabak”（采访以色列国家安全局负责人萨西·叶利娅），Yediot Ahronot, Nov. 27, 2020, www.yediot.co.il/articles/0,7340,L-5851340,00.html; PTI, “AI-based facial recognition system inaugurated in J-K’s Kishtwar”, The Print, December 9, 2023, https://theprint.in/india/ai-based-facial-recognition system-inaugurated-in-j-ks-kishtwar/1879576/; Council of Europe, “Human rights situation in the Autonomous Republic of Crimea and the City of Sevastopol, Ukraine”, 31 August 2023, 10–18, https://rm.coe.int/CoERMPublicCommonSearchServices/DisplayDC TMContent?documentId=0900001680ac6e10; Melissa Villa-Nicholas, Data Borders: How Silicon Valley is Building an Industry around Immigrants (Oakland: University of California Press, 2023); Petra Molnar, The Walls Have Eyes: Surviving Migration in the Age of Artificial Intelligence (New York: The New Press, 2024); Asfandyar Mir and Dylan Moore, “Drones,Surveillance, and Violence: Theory and Evidence from a US Drone Program”, International Studies Quarterly 63, no. 4 (2019): 846–862; Patrick Keenan, “Drones and Civilians:Emerging Evidence of the Terrorizing Effects of the U.S. Drone Programs”, Santa Clara Journal of International Law 20, no. 1 (2021): 1–47; Trevor McCrisken, “Eyes and Ear in the Sky–Drones and Mass surveillance”, in In the Name of Security–Secrecy, Surveillance and Journalism, eds. Johan Lidberg and Denis Muller (London: Anthem Press, 2018), 139–158.

21、Giorgio Agamben, State of Exception, trans. Kevin Attell (Chicago: University of Chicago Press, 2005).

22、L. Shchyrakova and Y. Merkis, “Fear and loathing in Belarus”, Index on Censorship 50(2021): 24-26, https://doi.org/10.1177/03064220211012282; Anastasiya Astapova, “In Search for Truth: Surveillance Rumors and Vernacular Panopticon in Belarus”, Journal of American Folklore 130, no. 517 (2017): 276-304; R. Hervouet, “A Political Ethnography of Rural Communities under an Authoritarian Regime: The Case of Belarus”, Bulletin of Sociological Methodology/Bulletin de Méthodologie Sociologique 141, no. 1 (2019): 85-112,https://doi.org/10.1177/0759106318812790; Allen Munoriyarwa, “When Watchdogs Fight Back: Resisting State Surveillance in Everyday Investigative Reporting Practices among Zimbabwean Journalists”, Journal of Eastern African Studies 15, no. 3 (2021): 421-441;Allen Munoriyarwa, “The Militarization of Digital Surveillance in Post-Coup Zimbabwe:‘Just Don’t Tell Them What We Do’”, Security Dialogue 53, no. 5 (2022): 456-474.

23、International Civil Aviation Organization, “ePassport Basics”, https://www.icao.int/Security/FAL/PKD/Pages/ePassport-Basics.aspx

24、Paul Bischoff, “Facial Recognition Technology (FRT): Which Countries Use It?”Comparitech, January 24, 2022, https://www.comparitech.com/blog/vpn-privacy/facial recognition-statistics/

25、Bischoff, “Facial Recognition Technology (FRT): Which Countries Use It?” Comparitech;“Surveillance Cities: Who Has The Most CCTV Cameras In The World?”, Surfshark,https://surfshark.com/surveillance-cities; Liza Lin and Newley Purnell, “A World With a Billion Cameras Watching You Is Just Around the Corner”, The Wall Street Journal,December 6, 2019, https://www.wsj.com/articles/a-billion-surveillance-cameras-forecast-to be-watching-within-two-years-11575565402

26、Drew Harwell and Craig Timberg, “How America’s Surveillance Networks Helped the FBI Catch the Capitol Mob”, The Washington Post, April 2, 2021, https://www.washingtonpost.com/technology/2021/04/02/capitol-siege-arrests-technology-fbi-privacy/; “Retired NYPD Officer Thomas Webster, Republican Committeeman Philip Grillo Arrested For Alleged Roles In Capitol Riot”, CBS News, February 23, 2021, https://www.cbsnews.com/newyork/news/retired-nypd-officer-thomas-webster-queens-republican-group-leader-philip-grillo-arrested for-alleged-roles-in-capitol-riot/.

27、Zh ang Yan g, “Police Using AI to Trace Long-Missing Children”, C hina Daily, June 4, 2019, http://www.chinadaily.com.cn/a/201906/04/WS5cf5c8a8a310519 142700e2f.html; Zhongkai Zhang, “AI Reunites Families! Four Children Missing for 10 Years Found at Once”, Xinhua Daily Telegraph, June 14, 2019, http://www.xinhuanet.com/politics/2019-06/14/c_1124620736.htm; Chang Qu, “Hunan Man Reunites with Son Abducted 22 Years Ago”, QQ, June 25, 2023, https://new.qq.com/rain/a/20230625A005UX00; Phoebe Zhang, “AI Reunites Son with Family but Raises Questions in China about Ethics, Privacy”, South China Morning Post, December 10, 2023, https://www.scmp.com/news/china/article/3244377/ai-reunites-son-family-raises-questions-china about-ethics-privacy; Ding Rui, “In Hebei, AI Tech Reunites Abducted Son With Family After 25 Years”, Sixth Tone, December 4, 2023, https://www.sixthtone.com/news/1014206;Ding-Chau Wang et al., ‘Development of a Face Prediction System for Missing Children in a Smart City Safety Network’, Electronics 11, no. 9 (2022): Article 1440, https://doi.org/10.3390/electronics11091440; M.R. Sowmya et al., “AI-Assisted Search for Missing Children”, 2022 IEEE 2nd Mysore Sub Section International Conference (Mysuru:IEEE, 2022), 1–6.

28、Jesper Lund, “Danish DPA Approves Automated Facial Recognition”, EDRI, June 19, 2019,https://edri.org/danish-dpaapproves-automated-facial-recognition; Sidsel Overgaard,“A Soccer Team in Denmark is Using Facial Recognition to Stop Unruly Fans”, NPR,October 21, 2019, https://www.npr.org/2019/10/21/770280447/a-soccer-team-in-denmark is-using-facial-recognition-to-stop-unruly-fans; Yan Luo and Rui Guo, ‘Facial Recognition in China: Current Status, Comparative Approach and the Road Ahead’, Journal of Law and Social Change 25, no. 2 (2021): 153-179.

29、Rachel George, “The AI Assault on Women: What Iran’s Tech Enabled Morality Laws Indicate for Women’s Rights Movements”, Council on Foreign Relations online,December 7, 2023, https://www.cfr.org/blog/ai-assault-women-what-irans-tech-enabled morality-laws-indicate-womens-rights-movements.

30、Johnson, “Iran Says Face Recognition Will ID Women Breaking Hijab Laws”, Wired.

31、Farnaz Fassihi, “An Innocent and Ordinary Young Woman”, The New York Times,September 16, 2022, https://www.nytimes.com/2023/09/16/world/middleeast/mahsa-amini iran-protests-hijab-profile.html; Weronika Strzyzynska, “Iranian Woman Dies ‘After Being Beaten by Morality Police’ over Hijab Law”, The Guardian, September 16, 2022, https://www.theguardian.com/global-development/2022/sep/16/iranian-woman-dies-after-being beaten-by-morality-police-over-hijab-law.

32、“Iran: Doubling Down on Punishments Against Women and Girls Defying Discriminatory Veiling Laws”, Amnesty International.

33、“Iran: Doubling Down on Punishments Against Women and Girls Defying Discriminatory Veiling Laws”, Amnesty International.

34、“Iran: Doubling Down on Punishments Against Women and Girls Defying Discriminatory Veiling Laws”, Amnesty International.

35、“Iran: International Community Must Stand with Women and girls Suffering Intensifying Oppression”, Amnesty International, 26 July 2023, https://www.amnesty.org/en/latest/news/2023/07/iran-international-community-must-stand-with-women-and-girls-suffering intensifying-oppression/; “Iran: Doubling Down on Punishments Against Women and Girls Defying Discriminatory Veiling Laws”, Amnesty International.

36、Johnson, “Iran Says Face Recognition Will ID Women Breaking Hijab Laws”, Wired.

37、“Iran: Doubling Down on Punishments Against Women and Girls Defying Discriminatory Veiling Laws”, Amnesty International.

38、“Iran: Doubling Down on Punishments Against Women and Girls Defying Discriminatory Veiling Laws”, Amnesty International; Shadi Sadr, “Iran’s Hijab and Chastity Bill Underscores the Need to Codify Gender Apartheid”, Just Security, April 11, 2024, https://www.justsecurity.org/94504/iran-hijab-bill-gender-apartheid/; Tara Subramaniam, Adam Pourahmadi and Mostafa Salem, “Iranian Women Face 10 Years in Jail for Inappropriate Dress after ‘Hijab Bill’ Approved”, CNN, September 21, 2023, https://edition.cnn.com/2023/09/21/middleeast/iran-hijab-law-parliament-jail-intl-hnk/index.html; “Iran’s Parliament Passes a Stricter Headscarf Law Days after Protest Anniversary”, AP News,September 21, 2023, https://apnews.com/article/iran-hijab-women-politics-protests-6e07fae9 90369a58cb162eb6c5a7ab2a?utm_source=copy&utm_medium=share.

39、Christopher Parsons et al., “The Predator in Your Pocket: A Multidisciplinary Assessment of the Stalkerware Application Industry,” Citizen Lab, Research report 119, June 2019,citizenlab.ca/docs/stalkerware-holistic.pdf; Lorenzo Franceschi-Bicchierai and Joseph Cox,“Inside the ‘Stalkerware’ Surveillance Market, Where Ordinary People Tap Each Other’s Phones,”Vice , April 18, 2017, www.vice.com/en/article/53vm7n/inside-stalkerware surveillance-market-flexispy-retina-x.

40、Mejias and Couldry, Data Grab, 90–94.

41、Ibid., 156–58.

42、Zuboff, Age of Surveillance Capitalism.

43、Rafael Bravo, Sara Catalán, and José M. Pina, “Gamification in Tourism and Hospitality Review Platforms: How to R.A.M.P. Up Users’ Motivation to Create Content,”International Journal of Hospitality Management 99 (2021), article 103064, doi.org/10.1016/j.ijhm.2021.103064; Davide Proserpio and Giorgos Zervas, “Study: Replying to Customer Reviews Results in Better Ratings,”Harvard Business Review , Feb. 14, 2018, hbr.org/2018/02/study-replying-to-customer-reviews-results-in-better-ratings.

44、Linda Kinstler, “How Tripadvisor Changed Travel,”Guardian , Aug. 17, 2018, www.theguardian.com/news/2018/aug/17/how-tripadvisor-changed-travel.

45、Alex J. Wood and Vili Lehdonvirta, “Platforms Disrupting Reputation: Precarity and Recognition Struggles in the Remote Gig Economy,”Sociology 57, no. 5 (2023): 999–1016,doi.org/10.1177/00380385221126804.

46、Michael J. Sandel, What Money Can’t Buy: The Moral Limits of Markets (London: Penguin Books, 2013).

47、关于中世纪的“声誉市场”，参见：Maurice Hugh Keen, Chivalry (London: Folio Society,2010), and Georges Duby, William Marshal: The Flower of Chivalry (New York: Pantheon Books, 1985).

48、Will Storr, The Status Game: On Human Life and How to Play It (London: Harper Collins, 2021); Jason Manning, Suicide: The Social Causes of Self-Destruction(Charlottesville: University of Virginia Press, 2020).

49、Frans B. M. de Waal, Chimpanzee Politics: Power and Sex Among Apes (Baltimore: Johns Hopkins University Press, 1998); Frans B. M. de Waal, Our Inner Ape: A Leading Primatologist Explains Why We Are Who We Are (New York: Riverhead Books, 2006); Sapolsky, Behave;Victoria Wobber et al., “Differential Changes in Steroid Hormones Before Competition in Bonobos and Chimpanzees,”Proceedings of the National Academy of Sciences 107, no. 28(2010): 12457–62, doi.org/10.1073/pnas.1007411107; Sonia A. Cavigelli and Michael J.Caruso, “Sex, Social Status, and Physiological Stress in Primates: The Importance of Social and Glucocorticoid Dynamics,”Philosophical Transactions of the Royal Society B: Biological Sciences 370, no. 1669 (2015): 1–13, doi.org/10.1098/rstb.2014.0103.