终究无处可逃，新疆--数位极权的实验场
"以 AI 分辨种族面谱、针对维吾尔人执行监控"是否只是天马行空？由于维吾尔人与汉人的脸孔特徵十分不同，AI辨识技术难度并没有想像中高。中国当局所企图构筑的，是一个什麽样的社会控制图像？是怎麽样的一个美丽新世界？ 图／美联社
2009 年 7 月，中华人民共和国成立以来新疆最严重的族群衝突事件——"七五事件"爆发，事件爆发一週后，乌鲁木齐仍实施宵禁，南疆处于半紧急状态，公路上每个进城的路口都安了哨口和满满的武装警察，我自中巴边境的塔什库尔干县下山，预备进入喀什市区，辗转休息后前往墨玉县。
短短的通关过程，我注意到检查台旁却有人没像我这般好运，是个 20 出头的年轻男人，戴著眼镜：
"……我是新疆大学的学生，学校放暑假才会来这裡的，放假了去塔县转转，为什么不能让我进城？"
他又指了指已摆在桌上的学生证辩解，正和盘检哨口的武警争得面红耳赤。
不知道他缺了什么文件，显然武警不轻易放人，我过了关，他仍是卡在那儿，晒著热辣辣的艳阳，任凭斗大的汗珠落下，屡屡将随之滑落的眼镜给推回鼻樑，狼狈至极地解释，继续那无尽地盘问、纪录、检验、上报的监控程序。我轻易过了关，只因为在容貌上我被定义为汉人；他无法轻易过关，因为他是维吾尔人。
"……我是新疆大学的学生，学校放暑假才会来这裡的，放假了去塔县转转，为什么不能让我进城？"图为一名中国武警坐在乌鲁木齐市二道桥一带的卡车上。 图／路透社
时序移至 2016 年冬日，我再访了乌鲁木齐的天山区，当年七五事件的爆发地。武警撤哨了，解放南路上的街容看上去与其他省份城市越来越为相像；大路旁，好几个街廓正在进行拆迁——那些当年汉人们叮嘱千万不要靠近的"维吾尔区的暗巷"。大路岔口重複播放著高颂社会主义价值观的政令歌曲，只有和平南路底，接近二道桥清真寺的拐角，镇著一辆武警武装车、几顶军帐、几只武警。似乎，社会控制的施行手段正发生著看不见的演进。
时间再移至 2020 年末，日前《华盛顿邮报》报导，华为和脸部辨识新创公司旷视（Megvii）曾于 2018 年合作测试一组人工智慧监控系统，以在人群影像中，自动识别出每一个个体的年纪、性别与种族，并配有针对性的"维族告警"（Uyghur alarm）：一旦该系统自人群中甄别出突厥裔群体的脸孔，将通知有关监控单位。为此，法国足球球星格里兹曼（Antoine Griezmann）在国际人权日，发表声明谴责并中止与华为的合作，引起轩然大波。
同样出自于与全球影像监控技术研究机构 IPVM 的合作报导，《纽约时报》指出科技巨头阿里巴巴在旗下产品"阿里云"的指南网站中，指导用户使用其产品内建的维吾尔人脸部辨识工具，用以检测图像与影片。
政府是如何盘检、抓捕维吾尔族人的？近期媒体、非政府组织所发佈的讯息，或可协助我们理解新疆社会控制的新一轮趋势，甚或，我们正目睹著一个科技极权治理模式的诞生？
2009 年 7 月位于喀什市区艾提尕尔清真寺前驻守的武警队伍。 图／作者摄影提供
2009 年 7 月，贴遍新疆各公共场所的政府公告，鼓励民众举报"暴力犯罪份子"。 图／作者摄影提供
▌"维族告警"辨识系统是什么？
IPVM 的报告指出，华为与旷视合作出品的摄录监控系统，以及阿里巴巴的云计算产品，均针对维族脸部影像进行研发测试，但目前尚无法获知这类技术被实际应用的广泛程度。
然而，华为、旷视及阿里巴巴等公司均不否认维族脸部系统测试项目的存在。华为发言人 Gleen Schloss 仅表示："这只是一个未实际应用的简单测试。"且保证"华为并不会为客户提供客製化的演算法或应用程式"。
事实上，2019 年初即有相关人士，向《纽约时报》揭露中国政府正在进行类似的计画，该报导称多笔其他省份的政府採购案，正在找寻"可以识别出维吾尔人"的解决方案，且，该报导称，由于维吾尔人与汉人的脸孔特徵十分不同，该计画的技术难度并没有想像中高。
由于维吾尔人与汉人的脸孔特徵十分不同，AI辨识技术难度并没有想像中高。 图／路透社
"以 AI 分辨种族面谱、针对维吾尔人执行监控"是否只是天马行空？
《华盛顿邮报》向麻省理工学院的人工智慧实验室询问，研究人员 Jonathan Frankle 证实，儘管目前美国并未应用具有族群身份侦测功能的软体，且该判定技术深受光线、角度、个体差异的影响，但具特定演算法的 AI ，确实可以甄别出特定脸部特徵与个体种族身份之间的关联性，且其敏锐度可以透过大量的脸部影像来进行训练、累积、改善。而这类技术将致使"自动化族群歧视"（automating ethnic discrimination）成为可能。
然而，这类系统的开发需要大量资本投注，以维繫 AI 精进演算法所需的大量运算需求，还需要大量的人脸资讯以提高精准度。Frankle 语重心长地表示：
"人们不会希望因为毫无目的地开发这种功能而陷入（财务）困境，人们烧钱投资不可能只是为了取乐。如果他们做了（开发该技术），一定是心裡有非常明确的企图。"
这类系统的开发需要大量资本投注，以维繫 AI 精进演算法所需的大量运算需求，还需要大量的人脸资讯以提高精准度。 图／路透社
或许政府当局的野心，对于生活在新疆的人们而言，可说是毫不意外。更甚于 2009 年的满城安检哨点，类似概念的举措早已贯彻在新疆的日常之中，例如系统性地採集部分维吾尔人的基因资讯，每个小区、巴札、百货商场无所不在的查证与"刷脸"，早已建立起类似的"结界"。
此外自治区政府也早已于硬体层面积极佈局。
据《纽约时报》报导，隶属自治区政府的乌鲁木齐云计算中心自 2016 年起投入营运，成立目的在于"在云计算、大数据、深度学习等技术的帮助下，智能视频分析引擎可以整合视频录像、Wi-Fi 热点、检查站信息、人脸识别分析等警方数据和应用，支持各部门行动。"
该中心的服务供应商中科曙光如此宣传，以将工作思维"从事后追踪升级为事前预测性警务，提高维护社会稳定的能力"。中科曙光具有解放军资金背景，也是中国军用设备重要供应商。目前该中心已跻身全球最快计算机榜单前两百位之内。
自动化地辨识出政府所欲监管的人士，以维护所谓的"社会稳定"，这类技术也越来越受商用市场、极权国家欢迎，也是中国政府口中，中国技术对于全球安全所做出的"重大贡献"。
自动化地辨识出政府所欲监管的人士，以维护所谓的"社会稳定"。 图／路透社
▌"阿克苏名单"披露的监控内情
与"维族告警"新闻释出同日，国际组织"人权观察"（Human Rights Watch）发表了以〈新疆穆斯林成为大数据计划目标〉为题的长篇分析报告，指出该组织取得一份自新疆阿克苏地区流出的被拘留人士资料，继去年首发的研究报告及年初的"墨玉名单"后，再次证实中国政府使用名为"一体化联合作战平台"（Integrated Joint Operations Platform, IJOP）的大数据计画，以监控、标示（flag）、筛选并进而拘禁突厥裔人士。
该报告指出，中国政府部门使用"一体化平台"，整合各类监控系统所搜集来的资讯，诸如医疗资讯、通联纪录、居住迁移史、工作史、车辆纪录、亲友往来纪录等等，而后进行初步的资讯比对，依据官方设定的标准、筛选出可疑人物清单，让有关单位执行后续判处。这次流出名单的两千多位阿克苏居民即是于 2018 年期间被该平台筛选出，评估后被收入所谓的"职业培训机构"。
除外界所知的大批常见理由外，本次名单中，个体被该平台标示为可疑人物的理由还包括："没有固定居住地址"、"一再更换手机"、"使用不是自己名字登记的手机门号或身分证"、"属于 80 后、90 后不放心人员"、"平时行为可疑、社会关係複杂，或者思想不稳定，或（性）关係不正常者"等等。
近似于年初的"墨玉名单"，"阿克苏名单"呈现了新疆警务体系的日常监控过程：将资讯整合过滤，决定是否拘禁个体，以及日后的拘留期程是否延长；在这两个决策过程中，"一体化联合作战平台"皆扮演提供必要决策资讯的角色。
2018年12月3日，人们在新疆的阿图什市职业技能教育培训服务中心。 图／路透社
相对于过往的社会控制过程，高度仰赖大量警务基础建设投注、安插多面向的举报管道一类的预防措施，"维族告警"与"一体化作战平台"等政府治理意志的数位实践均让我们再次确认，自治区当局的治理思维已由"事发防范"，升级成为种族针对性的"事前预警"，针对被设定为"具有潜在威胁"的特定族群，施以自动化的数位监控、筛选。
"人民反恐战争"的最前沿，不再是武警或路障，而是脸孔辨识演算法和大数据平台；安检人员自然不再需要听取任何的辩解，查证刷脸后一切交给"大数据"决定。
且已有越来越多学术研究指出，中国的数据产业发展和政府的治理意图紧密相关，两者合作的背后涉及了大量国家资本投注、数据共享，彼此相互增强——在合作实务中增强产业技术、增强社会控制。
中国当局所企图构筑的，是一个什么样的社会控制图像？是怎么样的一个美丽新世界？我们该如何理解这一系列发生在新疆的改变？
"人民反恐战争"的最前沿，不再是武警或路障，而是脸孔辨识演算法和大数据平台；安检人员自然不再需要听取任何的辩解，查证刷脸后一切交给"大数据"决定。 图／法新社
▌数位围场与恐怖资本主义
在这个议题上，目前走得最远的是人类学家 Darren Byler。
基于 2011 年起在首府乌鲁木齐与南疆的田野工作，以及近三年与大量拘留营当事者所做的访谈，他提出了"数位围场"（Digital Enclosure）与"恐怖资本主义"（Terror capitalism）等两个概念，来理解眼下新疆的景况。
上週，Byler 在期刊《Society & Space》的论坛集中，提出〈突厥裔穆斯林的数位围场〉（The Digital Enclosure of Turkic Muslims）一文，简要的解析他对于当前政府数位化监控的见解。
他认为当前政府以警务设施、拘留营体系，乃至于各样的"就业安置"、"劳务转移"，佐以影像监控、一体化平台等科技工具所施行的社会控制系统，可统称之为"数位围场"，其目的在于种族式地针对突厥裔住民，将他们圈限、监控、改造成为一个以产业工人为主的永久下层阶级（permanent underclass）。
图为新疆的"就业安置"现场。当前政府以警务设施、拘留营体系，乃至于各样的就业安置、劳务转移，佐以影像监控、一体化平台等科技工具所施行的社会控制系统，可统称之为"数位围场"。 图／美联社
透过人工智慧、大数据、自动化资讯平台等科技所建构起的"数位围场"，对于政府和高科技财团而言，是一个全新、具多重意义的数位"新疆（域）"（new frontiers）：一方面，获取其疆域内"坏穆斯林们"所产生的行为监控数据，进行各样的数据徵用以改良既有监控分析技术，一方面，则可更不受阻碍地以权力使人们成为国家、产业所需的劳动力。
经过这样长期的控制，维吾尔将成为一个以受政府摆佈的低阶劳务阶层，数位围场内的维吾尔生活，将具有三重彼此相关的核心意义：
顺服党与国家、产生数据、成为劳动力。
透过人工智慧、大数据、自动化资讯平台等科技所建构起的"数位围场"，对于政府和高科技财团而言，是一个全新、具多重意义的数位"新疆（域）"（new frontiers）。 图／美联社
而为了将数位围场的概念放置在更全球性的历史脉络来理解，Byler 和社会学者 Carolina Sanchez Boe 将这类新崛起的治理模式称为"恐怖资本主义"。
乘著后 911 席捲全球的反恐风潮，恐怖资本主义係指国家以消灭潜在恐怖活动和维繫国家安全为由，运用科技与数据积累，合理化并强化国家与财团对特定边缘群体的劳动剥削，这样的合谋关係的目的，在于社会控制且扩展潜在的廉价劳动力来源。
其获益模式可简述为：国家宣称特定族群涉及恐怖活动、可能颠覆国家安全，政府提供价格可观的承包合约予科技财团，建立相关警务设备，监控、管理国家所设定的目标群体，例如无所不在的检查哨、监视仪器、脸部辨识系统等。
运用取自于目标群体的大量的生物资讯数据与社群网络数据，相关产业藉此改善、精进现有的科技水平，并将更精准的设备转卖给其他客户，包括私人企业或其他政府客户。
政府提供价格可观的承包合约予科技财团，建立相关警务设备，监控、管理国家所设定的目标群体，例如无所不在的检查哨、监视仪器、脸部辨识系统等。 图／美联社
最后，无论是透过直接的国家暴力，或是间接的污名，将目标群体转化成为国家或资本家所需要廉价劳动力来源。该特定群体经此过程，往往被改造成没有主体性，任由国家摆佈、且难以抵抗国家体制的低阶劳动力。以新疆的例子而言，即为大量被"职业培训"后、安置到石化产业、纺织业工厂的维吾尔工人们。
值得注意的是，监控、资本与国家的合谋主要源自于 911 后，美国对寻求庇护的外来移民的监控实践经验，但这类运作模式，目前也广泛为各国政府所应用，如北印度的孟加拉裔住民和巴勒斯坦的阿拉伯裔住民，但新疆的案例却是最能够阐述其精髓，且是涉及规模最大、仍在进行中的骇人案例。
相关学者也开始担忧，这套于新疆发展已臻成熟的数位治理技术——继菲律宾与辛巴威之后——将输出至更多以"反恐"为名，行扩权统治之实的专制政权手中。
2019年7月11日，一名巴勒斯坦男子在耶路撒冷穿越使用指纹压印的生物识别门。 图／路透社
▌科技极权实验场，终将走到何处？
2020 年末，对于华为疑似正在开发的"维吾尔警报"系统，以及格里兹曼的解约通告，中国外交部发言人华春莹仅冷淡回应："有关人士想跟谁合作，这是他的事情。"
对于人权观察提出的阿克苏名单，那些行使合法、不涉及暴力的行为的人们，却因被一体化平台标示，而被为当局所拘禁一事，另一位发言人赵立坚仅不屑地回应："这个所谓的人权组织一向充满偏见、搬弄是非，有关言论不值一驳。"
相形于当局反应的云淡风轻，长期关注科技监控与极权主义之间关係的学者们，则逐渐透过商业报告、被拘留者的证词、外洩的受害者名单、政府文件，拼凑出一个愈加完整的、当代新疆的数位图像。也据此警告，新科技与社会控制在中国，毫无节制的合谋，以及该技术模式的扩张输送，将是未来全球社会所需面对的全新议题。
从高度仰赖人工拦检、查证登记，到扫码刷脸，十馀年过去了，维吾尔人的家园早已沧海桑田，而那位在喀什市郊、跟武警争论著的维吾尔青年，现在人会在哪裡呢？我不大敢细想。
新科技与社会控制在中国，毫无节制的合谋，以及该技术模式的扩张输送，将是未来全球社会所需面对的全新议题。 图／路透社