本文是在2020年12月9日第22届欧盟非政府组织人权论坛：新技术对人权的影响
“开局立论”专家组发言的编辑和扩充版[1]。
引言
感谢欧盟委员会、欧洲对外行动署以及人权和民主网络给我这个机会，参加今年的欧盟非政府组织论坛，探讨新技术对人权的影响[2]。我很荣幸能在各位高级别嘉宾之后发言——刚才听到欧盟强烈重申对前线维权人士的持续支持非常令人鼓舞。我想对世界各地，特别是中国的人权捍卫者、民间社会团体和活动人士说，我希望欧盟官方的声援能给你们带来希望。虽然这句话和许多口号一样已经在香港成为禁语，但我想用粤语说一声：“加油！”
在国际人权日前夕，今年的论坛适逢国际人权体系的一个特别关键的时刻。在我们庆祝联合国成立75周年之际，国际人权体系在纷繁复杂的辩论中继续发展，这在条约机构机制、特别程序和民间社会的参与方面尤为突出。国际人权体系为人权捍卫者提供了重要的规范平台和一套有利工具，而由中国等不当限制权利的国家主导的，破坏和取代国际标准和规范的行为威胁着其完整性和有效性。
自2019年底以来，2019冠状病毒病一直被用作限制权利的首要卫生应急理由。中国最近发表了一份关于后疫情时代世界秩序的立场文件，包括对5G和数据安全的提议[3]。这是我们观察到的对疫情进行利用，甚至是滥用的重要趋势。当全世界都在努力应对2019冠状病毒病这一上世纪以来规模最大、最严重的全球大流行病时，我们还不能谈论“后疫情”，因为我们还陷于其中。虽然疫情终将过去，但考虑到它对全世界数以百万计的民众、对各个行业，以及对我们工作、学习和联络感情的方式的影响，我想我们任何人都不能指望回到哪怕近似于病毒暴发之前的“正常状态” [4]。
(Clockwise from upper left: Heidi Hautala, VP, European Parliament; Sharon Hom; Giuseppe Abbamonte, Director for Media Policy, European Commission; Michael O'Flaherty, Director, European Union Agency for Fundamental Rights (FRA); Marie Arena, MEP and Chair of the EP Subcommittee on Human Rights; Jennifer Baker, panel moderator.)技术对我们适应疫情发挥了关键作用，既有增进效应，也有负面影响，即前面一些发言者提到的“阴暗面”。政府、民间社会团体和个人都加大了对技术的使用和数字安全工具的使用。技术发展的速度、范围和深度不断增大，不可避免地超出了我们的法律法规、道德发展和文化规范进行有意义和有效应对的能力。的确，技术的未来正在以超乎我们想象的速度到来[5]。事实上，在我们绞尽脑汁，试图认清算法控制我们生活的程度和影响之时，我们以为的“新”技术可能已经汇入了技术的历史长河中。即使是人工智能、大数据和强化生物识别监控这个“美丽新世界”的建造者们，也并不真正地完全了解他们强大的机器和算法在学习什么，以及它们将会或者可能会造成的社会影响的全貌[6]。
“左”边：专制国家带来的挑战
中国是经济和政治上的世界强国，也是全球最具影响力的国家行为者之一。三十多年来，我的组织中国人权一直致力于支持人权捍卫者和应对民间社会在中国所面临的严峻挑战。在论坛的全会开幕式上，国际人权联盟主席爱丽丝·莫格威（Alice Mogwe）强调了中国的安全政策、人工智能部署、对面部识别摄像头和预测分析的广泛使用的危害，以及它们对少数民族和人权捍卫者和平行使权利的严重影响——事实上，这对全中国14亿人和平行使权利都有严重影响[7]。
在党国体制下，中国对这些技术的部署拥有国家安全、网络安全和法律制度的支持，强大的警察安全机制的支持，以及强制灌输“正确的”行为思想（即习近平思想[8]）和树立对党忠诚的全面、系统的意识形态机器的支持[9]。中国对网络社区实行全方位的数字监控，以确保公民保持“守信” [10]。此外，政府还建立了全国性的社会信用体系，帮助激励民众做出理想的社会行为[11]。
中国的专制政权不仅将这些新技术和数字工具作为武器，打击民间社会和人权捍卫者，并进行有针对性的大规模监控和审查，还向境外输出数字专制主义模式，包括在“一带一路”倡议下的重大基础设施项目沿线和“数字丝绸之路”沿线[12]。不幸的是，中国监控技术的出口需求持续增长[13]，也加剧了这一领域的市场竞争。欧盟成员国和其他西方民主国家政府总是面临着一组矛盾：一方面要顾及经济和战略利益，另一方面又要应对出口这项技术的风险，包括终端产品或两用技术对权利的相关影响。
依照恢复国家应有国际地位的“中国梦”[14]，中国还不加掩饰地宣布了成为全球数字技术发展领导者的雄伟目标和政策，包括人工智能、量子计算、机器人、生物识别监控等颠覆性技术[15]。中国在网络治理和标准制定方面也越来越积极[16]，比如在互联网治理、技术标准制定、人权、网络安全和反恐等方面的多边机构担纲领导角色。作为中国在技术领域的领头羊，百度、阿里巴巴和腾讯也塑造着全球的数字架构，中国的工程师也在积极推进新技术标准的制定[17]。
鉴于西方政府和企业对网络空间隐私问题的关注，我想指出区分规范、背景和执行实践的重要性。中国的国内法，尤其是《网络安全法》[18]及实施细则，纳入了国际隐私规范的语言，甚至包括欧盟《通用数据保护条例》的语言，如知情同意原则、信息披露原则、信息收集和后续使用范围，以及数据最小化原则[19]。 然而，尽管这些法律条款在形式上有规范性的规定，但我们需要结合中国以不符合国情为由，拒绝法治和国际人权标准这些“西方概念”的制度背景来进行理解[20]。
形式上的隐私保护也需要在中国互联网法律制度的背景下看待，特别是攸关隐私和匿名性的对使用加密工具的法律限制[21]和对实名制的要求[22]。《网络安全法》还要求在中国境内收集的数据必须在当地存储，要获得批准才能向国外传输。例如，公司必须证明传输这些数据的合法商业目的[23]。
在中国利用这些数字工具进行打击和审查的同时，活动人士也在利用它们进行动员、组织、抗议或其他社会行动。中国大陆的LGBT（同性恋、双性恋和跨性别者）活动人士、女权活动人士和法律倡导者一如既往地利用社交媒体平台，提高公众对家庭暴力、性骚扰、性别歧视以及打压律师和公民记者的认识[24]。在香港2019年的大规模社会抗议活动中，前线活动人士和普通市民利用社交媒体动员、组织或参与行动。在技术能手的帮助下，他们建立了民意调查/预选的网络平台，并利用数字工具记录执法部门滥用暴力之猖獗，提高公众对这一问题的认识。鉴于中国官方媒体向国际社会推广强有力的、有违事实的另类政府叙事并颇有成效，这些数字工具也起到了至关重要的反击作用。然而，尽管这些活动人士足智多谋，但对和平抗议者的逮捕和骚扰以及对选举制度的攻击仍在香港继续上演[25]。为了支持国家对和平行使权利的持续镇压，政府部署的技术监控和监视工具在不断扩张，为维权人士和民间社会行动带来了更大和新增的风险。
“右”边：硅谷带来的挑战[26]
作为与中国数字专制模式的对比，我想对已经被提及的，在隐私和数据收集、汇总和使用上造成权利问题的主流商业模式进行一些补充。玛丽·阿雷纳（Marie Arena）和爱丽丝·莫格威所提到的技术滥用，可能不仅仅是技术被别有用心之人误用的问题，而可能是技术本身就是为了误用而设计的。换言之，这不仅是技术的阴暗面，更是这些颠覆性的专利社交媒体技术设计的一部分。正如《大西洋月刊》执行主编阿德里安娜·拉弗朗斯（Adrienne LaFrance）所强调的，“以脸书为首的当今社交网络的建立初衷，就是助长让它们如此有害的东西。这根植于它们的根本架构。”[27]事实上，越来越多的前硅谷“宠儿”开始发声，分享他们引人警醒的反思，就算不是否定他们所建立的东西本身，也至少对其后果和影响进行了批判[28]。
虚拟现实联合创始人、计算机工程师兼音乐人贾伦·拉尼尔（Jaron Lanier）奋力呼吁社交媒体用户删除账号，或者最起码将其停用，以创造空间来探索与他人联络感情的其他方式，（重新）发现自己的自主性。曾经供职于谷歌的特里斯坦·哈里斯（Tristan Harris）警告，技术劫持着人们的思想。二人的关注点都在于拉尼尔提出的，用来描述巨型科技公司主导商业模式的“BUMMER”一词，即“改变用户行为，使其成为可以租用的宝库”（behaviors of users modified and made into an empire for rent）[29]。神经科学研究人员已经敲响了算法引发的社交媒体成瘾问题的警钟，而这正是BUMMER的目标——更多的增长，更多的参与和点击会带来更多的收益。有批评者还指出，在英语里，“user”（用户）一词其实只用于两个范畴：毒品和互联网[30]。有趣的是，社交媒体平台或工具的开发者在被问及是否允许他们的孩子使用这些工具时，他们的回答是“不”，至少在儿童或青少年阶段不行。我认为这应该引起我们的警觉[31]。
不过，我并不是在提出停止使用所有新技术的卢德主义论调，也不是说这些巨型科技公司在扩大表达自由空间或获取更多信息方面没有做出良好贡献。但正如尤瓦尔·赫拉利（Yuval Harari）所言：“既然领导技术革命的公司和企业家会理所当然地歌颂他们的创造，那么社会学家、哲学家和历史学家就应该……敲响警钟，阐释这些发明可能引发大问题的所有情形。”我想补充的是，人权学者、活动人士、政策制定者以及我们所有人，都有责任保持批判性的警惕，审视这些技术的发展、使用和影响，并重新设想其他更有利于权利赋予的模式。
左右为难
在马克·扎克伯格（Mark Zuckerberg）的2017年“宣言”之后，脸书发起了一场大规模的社交工程实验，打造了现在已有超过16.9亿用户的在线互联社区，让他们全都在拥有选择和自主性的错觉下在网上互动。用户甘愿放弃的大量数据以及基于这些数据对行为的算法操控，就是被贩卖的利润巨大的产品。但这个在线“社区”也遭受着错误信息、假新闻、网络欺凌和谩骂、阴谋论以及放大和传播这一切的信息回音室的祸患。
中国当前的数字威权主义实验正在对包括8亿余网民在内的14亿人实施控制。当局不是在将这一全面监控系统收集到的庞大数据变现，而是在部署监控技术工具，以确保党和国家的意识形态和社会控制。除了政府控制网上表达并以此助长自我审查之外，还有在网上大量输出民族主义观点或“带节奏”的水军，以及进行野蛮谩骂和网络欺凌的网络战狼。
这两种模式和社会实验都对民主以及作为人权核心的人类尊严和自主性构成了威胁。因此，人权捍卫者以及所有社交媒体或技术工具的使用者都处于左右为难的境遇——被“监控资本主义”的利益操纵[32]以及党国专制主义的经济和政治限制所夹击。
除了确保接入和连接互联网的公平性的全球性挑战，以及包括虚假信息在内的重重威胁，这两个强大的宇宙还构成一个更深层次的生存威胁——我们可以把这两个拥有强大引力的技术中心视为黑洞。一个黑洞正在吸纳与我们相关的大量数据，让它们消失在“海妖服务器”中，即集聚硅谷权力和财富的公司用以谋利的巨大云计算服务器[33]，而另一个黑洞则为党国专制体制服务。
对于防火长城外的网民和奋力“翻墙”而出的中国大陆人权捍卫者来说，他们登录的是什么样的网络社区？是一个不受审查的自由互联网，还是另一个拥有新的信息回音室，被更多的假新闻、假人设、虚假信息和阴谋论的冲击所淹没的网络空间[34]？正如其他发言者和论坛概念说明所强调的，这些都是严重而复杂的问题，需要关键利益攸关方的批判审视、创新对策和政治意愿[35]。
那该怎么做呢？
尽管受到国际社会广泛而强烈的关注，但严重的侵犯人权行为仍然在中国延续，包括强行监禁和监控数百万维吾尔族人[36]，压制西藏的文化和宗教表达，以及打压律师、维权人士和记者[37]。香港仍然是维护人权的前沿阵地，也是对中国是否尊重和遵守其国际义务的考验。涵盖面甚广的《香港国安法》在当地造成了广泛而深刻的影响，包括在公共场所加强警力、对团体集会进行恐吓、骚扰和镇压，以及线下和网上的审查和自我审查。如今，刑事监控的威胁已经超出了中国国界，扼制着表达自由、学术自由并引发自我审查。
虽然人权方面的挑战依然严峻，但为了保护人权而与中国进行更有效接触的政治意愿可能正在加强。对信息控制和审查制度促成疫情蔓延的致命后果的认识，也促使国际社会对中国的看法有所变化并日趋负面，这在皮尤研究中心对14个国家展开的新调查（2020年10月）中有所反映[38]。当然，舆论的转变和对中国海外影响力的抵制无助于推进中国成为受人尊敬的全球领导者的雄心。或许我们可以利用地缘政治断层的变化作为契机，进行超出惯有模式的建设性交涉。
正如其他论坛发言者所强调的，政府可能越发认识到，安全、贸易和可持续环境的相互关联并不是说说而已，有效的政策必须在人权的框架内制定。首先，除了在孤立的政策辩论中讨论之外，人权必须处于双边关系的最前沿并被纳入其整体。正如中国人权在我们的白皮书《香港未来言弃尚早》中指出的，《香港国安法》本身规定了基本权利和自由必须得到保护，包括“《基本法》和《公民权利和政治权利国际公约》、《经济、社会与文化权利的国际公约》适用于香港的有关规定”（第4条），并要求坚持法治原则（第5条）[39]。以中国缺乏法治为由，对这些权利条款的讥诮不屑，错失了推进可能有助于加强个案辩护以及所需立法和制度改革的政策和干预的重要机会和战略。
但纵观快速发展的当下，符合人道主义的技术是否可能？我们如何以一种有意义的方式让人类尊严、自主性与选择重归中心？还可以探索哪些商业模式？由几位前硅谷科技开发者和专家成立的人道技术中心（Center for Humane Technology）正专注于就这些技术的风险和危害提高认识的公众教育、支持行业文化的变革并为政策选择献计献策[40]。但归根结底，我们是否应该继续让私营部门乃至巨型科技公司控制局面，主导我们思考技术的方式？
我们不能局限于一小部分前硅谷宠儿以及事后认错，而是要对更多样化的利益攸关方进行支持和赋能。同时，让更多利益攸关方参与讨论只是一个开始。我们还需要认识到，民间社会、非政府组织和人权捍卫者在参与政策讨论，甚至是任何讨论时都不具有平等的经济、政治和话语权。我们要如何以一种强有力的方式，将不受股东利润压力影响的利益攸关者纳入政策探讨？例如，开源技术社区的作用和功能如何能得到扩大和深化？举例来说，更系统地纳入开源社区将凸显扩大和加强监管的潜在有效性，因为巨型科技公司可以轻易地以业务开销吸收监管成本。
对于致力于打造互联网自由技术社区的开发者，我们要如何整合他们的专业知识和见解？虽然互联网自由社区（包括开发者、非政府组织和能力建设者）仍在发展阶段，但它所采取的措施基于一个关键前提：要想有效利用技术促进和保护权利，就必须通过有意的设计来实现。在整个过程的不同阶段，包括需求评估、设计、实施、抽审、评估，以及技术解决方案、工具和方法的后续迭代，都需要考虑到用户的需求和视角。
最后，我们每一个人都需要以不同的身份批判性地审视我们与新技术，尤其是社交媒体的关系、对它们的使用以及它们的影响，并探索其他方式联络感情、进行社区建设，并以有意义的、本真的方式行使权利。正如拉弗朗斯所呼吁的：现在修复我们社会和文化中被社交网络严重破坏的方面还不算太晚[41]。
还有一点……
既然之前有发言者提到了猫和猫咪搞笑图片，那我也多提一句。大家都知道，猫咪搞笑图片称霸着互联网。用谷歌搜索的话，在0.53秒内会产生37万个结果。贾伦·拉尼尔在《立刻删除你的社交媒体账号的十个理由》中这样开头：“让我们从猫开始说起。”在对我们的猫咪朋友的聪慧和独立大加赞赏之后，他提出：“互联网上的猫是我们对人们在互联网上的未来的希望和梦想。”因此，他的书讲的是“如何做一只猫”，即如何在一个由“一些史上最富有的公司”所经营的算法不断监控和操纵的世界中保持自主性[42]。的确，尽管网上有数十万个猫咪搞笑图片，但我们仍然永远驯服不了猫，也无法左右它们的意识。作为领养了13只流浪猫的“猫奴”，我太赞同不过了。让我们学着在网上做一只猫吧。
[1] For information on the Forum, see https://eu-ngo-forum.b2match.io/home; video (1:08:39-1:28:03; 2:01:35-2:04:49; 2:09:49-2:12:55; 2:22:03-2:22:56): https://eu-ngo-forum.b2match.io/page-381.The panel was moderated by Jennifer Baker. Other panelists, in order of speaking were: Giuseppe Abbamonte, Director for Media Policy, Directorate General for Communications Networks, Content and Technology, European Commission; Michael O'Flaherty, Director of the European Union Agency for Fundamental Rights (FRA); Marie Arena, Member of the European Parliament and Chair of the EP Subcommittee on Human Rights; Eliska Pirkova, Europe Policy Analyst, Access Now; and Heidi Hautala, Vice-President, European Parliament.
[2] As described on its homepage, https://eu-ngo-forum.b2match.io/: “[t]he EU-NGO Human Rights Forum will provide an essential platform to elaborate recommendations on how the EU can further foster human rights compliance in the digital sphere and seize the potential of new technologies to promote the protection of human rights for all. It will also represent an opportunity to create or strengthen international multistakeholder networks.”
[3] “China Publishes Position Paper of the People's Republic of China On the 75th Anniversary of the United Nations,” Ministry of Foreign Affairs of the People’s Republic of China, September 10, 2020, https://www.fmprc.gov.cn/mfa_eng/wjbxw/t1814034.shtml; and “Global Initiative on Data Security,” Ministry of Foreign Affairs of the People’s Republic of China, September 8, 2020, https://www.fmprc.gov.cn/mfa_eng/zxxx_662805/t1812951.shtml.
[4] However, while the rest of the world suffers enormous human costs, China’s tech giants and CEOs in a range of sectors have been doing really well during the year of COVID-19. Thanks to the pandemic, China’s e-commerce, health care industries, food delivery services, vaccine developers, and PPE producers contributed to enormous increase in personal wealth. As recently reported in Forbes, the top 400 richest individuals in China include: Jack Ma, Alibaba founder (net worth $65.6 billion); Pony Ma, CEO of Tencent, (net worth $55.2 billion), and Wang Xing, CEO of Meituan-Dianping, a home delivery service (net worth $22.5 billion, after a quadruple increase during COVID-19). Russell Flannery, “China’s 400 Richest 2020: Total Wealth Surges Amid Pandemic,” Forbes, November 4, 2020, https://www.forbes.com/sites/russellflannery/2020/11/04/chinas-400-richest-2020--total-wealth-surges-amid-pandemic/?sh=749688db3d7a.
[5] See Diamandis, Peter H. and Kotler, Steven, The Future Is Faster Than You Think: How Converging Technologies Are Transforming Business, Industries, and Our Lives, Simon & Schuster Paperbacks, 2020. The convergence of independent lines of accelerating technology (e.g. AI) with other lines of technology (e,g, augmented reality) at an ever-increasing rate has turbo-boosted both the rate and scale of major transformations across all fields.
[6] AI programs are even learning beyond human capacity or guidance. Yuval Harari cites an example of Google’s AlphaZero that used the latest machine learning principles to self-learn chess by playing against itself. It won twenty-eight games and tied seventy-two against the champion program, Stockfish8. “AlphaZero went from utter ignorance to creative mastery in four hours, without the help of any human guide.” Harari, Yuval, 21 Lessons for the 21st Century, Vintage, 2019, p.44.
[7] EU-NGO Forum 2020, Plenary opening session (Alice Mogwe from 21:00 to 28:28), December 9, 2020, https://eu-ngo-forum.b2match.io/page-381. HRIC has been an active member of the FIDH for decades and appreciates Alice Mogwe for highlighting the China challenges in her high-level remarks.
[8] Xi Jinping Thought on Socialism with Chinese characteristics for a New Era, now enshrined in the State and Party Constitutions of China. Constitution of the Communist Party of China, October 24, 2017, http://www.xinhuanet.com//english/download/Constitution_of_the_Communist_Party_of_China.pdf.
[9] Ideological requirements also appear in multiple laws, including the National Security Law, the Cybersecurity Law, for example, Art. 6 of the Cybersecurity Law requires the state to promote “honest, healthy and civilized network conduct…[and] dissemination of core Socialist values.” (Emphasis added.) 中华人民共和国网络安全法 (Cybersecurity Law), Cyberspace Administration of China, November 7, 2016, http://www.cac.gov.cn/2016-11/07/c_1119867116. Art. 13 of the Internet News Information Service Management regulations require that internet news services should persist in the direction of serving the people and serving Socialism, persist in the orientation of correct public opinion, play the role of public opinion supervisor, …” (Emphasis added.) Regulations on Administration of Internet News Information Services, The Press Office of the State Council and Ministry of Information Industry, September 25, 2005, https://www.wipo.int/edocs/lexdocs/laws/en/cn/cn345en.pdf.
[10] Internet service providers are required to build user credit systems and provide different access to services and functions based upon user credit. For example, In the Post and Comment Provisions, service providers are required to “carry out credit assessments of users’ conduct, “to blacklist “seriously untrustworthy” users and to prohibit users form re-registering once they have been blacklisted. Art. 9
[11] “国务院关于印发社会信用体系建设规划纲要（2014—2020年）的通知,” The State Council of the People’s Republic of China, (issued June 14, 2014), http://www.gov.cn/zhengce/content/2014-06/27/content_8913. According to the State Council Notice concerning Issuance of the Planning Outline for the Construction of a Social Credit System (2014-2020)”[11] (issued June 14, 2014), the goal is “by 2020, basically having established fundamental laws, regulations and standard systems for social credit, basically having completed a credit investigation system covering the entire society with credit information and resource sharing at the basis, basically having completed credit supervision and management systems, having a relatively perfect credit service market system, and giving complete rein to mechanisms to encourage keeping trust and punish breaking trust.”“国务院关于印发社会信用体系建设规划纲要（2014—2020年）的通知,” The State Council of the People’s Republic of China, (issued June 14, 2014), http://www.gov.cn/zhengce/content/2014-06/27/content_8913.
[12] Kristin, Shi-Kupfer, and Mareike, Ohlberg, “China’s Digital Rise: Challenges for Europe,” MERICS, April 8, 2019, https://merics.org/sites/default/files/2020-06/MPOC_No.7_ChinasDigitalRise_web_final_2.pdf.
[13] Cook, Sarah, “China’s Ever-Expanding Surveillance State,” Freedom House, April 30, 2018, https://freedomhouse.org/article/chinas-ever-expanding-surveillance-state.
[14] Roger Creemers, “The Chinese Dream Infuses Socialism with Chinese Characteristics with New Energy,” China Copyright and Media, May 6, 2013, https://chinacopyrightandmedia.wordpress.com/2013/05/06/the-chinese-dream-infuses-socialism-with-chinese-characteristics-with-new-energy/.
[15] “到2035年我国将建成文化强国,” The State Council of the People’s Republic of China, November 3, 2020, http://www.gov.cn/zhengce/2020-11/03/content_5557091; “Position Paper of the People's Republic of China
On the 75th Anniversary of the United Nations,” Ministry of Foreign Affairs of the People’s Republic of China, September 10, 2020, https://www.fmprc.gov.cn/mfa_eng/zxxx_662805/t1813751.shtml; Stephen Chen, “China claims quantum leap with machine declared a million times greater than Google’s Sycamore,” South China Morning Post, September 11, 2020, https://www.scmp.com/news/china/science/article/3101219/china-claims-quantum-leap-machine-declared-million-times-greater.
[16] See Naomi Wilson, “China Standards 2035 and the Plan for World Domination—Don’t Believe China’s Hype,” Council on Foreign Relations, June 3, 2020, https://www.cfr.org/blog/china-standards-2035-and-plan-world-domination-dont-believe-chinas-hype.
[17] Danielle Cave, Samantha Hoffman, Alex Joske, Fergus Ryan and Elise Thomas, “Mapping China’s Technology Giants,” Australian Strategic Policy Institute International Cyber Policy Centre, Report No. 15, 2019, https://www.aspi.org.au/report/mapping-chinas-tech-giants.
[18] Cybersecurity Law, op. cit.
[19] ibid, Arts. 40 - 44.
[20] “国务院关于印发社会信用体系建设规划纲要（2014—2020年）的通知,” The State Council of the People’s Republic of China, June 14, 2014, http://www.gov.cn/zhengce/content/2014-06/27/content_8913.
[21] See e.g. MIIT, “Notice of Cleaning Up and regulating the Internet Access Service Market,” Cyberspace Administration of China, January 17, 2017, http://www.cac.gov.cn/2017-01/26/c_1120381529.
[22] Cybersecurity Law, op. cit. Art. 24.
[23] Cybersecurity Law, op. cit. Art. 37.
[24] Shelly Banjo, and Lulu Yilun Chen, “Digital Dissidents Are Fighting China’s Censorship Machine,” Bloomberg Business, June 4, 2019, https://www.bloomberg.com/news/articles/2019-06-03/digital-dissidents-are-fighting-china-s-censorship-machine; Leta Hong Fincher, “China’s women movement has not only survived an intense crackdown, it’s grown,” The Guardian, March 7, 2019, https://www.theguardian.com/world/commentisfree/2019/mar/07/chinas-womens-movement-has-not-only-survived-an-intense-crackdown-its-grown; Suyin Haynes, “Author Leta Hong Fincher Shows Why the World Should Pay Attention to China’ Feminists,” TIME, November 14, 2018, https://time.com/5453927/china-feminist-five-big-brother-leta-hong-fincher-interview/.
[25] See “Dozens arrested during Hong Kong peaceful protest against national security laws,” The Guardian, June, 29, 2020, https://www.theguardian.com/world/2020/jun/29/dozens-arrested-during-hong-kong-peaceful-protest-against-national-security-laws; and Tony Cheung , Natalie Wong and Kimmy Chung, “Hong Kong leader delays legislative elections, asks Beijing to resolve legal questions, citing coronavirus pandemic dangers,” South China Morning Post, July 31, 2020, https://www.scmp.com/news/hong-kong/politics/article/3095461/hong-kong-legislative-council-elections-be-postponed.
[26] I am using Silicon Valley as short-hand to refer to the giant technology companies based in the U.S. and the enormous concentration of economic power they wield.
[27] Adrienne LaFrance, Facebook is a Doomsday Machine, The Atlantic, December 15, 2020, https://www.theatlantic.com/technology/archive/2020/12/facebook-doomsday-machine/617384/.
[28] "The Social Dilemma,” directed by Jeff Orlowski, Exposure Labs, Argent Pictures and The Space Program, Netflix, 2020, https://www.netflix.com/title/81254224.
[29] Jaron Lanier, Ten Arguments for Deleting Your Social Media Accounts Right Now, Henry Holt and Company, 2018.
[30] "The Social Dilemma,” op. cit.
[31] ibid.
[32] Shoshana Zuboff’s term, see Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, Profile Books, 2019.
[33] Ten Arguments for Deleting Your Social Media Accounts Right Now, op. cit.
[34] See Pew Research Centre article that 97% of tweets in the U.S came from 10% of users “National Politics on Twitter: Small Share of U.S. Adults Produce Majority of Tweets,” Pew Research Centre, October 23, 2019, https://www.pewresearch.org/politics/2019/10/23/national-politics-on-twitter-small-share-of-u-s-adults-produce-majority-of-tweets/; and that political debates have become less respectful, less fact-based, substantive, Adrian Shahbaz, “The Rise of Digital Authoritarianism: Fake news, data collection, and the challenge to democracy,” Freedom House, 2018, https://freedomhouse.org/report/freedom-net/2018/rise-digital-authoritarianism.
[35] EU-NGO Forum 2020, https://eu-ngo-forum.b2match.io/home; and “22nd EU-NGO Human Rights Forum - the impact of new technologies on human rights,” European Union External Action, December 11, 2020, https://eeas.europa.eu/headquarters/headquarters-homepage/90483/22nd-eu-ngo-human-rights-forum-impact-new-technologies-human-rights_tr.
[36] See e.g. “China’s Algorithms of Repression: Reverse Engineering a Xinjiang Police Mass Surveillance App,” Human Rights Watch, May 1, 2019, https://www.hrw.org/report/2019/05/01/chinas-algorithms-repression/reverse-engineering-xinjiang-police-mass.
[37] “China Puts Rights Lawyers, Families, Under House Arrest on Human Rights Day,” Radio Free Asia, December 10, 2020, https://www.rfa.org/english/news/china/arrest-12102020113601; “China crackdown on rights lawyers ‘shocking’: Rights expert,” Aljazeera, December 16, 2020, https://www.aljazeera.com/news/2020/12/16/china-crackdown-on-rights-lawyers-shocking-un-expert; and Owen Churchill, “China is global leader in imprisoned journalists for a second consecutive year, watchdog group finds,” South China Morning Post, December 15, 2020, https://www.scmp.com/news/china/society/article/3113942/china-global-leader-imprisoned-journalists-second-consecutive.
[38] The survey revealed that an unfavorable opinion of China has increased significantly over the past year and that a majority of the people in all the countries surveyed, including Sweden, United Kingdom, Germany, the Netherlands, and the United States now holds a negative view of China. This represents the highest points of unfavourability toward China in more than a decade since the topic has been surveyed. Laura Silver, Kat Devlin, and Christine Huang, “Unfavorable Views of China Reach Historic Highs in Many Countries,” Pew Research Center, October 6, 2020, https://www.pewresearch.org/global/2020/10/06/unfavorable-views-of-china-reach-historic-highs-in-many-countries/.
[39] “Too Soon to Concede the Future: The Implementation of The National Security Law for Hong Kong--An HRIC White Paper,” Human Rights in China, October 16, 2020, https://www.hrichina.org/en/press-work/press-release/too-soon-concede-future-implementation-national-security-law-hong-kong-hric.
[40] The Center for Humane Technologies, https://www.humanetech.com/.
[41] Facebook is a Doomsday Machine, op. cit.
[42] Ten Arguments for Deleting Your Social Media Accounts Right Now, op. cit. p.2
打印本页
电邮分享
脸书分享
推特分享
Reddit
微博
QQ空间
百度贴吧