杨子飞
2002年由斯皮尔伯格执导和汤姆·克鲁斯主演的科幻悬疑电影《少数派报告》惊艳问世,向人们“预言”了2054年的美国华盛顿特区,司法部内部一支预防犯罪队伍能够在罪犯尚未实施犯罪之前就提前预测犯罪。只不过这支预防犯罪队伍除了使用先进的数据处理技术,还高度依赖三位可以预知未来的先知。这三位先知拥有超强的再现过往情境和“看见”未来迹象的特殊能力,犯罪预测专家将先知头脑中再现的过往情境和“看见”的未来迹象以脑电波的形式数字化,再通过数字分析技术来预测未来犯罪发生的可能性。
当时人们以为这种令人难以置信的犯罪预测技术只可能出现在科幻电影之中。然而,仅仅过了8年之后,也就是2010年,美国洛杉矶警察局就开始率先使用大数据犯罪预测技术。2011年,美国《时代》杂志就将以犯罪预测技术为核心的“预测性警务”评为年度50项发明之一。①Carsten Momsen and China Rennert, Big Data-Based Predictive Policing and the Changing Nature of Criminal Justice, https://kripoz.de/wp-content/uploads/2020/05/momsen-rennert-big-data-based-predictive-policing-and-the-changing-nature-ofcriminal-justice.pdf.自此,以大数据技术为支撑的犯罪预测技术在全世界范围内迅速扩展开来。在欧洲,通过监控、收集、分析、整合海量数据,对犯罪做出提前预判,已经成为欧洲警察的主要执法趋势之一。②Fieke Jansen, Data Driven Policing in the Context of Europe, Data Justice: Understanding Datafication in Relation to Social Justice, Cardiff University, May 7, 2018, p.2.在南美洲,哥伦比亚警方正利用大数据技术监控联邦高速公路,以便更好地预测边境地区的犯罪形势。在非洲,肯尼亚警方正试图通过数据可视化技术精准定位选举暴力,以此来预测和防范选举暴力伤及无辜平民。在亚洲,韩国和日本政府已将数以千万计的闭路监视系统纳入警方预警平台,以缩短当地警方对犯罪事件的响应时间。
当前运用最广泛的大数据犯罪预测技术有三种:一是预测映射技术,它通过识别过去犯罪数据中的模式和相关性,预测可能发生犯罪事件的时间和地点。其代表性技术是私人公司开发设计的“PredPol”系统,这也是当前全球范围内应用最广的预测性警务技术。二是预测评估技术。它是预测个人犯罪的可能性或潜在的受害者,又被称为个体风险评估技术。这种技术通过网络分析探究过去犯罪活动的社交网络,使用机器学习和算法来识别可能的肇事者或受害者。③James Capotosto, Data Opportunities and Risks: The Dynamic of Public, Personal and Commercial Interest, Journal of Community Safety & Well Being, vol.2, 2017, p.19.其代表性技术是英国达勒姆警察部队和剑桥大学共同研发的系统危害评估风险工具(The Harm Assessment Risk Tool,HART)。三是预测动机技术。典型的例子就是欧盟的乘客姓名记录系统(PNR System),该系统预测的目的是找出以前未被执法当局发现的、可能具有危险性的人物,不是监控已知潜在危险人员而是发现新的可疑对象,亦不是分析实际犯罪行为而是分析潜在犯罪动机。
可以说,科幻已经照进现实。未来已来,而且已经流行。只不过,大数据时代的犯罪预测技术已经不再像科幻电影中所呈现的那样高度依赖具有超能力的先知,因为当代的大数据技术似乎已经具备了超能力,进而可以顺理成章地取代先知。或者说,科幻电影中先知的大脑实际上就是大数据库,里面储存了过去所发生的一切信息,三个先知共同构成了一个活的大数据云计算中心。大数据犯罪预测技术自身似乎已经成为了可以预知未来的先知,至少人们给予大数据犯罪预测技术的期待就像人类对先知的期待那样高。
那么,人们像期待先知那样期待大数据犯罪预测技术根本上是在期待什么呢?这种能够预测未来犯罪的“准先知”本质上是一种什么“超能力”呢?它借助怎样的“超凡魅力”来树立自己的权威呢?这种权威又会导致怎样的社会后果呢?清楚地回答这几个内在紧密关联的问题,就是本文的基本任务。
让我们先来回答第一个问题,人们对大数据犯罪预测技术的期待到底是在期待什么?要回答这个问题,必须首先回答在当今时代背景下人们最欠缺什么。
任何技术的发展既有技术自身逻辑演变的因素,更是回应特定时代需要的结果。大数据犯罪预测技术的迅猛扩张与“9·11 事件”以后世界各国对安全问题的高度关注密切相关。①Patrick F. Gillham, Securitizing America: Strategic Incapacitation and the Policing of Protest Since the 11 September 2001 Terrorist Attacks, Sociology Compass, vol.5, 2011, pp.636-637.恐怖主义威胁改变了世界各国的传统安全观念,安全威胁不再仅仅来源于某个具体的国家,而是来源于任一个人或组织,安全威胁不再集中于某时某地,而是隐藏于随时随地。可以说,安全焦虑成为各国政府和人民的首要关切。为了克服这种焦虑、应对这种安全威胁,被动、滞后的打击策略已经严重落伍了,必须使用主动的、先发制人的打击策略。②Brian Massumi, Ontopower: War, Powers and the State of Perception, Durham: Duke University Press, 2015, p.200.它要求安全部门能够提前预测潜在的安全威胁,在罪犯尚未实施犯罪行动之前就将其绳之以法。将这种安全策略贯彻到犯罪治理模式中去,传统的刑罚威慑犯罪治理模式就注定要被淘汰,进一步形成了以大数据犯罪预测技术为核心的预测性犯罪治理模式,它已经成为当代世界犯罪治理模式改革的主流方向。
由此可见,当代世界对大数据犯罪预测技术的热切渴望,实际上是为了回应严重的安全焦虑,通过大数据犯罪预测技术这种先发制人的打击策略来获得安全感。然而,这种通过预测未来获得安全感的心态并非当代人才有,实际上自古有之。甚至可以说预测是植根于高等脊椎动物的普遍倾向。③[美]蒯因:《一些离奇的想法——一部不连贯的哲学辞典》,涂纪亮译,中国人民大学出版社,2007年,第370页。英语单词Predict是预测的意思,其中Pre-是“在先”的意思,dict意为“to say”,Predict的准确含义就是先于事情发生之前去说。能够先于事情发生之前去说的人就是先知,因此对大数据犯罪预测技术的渴望本质上就是对能够预测未来的先知能力的渴望。
对先知能力的渴望是人性中的深层渴望,犹太人甚至认为“我们必须通过先知来思考问题”④[美]亚伯拉罕·海舍尔:《觅人的上帝:犹太教哲学》,郭鹏、吴正选译,山东大学出版社,2003年,第239页。,所以在世界各大文明尤其是宗教信仰体系中,先知都是非常常见的一个群体,其与巫师、祭司乃至国王一样,都是政治社会中的重要角色。先知因为能够预测未来,所以能够满足人们对秩序与安全的需要。在《圣经》中,先知(Navi)是指“被呼召的人”⑤Willam F. Albright, From the Stone Age to Christianity: Monotheism and the Historical Process, Baltimore: The Johns Hopkins Press, 1940, p.303.,准确地说是被神呼召的人。先知是神与大众之间的中介,他必须承担两个任务:一是从神那里获取启示,二是将启示以预言的形式传达给民众以实现救赎。⑥[德]马克斯·韦伯:《宗教社会学》,康乐、简惠美译,广西师范大学出版社,2005年,第68页。从神那里获取启示不可避免地具有普通大众所无法理解的神秘主义倾向,而将神的启示以预言的形式传达给民众则又必须具有普通大众可理解和易实践的特点,否则就无法令普通大众信服和追随,这就是先知的预言与巫师的神秘主义最大的不同。①[德]马克斯·韦伯:《古犹太教》,康乐、简惠美译,广西师范大学出版社,2007 年,第 394~395 页,第368 页。先知的预言是世俗化、功利化的神圣意志,是能够让普通大众理解并从中受益的神圣意志。可以说,先知是神秘主义和世俗功利主义的独特混合物,正因为先知从神那里获得了神秘主义倾向,使得先知的预言不可被怀疑,又因为先知必须面向普通大众,所以就必然具有世俗功利主义倾向,使得先知的预言可以被接受。
与先知的结构功能极度相似,大数据犯罪预测技术是大数据与普通大众之间的中介,它也需要完成两个任务:一是从大数据中获得有关犯罪的“启示”,二是将这种“启示”以犯罪预测的形式传达给普通大众。大数据对于普通大众来说就像神一样不可理解,他们需要大数据犯罪预测技术通过数据分析与计算来获得来自大数据的启示。“先知所看见或听见的,显然通常是不会立刻抛出去给期待中的听众,因为那往往是晦涩且多义的。以此,先知在祈祷中沉思默想其中的意义。直到他有了解释,他才说话。”②[德]马克斯·韦伯:《古犹太教》,康乐、简惠美译,广西师范大学出版社,2007 年,第 394~395 页,第368 页。同样地,复杂的算法、晦涩的数据分析是普通民众所无法理解的,必须要借助数据分析专家的专业分析,然后转换成大多数人能听懂的语言,比如哪些人有可能成为未来的犯罪分子,哪些地方的犯罪率会出现增长等。大数据犯罪预测技术就是通过开发和使用信息与高级分析为前瞻性的犯罪预防提供信息的警务策略③Gerben Bruinsma, et al., The Encyclopedia of Criminology and Criminal Justice, Springer Science + Business Media, 2014, p.3871.。
大数据犯罪预测技术虽然不能像宗教先知那样满足人们对神的渴望,但是承载了“准先知”功能的大数据犯罪预测技术却满足了人们在高度不确定的时代里对确定性的渴望,正是这种类似对先知的深层渴望,推动着大数据犯罪预测技术在当代世界不断扩张。
那么,作为“准先知”的大数据犯罪预测技术具备怎样的“超能力”呢?从“先知进化史”的角度来看,大数据犯罪预测技术所承载的先知功能与历史上存在的不同类型的先知有何异同呢?
先知一词最早出现在犹太教经典中,是“先知们创造了犹太教的历史”④[德]利奥·拜克:《犹太教的本质》,傅永军、于健译,山东大学出版社,2002年,第23页。。阿摩司、何西阿、以赛亚、摩西等被认为是人类最早的先知代表,他们虽然都是人不是神,但他们都是神的“代言人”,或者说他们兼有了神的“超人能力”。显然预知未来就是最典型的“超人能力”,也是最为普通大众所渴望的超能力。在漫长的人类历史中,这种能力长期被极少数人(即先知群体)所“垄断”,他们身上有着浓厚的宗教神秘色彩,他们所有的预言也都服务于宗教的目标,所以我们可以称之为“宗教型先知”。
随着现代科学技术的不断发展,世界不断被理性化“祛魅”,先知也逐渐被“祛魅”了。但人类对预知未来的渴望从未消失,预测未来的能力逐渐为现代科学技术专家所获取,科学家通过研究自然规律可以预测天体运行的轨迹、天气变化的趋势等,这是一种运用人类自身理性来预测未来的能力,现代科学技术专家可以被形象地描绘为“理性化先知”。
这种“理性化先知”也出现在犯罪预测领域里。在19世纪的欧洲,犯罪学家已经开始有意识地研究地理位置与犯罪现象之间的理论关系,并形成了环境犯罪预测的基本理论框架。①Brantingham P L, Brantingham P L, Environment, Routine and Situation: Toward a Pattern Theory of Crime, Advances in Criminological Theory, vol.2, 1993, pp.259-294.到1829年犯罪学家已经开始根据犯罪类型和犯罪统计数据制作最早的犯罪地图,包括阴影犯罪地图、点状犯罪地图和椭圆犯罪地图等。②Chamard S, The History of Crime Mapping and Its Use by American Police Departments, Alaska Justice Forum, vol.3, 2006, pp.1-9.到20世纪中叶,西方国家的警察部门就开始广泛运用以传统统计学为基础的犯罪预测,在当时的刑事司法领域被称为“精算司法”(actuarial justice)③Sarah Brayne, Big Data Surveillance: the Case of Policing, American Sociological Review, vol. 5, 2017, pp.977-1008.。这种传统的犯罪预测技术高度依赖结构化数据、抽样样本和假设检验,试图借助有限的人类理性来发现各种犯罪因素之间的因果关系,以此建构有关犯罪行为的理论体系,并借此理论体系预测未来的犯罪。我们可以形象地称之为“理论型先知”,它是现代“理性化先知”的经典代表。
随着信息技术的突飞猛进和大数据时代的到来,大数据犯罪预测技术成为大数据所“呼召”的对象,因为预测正是大数据的题中应有之义,甚至可以说预测是大数据最重要的功能之一。④[英]维克托·迈尔·舍恩伯格、肯尼斯·库克耶:《大数据时代:生活、工作与思维的大变革》,周涛译,浙江人民出版社,2012年,第16页。大数据犯罪预测技术是利用大数据分析来预测下一次犯罪或一系列犯罪将在何时何地出现,这些预测包括“犯罪风险增加的地点和时间”“未来有犯罪风险的个人”“准确匹配可能的犯罪者和特定既往犯罪的档案”“潜在的犯罪受害者”。⑤Perry, W. L, et al., The Role of Crime Forecasting in Law Enforcement Operations, CA: RAND Corporation, 2013, pp.8-9.这是一种通过纯粹的数据计算来实现对未来犯罪预测的能力,我们可以形象地称之为“计算型先知”。可以说,“计算型先知”是先知进化到大数据时代之后的独特产物。
所有的先知都拥有(至少是宣称拥有)预测未来的能力,所不同的是它们预测未来的方式。“计算型先知”与“理论型先知”都属于现代“理性化先知”,两者都依赖人类理性来预测未来,这一点是它们与“宗教型先知”最大的不同之处,“宗教型先知”是凭借自己与神的内在联系(而非自己的理性)直接“看见”(先知一词的一种英译为seer,即“看见者”或者“先见者”)未来的,这种“看见”未来的超能力是人类理性所无法理解的。
理论上说,所有的预测都基于一个基本假设:“未来与过去相似”,或至少是“未来与过去相连”。因此所有基于人类理性的预测都遵循一个基本逻辑:“已知一个事实以及一种规律知识,由此推演出未知的事实。”⑥[美]卡尔纳普:《科学哲学导论》,张华夏等译,中山大学出版社,1987年,第17页。或者说所谓预测就是将过去投射到未来⑦[美]蒯因:《信念之网》,涂纪亮译,中国人民大学出版社,2007年,第392页。。因此理论上说只要对过去掌握得越细致和完整,对未来的预测就越精准。在这一点上就可以看出“计算型先知”也有着与“理论型先知”根本的不同之处:“理论型先知”依靠人类有限理性的推理能力来预测未来,而它所借以推测的“理(论)”是从观察有限的经验世界中归纳推理出来的因果关系集,比如犯罪学中经典的理性选择理论、日常活动理论等,本质上是一种人类理性建构的产物。“理论型先知”就是依靠自己的有限理性推理出未来的。而“计算型先知”依靠大数据技术,摆脱了有限经验的束缚和对逻辑推理的依赖,不再关注、也无需关注事物之间的因果关系,转而只关注数据显示的相关性。它宣称理论知识已经寿终正寝了,它可以凭借纯粹的数据计算获得“来自数据的洞见”①Rob Kitchin, Big Data, New Epistemologies and Paradigm Shifts, Big Data & Society, vol.1, 2014, pp.1-12.,“计算型先知”就是依靠自己强大而纯粹的计算能力计算出未来的。
“宗教型先知”是不容许也不需要有任何计算能力的,他只是凭借自己的超凡特质赢得追随者,并义无反顾地将他的追随者带向神圣之境。然而作为“计算型先知”的大数据犯罪预测技术的超凡特质就是超级计算能力,它不仅需要计算,而且它仅仅就是计算,“纯粹客观”地、永不休止地计算,这正是“计算型先知”能够在全世界范围内赢得如此广泛追随者的根本原因所在。
值得一提的是,“计算型先知”之所以认为未来可以计算,是因为它自认为可以拥有等同于总体的全样本数据,只有当数据的体量大到全数据时才是真正意义上的大数据,而只有真正的大数据才能够摒弃逻辑推理,仅仅凭借纯粹的数据计算来计算未来。这种意义上的大数据与“宗教型先知”的超能力异曲同工,“宗教型先知”的超能力包含两个方面:一是超强的记忆力和情境再现能力,就像电影《少数派报告》中所呈现的那三个先知一样,他们能记住无数个过去发生事情的细小片段;
二是从过去的记忆和情境中“看见”未来的能力,这种“看见”未来的能力不是人类的理性推理能力,而是超强的信息组合能力。同样地,大数据犯罪预测技术也具有这两方面的能力:一是大数据搜集、存储能力,通过无数个摄像头、感应器,万事万物都被以数据的形式自动记录存储在数据库之中,理论上说只要数据足够多,大数据就拥有了“全知”的能力;
二是大数据分析挖掘能力,能够从数据的海洋中发现事物的相关性,让未来从数据的海洋中自动浮现。大数据犯罪预测技术就假设了可以从足够大的数据集中得出某些可靠的相关性,进而识别、锁定和跟踪那些极有可能犯下某些罪行的人。②Andrew Guthrie Ferguson, Policing Predictive Policing, Washington University Law Review, vol.5, 2017, p.1138.如此看来,“计算型先知”虽然是现代“理性化先知”的当代数字化变体,但它的根基处依然埋藏着“宗教型先知”的影子。与“宗教型先知”相比,“计算型先知”没有丝毫的宗教情怀,但是它的确也有一定程度上的宗教教义,那就是认为生物即算法,万物皆可算③[以]尤瓦尔·赫拉利:《未来简史——从智人到智神》,林俊宏译,中信出版集团,2017 年,第 287页。,流感的趋势是可计算的,犯罪同样是可以计算的。
那么,作为“计算型先知”的大数据犯罪预测技术为什么能够被人们信服呢?或者说大数据犯罪预测技术的权威来源是什么呢?
众所周知,马克斯·韦伯(Max Weber)将权威的来源做了经典的划分:理性权威、传统权威和克里斯玛权威。其中,克里斯玛权威是基于某个个人的罕见神性、英雄品质或者典范特性①[德]马克斯·韦伯:《经济与社会》,阎克文译,上海人民出版社,2010年,第322页。。先知被认为是克里斯玛权威的典型代表,②Christopher Adair-Toteff, Max Weber’s Charismatic Prophets, History of the Human Sciences, vol.27, 2014, pp.3-20.因为先知就是一个“纯粹个人性之克里斯玛禀赋的拥有者”。所谓克里斯玛(Charisma)禀赋就是“超凡魅力”,这种魅力来自神的呼召(call)或神灵(Spirit),先知不依赖于任何体制,而完全依靠自身的超凡魅力成为宗教中的重要角色。③[德]马克斯·韦伯:《宗教社会学》,康乐、简惠美译,广西师范大学出版社,2005年,第57页。超凡魅力的神圣源头是克里斯玛权威的首要来源,或者说与神秘力量的某种神秘连接是克里斯玛权威的必要条件。但仅有必要条件还不够,还必须要有充分条件,克里斯玛权威成立的充分条件就是它必须要有世俗的承认,也就是获得追随者的承认。毕竟追随者不能像克里斯玛那样直接体认神圣的感召,他们只能接受他们能够理解的世俗之物。人们之所以承认克里斯玛的权威,并且因此愿意听从克里斯玛的支配,是因为克里斯玛能够将神的旨意转化为常人所能理解的东西,然后运用超凡的力量创造奇迹,并能够持续地让追随者受益。
克里斯玛不仅仅可以表现在一个具有超凡魅力的英雄、先知身上,也可以体现在一切行之有效的伦理道德、法律制度、象征符号上,“程度较弱的、协调性的、制度化的克里斯玛特质 (propensity)存在于社会的例行功能运作之中。”④Edward Shils, Charisma, Order, and Status, American Sociology Review, vol.30, 1965, pp.199-213.可以说,只要存在秩序的地方,就有克里斯玛的存在。当今,当大数据犯罪预测技术的核心——算法——获得了类似于先知身上的超凡魅力时,或者是当算法被人们普遍地信奉和崇拜时,我们就可以称它为“算法克里斯玛”,算法也就因此获得了权威的来源。克里斯玛是对“超凡魅力”的崇拜,“算法克里斯玛”则是对算法魅力的崇拜,“算法崇拜”⑤[以]尤瓦尔·赫拉利:《未来简史:从智人到智神》,林俊宏译,中信出版社,2017年,第351~353页。使得人们认为算法是比人类理智更值得信任的力量。纽约城市大学商学院教授做了一个有趣的实验,邀请800个测试者,告诉他们要依据投资顾问的建议来做投资。其中一部分测试者被告知,这些建议是真人投资顾问提供的,另一部分测试者被告知,这些建议是自动化的算法程序提供的,然后评估这两部分测试者对各自投资顾问的信心。结果发现,测试者对于算法顾问的建议比对真人顾问的建议更有信心。而且即使告诉这些测试者两种投资建议都失败了,测试者还是更倾向于继续信任算法顾问。
与传统克里斯玛一样,“算法克里斯玛”的权威来源也至少有两个层面:一是算法的神秘主义特点。算法的神秘性不是来自高高在上的神,而是来自算法本身的高度复杂性和隐秘性,还有一定程度的自主性。这种高度复杂性和隐秘性对于大多数普通人来说都是无从理解和把握的,而且因为智能算法具备学习能力,它就拥有了一定程度的自主性,导致即使是算法的设计者也无从把握。“无论有无人类参与或监督,智能算法都能通过机器学习形成一套决策规则来处理新数据。在此过程中,算法操控者不清楚也无需知道其通过机器学习获得决策能力的基本原理。”⑥Brent Daniel Mittelstadt, et al., The ethics of algorithms: Mapping the debate, Big Data & Society, vol.2, 2016, pp.1-21.智能算法凭借自主学习能力能够自动对数据进行挖掘和收集,然后再凭借高级认知能力自动生成和改善程序模型,在整个过程中,只有机器本身了解算法,而人不了解。因为不了解数据的范围和来源,因此也就无法理解算法如何运用不同数据进行论证,导致难以理解数据佐证与算法决策之间的关系。这导致算法的应用和后果很可能只是个意外。①M. S. Feldman & W. J. Orlikowski, Theorizing practice and practicing theory, Organization Science, vol.5, 2011, pp.1240-1253.可以说,算法的神秘主义特点是智能技术发展到一定程度以后所带来的必然结果。但正如信徒无法理解先知与神圣源头之间是如何联系的,这恰恰成为了先知权威的重要来源,算法也因其神秘主义的成分,而让世人无从质疑它的权威。
二是算法的世俗功利主义层面。跟传统的克里斯玛一样,“算法克里斯玛”也不能仅仅凭借自身的神秘主义色彩来树立自身权威,它需要通过创造类似于奇迹一样的事实来让信奉者受益,从而树立自己的权威。只不过算法所创造的“奇迹”不是宗教意义上的奇迹,而是世俗意义上的。算法创造奇迹最成功的案例就是谷歌的流感趋势预测系统,据说该系统能够在官方报告公布之前,准确预测出甲型H1N1流感病毒蔓延的情况。②Chris Hables Gray, Big Data, Actionable Information, Scientific Knowledge and the Goal of Control, Revista Teknokultural, vol.3, 2014, pp.529-554.另有研究表明,如果将所有的汽车驾驶工作完全交给计算机算法来管理,将会减少90%的道路伤亡。③[以]尤瓦尔·赫拉利:《今日简史》,林俊宏译,中信出版集团,2018年,第21页。而且以算法为核心的大数据犯罪预测技术在实践中似乎的确取得了惊人的成效:洛杉矶市应用大数据犯罪预测模型后的一年内,当地盗窃犯罪减少了33%、暴力犯罪减少了21%、侵财犯罪减少了 12%。里士满警察局则自2009年起采用了IBM公司提供的“犯罪洞察和预防解决方案”(IBM Crime Insight and Prevention Solution),在12个月内该地区的暴力犯罪和杀人案件减少了近 30%。在部署了“预测警务”公司提供的犯罪预测软件后,亚特兰大警察局所辖两个社区的犯罪总量于2013年7月分别下降了8% 和9%;
诺克罗斯警察局辖区在2013年8月之后短短四个月内盗窃和抢劫案件数量降低了15%~30%;
加利福尼亚州阿罕布拉的盗窃和偷车案件数量在2013年1月之后分别降低了32% 和20%,并于2014年5月降至历史最低水平。④李皛:《美国“预测性警务”的发展与困境(上)》,《现代世界警察》2021年第3期。
但是,“算法克里斯玛”还有着与传统克里斯玛完全不同的一面,那就是它的数字理性主义层面。传统的克里斯玛只被某种神秘的超越性力量所驱使,是完全非理性的。但是“算法克里斯玛”是高度理性化的,它试图排除一切人类的主观因素,尤其是人类的激情与偏见,用纯数学的逻辑来看待和处理数字化的世界。计算机科学家和计算社会科学家认为,设计良好的算法可以帮助克服人类固有的偏见,确保对所有人都公平的结果。⑤Sharad Goel, et al., Even Imperfect Algorithms Can Improve the Criminal Justice System, New York Times, December 20, 2017.https://www.nytimes.com/2017/12/20/upshot/algorithms-bailcriminal-justice-system.html.尽管面临着各种批判,但是计算机科学家、技术供应商、政策制定者还是坚持认为,大数据犯罪预测技术不仅能够大大提升司法的效率,而且还能够使司法更加公平公正,创造前所未有的种族正义的机会。⑥Eric Siegel, How to Fight Bias with Predictive Policing, Scientific American, February 19, 2018. https://blogs.scientificamerican.com/voices/how-to-fight-bias-with-predictive-policing.所以说,正是因为算法宣称是纯粹理性的,因而是真正客观的,所以人们才倾向于相信算法做出的决策理论上比人类做出的决策要更加科学和可靠,算法克里斯玛才获得了自己的权威。当年韦伯认为,高度理性化的时代里将扼杀克里斯玛存在的可能,但是在大数据时代里,在一个把数字理性奉为神明的时代里,高度数字理性化的算法程序成为了新时期的克里斯玛,一个“理性的克里斯玛”。
因此,“算法克里斯玛”是集成了神秘主义、功利主义和数字理性主义的科技克里斯玛,算法的神秘主义色彩让人们无从质疑算法的合理性,算法的功利主义层面让人们乐于接受算法的积极功效,算法的数字理性主义本质让数字理性化的人类更能够理解算法的合理性。三者共同构成了“算法克里斯玛”的权威来源,共同促成了人们对算法的崇拜。
那么,作为“计算型先知”的大数据犯罪预测技术的大规模扩张又会带来怎样的社会后果呢?一种集成了神秘主义、功利主义和数字理性主义的“算法克里斯玛权威”又会使得当代权力发生怎样的变化呢?
首先有必要指出的是,马克斯·韦伯当年提出克里斯玛的概念,是为了从中找到对抗现代理性化牢笼的可能出路。①李猛:《除魔的世界与禁欲者的守护神:韦伯社会理论中的“英国法”问题》,李猛编:《韦伯:法律与价值》,上海人民出版社,2001年,第126页。因为以科层制为代表的现代理性化世界试图将一切都打造成规章制度,一切的可能性都被消解。只有纯粹的克里斯玛领袖具有超越性和革命性,他试图打破一切的制度和牢笼,为人类打开一扇自由呼吸的窗口。然而,“算法克里斯玛”却不再具备任何的超越性和革命性,因为它自身成为了现代理性化牢笼的一部分,而且它还将现代理性化牢笼升级改造成数字化牢笼。当代高度复杂的大数据技术正在造就一架高度权力化的复杂“巨机器”,在这架“巨机器”中,人无异于一颗颗螺丝钉,服从机械的铁律②[美]刘易斯·芒福德: 《技术与文明》,陈允明、王克仁、李华山译,中国建筑工业出版社,2009 年,第281~291 页。。大数据犯罪预测技术的高度理性化特征将使得当代权力之网更加严密,更加难以撼动、不可违抗。可悲的是,拥有“算法克里斯玛”特质的大数据犯罪预测技术专家恰恰就成了韦伯笔下所描绘的“没有灵魂的专家”,他们用自己的专业知识精心编织着数字化牢笼的一丝一线。
同时,克里斯玛权威与传统型权威和理性权威不同,它不需要从任何外在的地方获取权力来源, 因为他既是权力的赋予者,也是权力的执行者。这一特点传统的克里斯玛就已经具备,而当代的“算法克里斯玛”则有过之而无不及。因为智能算法的高度智能性已经使得算法运行具备了相当程度的自主性,人类的干涉和监督正变得越来越不必要、不可能。这意味着算法的自我赋权功能将大大增强,它不断地诱惑人类把判断交给数据,把决策让给算法③Hamid Ekbia, et al., Big Data, Bigger Dilemmas: A Critical Review, Journal of the Association for Information Science and Technology, vol. 66, 2014, pp. 1523-1545.。人类在犯罪治理、秩序维持等重大社会问题上让渡决策的权力,与人类自由高度相关的文化、价值等等因素都被排除在这个算法决策进程之外。毫无疑问,这样的权力将变得更加任性,不受社会的约束。
最后,传统克里斯玛因其与神圣力量的内在关联而不可避免地具有神秘色彩,而“算法克里斯玛”则因算法自身的高度复杂性和自主性同样具有一定的神秘色彩。这意味着以算法做支撑的当代权力将变得更加难以预测、不可捉摸。“算法克里斯玛”不仅将现代理性化牢笼进一步数字化,而且还将这个数字化牢笼进一步隐秘化。大数据犯罪预测技术将使得权力越来越不透明,甚至连它不透明这个事实都变得不透明。这个被掩盖起来的不透明事实使得大数据技术所暗含的种族歧视、人类偏见以公正、客观的面目大行于世,以至于有人称这种戴着公正面具的算法歧视为“最安静的恐怖主义” 。①Cathy O"Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, New York: Crown Publishing Group, 2016, p. 98.
综上所述,大数据犯罪预测技术的不断扩张代表了数字社会治理模式正在不断向智能化治理方向大步迈进,算法是智能化治理的核心构件。正如任何治理模式都需要树立相应的治理权威,依托算法进行的智能化治理也需要塑造算法的权威。算法的本质是数字理性主义,它是现代理性主义在数字时代的最新产物。而算法的权威则是将数字理性主义塑造为数字克里斯玛,它是理性与信仰、技术与宗教的独特融合。这种独特融合预示着现代性中的祛魅进程并非以不断褪去宗教外衣的形式展开。恰恰相反,宗教正以数字技术的形式深度渗透到数字社会的每一个角落,数字技术也正借着宗教的力量获得数字社会居民的信赖。我们甚至可以说,人类社会数字复魅的景象正在缓缓展开。
猜你喜欢理性化先知克里斯春江水暖鸭先知无人机(2021年1期)2021-04-05打个比方风流一代·经典文摘(2019年12期)2019-09-10纪念与致敬 CP3 XI 克里斯·保罗 CHRIS PAULNBA特刊(2018年7期)2018-06-08“结社革命”背后的幽灵:非营利部门的理性化及其成因中国非营利评论(2017年1期)2017-11-09我不是什么先知延河(2017年7期)2017-07-19春天的小先知(外两首)小学生作文选刊(2017年10期)2017-06-21我国私募股权基金能否迎来“春天”?时代金融(2016年27期)2016-11-25论人事管理程序化商(2016年21期)2016-07-06克里斯·埃文斯 论队长的独一无二电影故事(2016年5期)2016-06-15春江水暖鸭先知学习月刊(2015年1期)2015-07-11扩展阅读文章
推荐阅读文章
恒微文秘网 https://www.sc-bjx.com Copyright © 2015-2024 . 恒微文秘网 版权所有
Powered by 恒微文秘网 © All Rights Reserved. 备案号:蜀ICP备15013507号-1