1. 问题的提出
随着互联网这个大数据时代的到来,人工智能已经被广泛运用到生活的方方面面,小到生活中的扫地机器人、智能家电等等。大到国家管理层面,执法、司法、法律监督过程中人工智能更是充分发挥了它的优势,比如在执法领域,利用远程监控就能获取现场资料,简单的行政程序运用算法就能完成行政审批,无论是对相对人还是对行政主体来说,智能行政执法都给我们的生活带来了极大的便利。这不仅仅是时代的变迁,更意味着当前法治需要变化。
然而,智能时代在给我们带来便利的同时,亦让传统行政面临着新的挑战,传统行政耗费巨大人力、物力的执法方式,已经不适合管理当前的大数据和科学技术社会。由于我们当前的智能技术还并未完全成熟,智能行政主体、程序、裁量标准与传统行政又有所差异。因此,结合当前国内外智能行政现状,如何解决现存的“算法歧视”、法律制度欠缺、智能执法程序不规范等相关问题?针对当前存在问题作出分析得出可行性的建议和措施,才能够让人工智能更好地服务于当前的数据社会。
2. 人工智能与智能行政执法的界定
2.1. 人工智能概述
本文需要研究人工智能时代行政执法问题那么就要了解人工智能这个背景,即对它的产生发展过程进行相应的学习。人工智能最早是指研究、开发用于模拟、延伸和扩展人的智能理论、方法、技术及应用系统的一门新的技术科学。人工智能这一语词的出现是约翰麦卡锡在1956年的达特茅斯会议上提出。在之后的研究和学习中可以将它简单分为强人工智能和弱人工智能,强人工智能认为科学将有可能制造出能推理、能解决问题的真正智能机器,此观点认为这些机器将有知觉和自我意识;弱人工智能则认为上述机器不会拥有智能意识,只是便于人们生产生活的一种劳动工具 [1] ;基于上述两种观点,笔者更加认同第二种观点,因为意识是人类独有的产物,思维方式也是不可用程序来复制的。
人工智能的发展可以分为以下六个时期,起步发展期:1956~20世纪60年代初,掀起了人工智能发展的第一个高潮,比如提出了机器定理证明、跳棋程序等等。反思发展期:60年代至70年代初,由于第一阶段有着较大的进展导致人们对人工智能的发展期望过高,提出了一些不切实际的研究目标,对该领域的研究也就就此进入低谷时期。应用发展期:70年代至80年代中期,由专家系统模拟人类的知识和经验解决特定领域的问题,实现了人工智能从理论走向实际、一般策略到专门知识的重大突破,推动了人工智能走向新高潮。低迷发展期:80年代至90年代中期,当时的专家系统在应用方面获取知识困难、缺乏人工智能方面的常识性知识,导致研发与当前数据库难以兼容。稳步发展期:90年代至2010年,互联网时代的发展极大地促进了人工智能的繁荣。蓬勃发展期:2011年至今,随着大数据、信息技术、物联网的深入发展,人工智能迎来了飞速发展的新高潮 [2] 。
人工智能从一开始的简单运用于工厂流水线的生产到家居生活领域,至今已经可以充分利用至立法、执法、司法等一系列的国家管理方式当中,这也从侧面体现了当前的人工智能技术正在向成熟方向发展。在行政执法领域中包括智能抓拍、智能审批系统等等,甚至在某些方面可以实现无人执法,大大减少了执法人员的工作压力,缩短了行政工作周期,凸显了当前时代的行政工作效率。
2.2. 对智能行政执法的界定
智能行政执法在学术上多称为自动化行政,而今对这一概念的界定不同学者有不同看法,有学者认为,自动化行政是由人工智能参与的,以大数据为根基、互联网为手段的,部分或完全取代行政主体的,参与改变行政程序的行政行为 [3] ;也有学者认为,它仅仅是行政机关借助自动化设施的一种行政行为 [4] ;还有其他学者认为,自动化行政不是规范意义上的某种概念,而是一种描述性措辞,是行政决定、程序的智能化,只是通过人工智能来开展行政活动而已 [5] 。
通过对智能行政执法的概念和特征进行比对,笔者认为之前学者对智能行政概念的描述虽然不尽相同,但我们可以发现他们都承认自动化行政是以信息技术或人工智能为手段进行行政执法的行为。在对智能行政法概念界定完之后,我们还要思考它目前的效力问题、对法律理论和法律制度带来的挑战,本文将结合概念、现状、程序所存在的问题对其进行阐述。
3. 人工智能时代行政执法的现状
3.1. 国内现状
上述自动化行政在我国被广泛运用到实践当中,它将对公权力配置产生重大影响。一方面,人工智能的广泛运用可以让国家更加深刻地受到社会的影响,广泛听取群众的声音,互联网的发展也让传统的执法程序更加透明,显著提升国家治理能力和治理效率。比如现存的无人干预的行政审批系统,传统的行政审批在程序上需要两个或者两个以上的部门审核签字,手续复杂,效率低下,在实现人工智能审批之后,不仅流程简单,只要提交的材料符合规定,甚至能够实现程序“秒批”,此类审批已经涉及到“应届毕业生落户政策”、“市场监督管理局对个体工商户的监管”、“养老保险”等多个行政领域,省去了传统因材料不符合来回跑的人力物力财力,操作简易、公开透明,实现了当事人申请、无人干预的自动审批、审批结果的高效行政模式。另一方面,自动化审批从某种程度上有利于克服行政主体办人情案、卖人情账,更能保障百姓的合法权益。在之前的行政程序中,我们经常看到行政主体欺压百姓,利用自己的职权诓骗行政相对人“给予好处费才给走相应的行政审批程序”或者“利用百姓不懂法说某种程序需要手续费请相对人缴纳来谋取私人利益”,还可以避免行政主体偏袒某方相对人,真正实现了行政高效便民。
疫情当下智能行政也扮演着不可或缺的作用,比如跨省、市流动,我们可以提前关注目的地官方公众号,了解当地的防疫政策和要求做好疫情防控准备。对于这种感染性极强的疾病来说,排查难度极大,需要耗费大量人力排查,但是运用人工智能技术我们可以实现远程排查、查验行程码的方式,减少人员近距离接触,尽可能减少执法人员的感染风险。只能罚款缴纳系统也是执法智能化的一个重要体现,往常我们在违反《交通运输法规》之后需要去车管所或者相应的行政机关缴纳罚款,但是线上的只能执法比如“交管123”小程序等等,都可以显示违法、违章具体事项、缴纳罚期限、罚款金额等等,款项清晰,事由明确操作便捷,不仅大大便于当事人操作,而且避免了大量人员去行政机关排队,极大地减轻了行政人员的工作压力。
3.2. 国外现状
人工智能在国外也得到了普遍的运用,比如在人口统计领域,人工智能将学校和医院的信息进行衔接,直接通过学校的现有数据共享就能知道学生的家庭现居地;在农业领域,通过精准的数据算法和统计,就能对农田的相关数据进行合理分配;在交通管理领域,人工智能的引入可以精准查找出每个道路的交通事故以及车辆的违法情况,大大提高了交通安全性。
在德国,关于行政行为性质的确定不会因为运用智能系统的改变而改变。无论是完全自动化行政,还是部分自动化行政,都会被认为是行政行为。为了对该现象进行限制,德国法律规定其需要遵循法律保留原则,即只有法律明文规定与授权的行政行为才可以适用自动化行政方式;对于智能行政的过程和结果还需要遵循行政信息公开原则,须输入数据的信息,程序决策范围以及产生的后果;在责任承担方面,对智能行政行为相对人可以提起行政复议,行政机关对该行为必须处理,行政机关有权对违法的智能行政行为作出撤销或对相对人予以赔偿 [6] 。
人工智能作为一个新事物在行政领域的适用同样是一把双刃剑,一方面它可以精准定位、语音识别、利用机器人技术,解放当前劳动力,提升国家和社会的治理能力,建立起精准、快速、高效、低成本的行政管理系统;另一方面,由于法律的稳定性和滞后性,关于人工智能方面的法律规制问题还是有所欠缺的,比如本文下面会讲到的执法主体的问题、智能执法的合法性问题,都给当前的立法和法学研究带来了巨大挑战。
4. 人工智能时代行政执法存在的问题
4.1. “算法歧视、霸凌现象”严重
算法歧视是人为使用人工智能的过程中,运用大数据分析特定群体的个性,得出的对相对人系统的、反复的不公平待遇,在当前社会它正广泛存在于日常生活中,比如,在日常购物方面,我们会发现如果经常使用某一款软件,那么该个人用户在特定的一款软件上消费的价格会虚高,这是算法在生活领域的“杀熟”歧视现象。那么在智能行政领域,由于数据的开发者在使用智能设备时输入的数据信息偏差或者机器自身的算法逻辑错误,在作出具体的处罚时也可能会出现结果有违公平的现象,那么该现象就违反了平等、合法合理的行政原则,侵害了行政相对人的合法权益。
在我们传统行政的过程中,我们还会坚持“个案平衡原则”,充分考虑个案中的行政相对人的基本情况以及其他客观上的相关因素。在智能行政领域,虽然表面上是遵循了平等原则,但是数据输入的偏差以及相关算法的逻辑错误,使得得出的行政处罚结果也欠缺公正性,再者,我们所讲的公平是法律所追求的实质上的平等,会根据实际情况对相对人作出合理的考量,比如对残疾人的特殊关照,对老年人、未成年人的特殊保护等等,都体现了“法律不外乎人情”。法律是要体现人世间美好、善良温情的,对于疑难案件的判决,我们不能一味地交给智能机器,而是需要借助法律原则、法律规则、法律精神,法官通过朴素的正义观作出符合实质正义的判断,而不能交给当前“算法歧视、霸凌”相对欠缺的机器人。因为上述的智能行政忽略了个案中的特殊情况,有时只能遵循程序上的平等而忽视了实质上的平等和公正。
4.2. 当前人工智能法律制度不健全
智能执法在行政领域的广泛适用,由于法律具有一定的滞后性,智能执法对执法主体、程序、效果、责任承担方面均带来了重大挑战。首先,在执法主体方面,传统行政中行政主体是法律规定的行政主体或经法律授权的其他行政组织,法律规定各主体的职责范围,在作出行政处罚之后,各执法主体需要对自身作出的处罚结果负责;我们发现在行政处罚、行政许可、行政审批等多个方面都会有智能行政执法的身影,但在当前的法律中并没有明确承认人工智能的地位,更没有对它的职责范围作出规定和约束。传统行政中行政执法人员也只是行政执法主体的构成要素,并不是法律上的行政主体本身,同理,人工智能也是人类为了服务于自身创造的一种工具而已,在本质上也是基于人而产生的,因此我们通过现行法律对智能行政行为作出约束和规定,使它合法化即可解决现存问题。
其次,在执法效力层面智能执法的合法性受到质疑。传统行政领域中的合法行政原则包括法律优先和法律保留。从智能化行政的权力来源来看,我们只是把它当成执法人员行政的一种机器设备,但在某些领域我们会发现智能执法没有任何的人工参与,忽略了智能设备可以完全自主做出行政处罚的情形。比如在智能审批过程中,相对人只需要按规定的流程提交相关材料,根据行政机关实现设定的审批程序,无需人工介入就会得到与材料相匹配的审批结果,从这一现象来看人工智能某种程度上可以脱离“人”这个主体,代替“国家公务员”做出行政行为,但并不代表它能够完全等同于公务员这个主体,二者有以下两个区别:第一,公务员的产生和录用会经过严格的考核和选拔,而智能化执法只需要设定相关代码和程序就能反复利用并且得出准确的行政执法结果;第二,人具有独一无二的思维程序和人类情感。人工智能存在一定职权属性冰冷的智能化设备,具有“物”的属性,在执法过程中对复杂案件缺乏判断能力,对相对人的处境缺乏共情能力,对相关法律缺乏解释能力。笔者认为,智能行政活动、人工智能设备虽然是执法者的辅助设备,但它又并不单纯的只是“物”,因其在某些方面,某种程度上无须“人”这个主体的干涉就能独立做出行政决定,我们可以完善当前的法律制度来规范上述的人工智能独立做出的某种行政行为。
4.3. 当前智能行政执法程序不规范
人工智能的出现对行政执法程序带来较大挑战。传统行政执法要求遵循程序法定和正当程序原则,程序公正是实体公正的前提和基础,实体公正是程序公正的目的和体现,二者相辅相成,缺一不可。行政机关在行政执法过程中,如果违反法定程序将可能产生该行政行为无效的法律后果,程序的合法正当也有利于保障实体处罚结果的公平公正,并且行政执法程序是法律明文规定行政主体必须遵守的,具有国家意志性 [7] 。在智能化行政过程中,机器设备直接根据算法得出处罚结果,相对人的申请听证,说明理由、陈述申辩等权利都没有得到相应保障,结合疫情防控环境背景,如果行政主体通过大数据对相对人非因法定原因做出赋黄码限制出行行为,或者算法本身就对相对人做出算法歧视、霸凌行为,此种情况下相对人对该“内幕”现象全然不知,那么将会直接对行政相对人合法权益带来损害,严重损害行政执法机关的威信。
在行政执法责任问题上,行政执法责任是基于特定的行政行为产生的否定法律后果,责任主体是参与到行政活动中的主体由专门的国家机关依法追究或主动承担相应的否定性法律后果,包括恢复原状、采取补救性措施、停止侵害等方式,但最后它的归责方式和责任承担最终都会落到具体的“人”身上,我国在当前阶段尚未承认人工智能的法律地位,目前在行政执法领域由于人工智能没有识别人类而对“人”这个主体实施了伤害行为致其死亡 [8] ,这样的后果又应该由谁来承担呢?美国学者提出了三种责任承担方式:第一种是代理人承担方式,该观点坚持弱人工智能理论,人工智能只是人类生产生活的工具,由此导致的行为后果应由使用或操控它的人来承担相应的刑事或民事责任 [9] 。第二种观点是自然–可能–结果的责任方式,该观点主要适用于规制疏忽大意的过失的情况,对于设置程序者来说,只要不存在主观上的故意,处于应当预见而疏忽大意没有预见的情形,设置者不能以不知道该危害结果会发生为理由进行抗辩。第三种观点是直接责任模式,该观点承认人工智能的法律地位,主张将程序设置者与人工智能分离,如果人工智能本身有自主的犯罪意识,应当承担法律责任,显然当前的人工智能技术并没有达到此种观点的要求。根据当前的人工智能在行政法领域的发展,笔者看来第一种责任承担机制更加科学合理 [10] 。
5. 人工智能时代行政执法问题的规制路径
5.1. 完善智能行政“算法歧视、霸凌”规制规则
“算法歧视”现象会明显损害相对人的合法权益。有学者认为对人工智能规制的伦理主旨是由当代中国国情决定的中国集体主义与平等权为基石的基本权利保障的迫切需求的结合,逻辑起点立足于人的生存和发展即对于人基本权利保障与消除数字化时代人工智能技术发展的价值冲突。
一方面,对于可能造成“算法霸凌、歧视”的行为概念作出明确的规定,与此同时,对人工智能技术进行严格的合规监管,公权力机构在适用相关技术之前对技术统一招标采购,防止某个特定的主体在设定程序时进行更改而导致“算法霸凌、歧视”现象。另一方面,引进国外对自动化行政中的算法规制,比如,美国要求算法的基础性、原则性规制为平等保护原则,法律面前人人平等,即使是自动化行政也不例外,并且相对人可以要求相关行政主体对自动化行政作出相关的解释、给出相关证据等等;德国要求数据算法必须遵循行政信息公开原则,即使是算法行政也要保证决策的公正性,使行政权力在阳光下运行 [4] 。根据上述阐述,我国对于规制“算法霸凌”现象也可以在招标程序时就做到统一公正,从源头防止程序上出现问题,在智能行政做出相关决定后,在决定通知上将行为与具体的行政主体挂钩,告知相对人有权利前往相关行政主体要求其给出相关解释和理由,就此来规制大数据时代的“算法霸凌”现象带来的执法不公行为。
5.2. 健全人工智能在行政领域的法律制度
2017年7月20日,国务院印发了《新一代人工智能发展规划》,提出了面向2030年我国新一代的人工智能发展指导思想、战略目标、重点任务及保障措施等等,该规划说明对人工智能进行立法规范具有国家政策性支撑,但是由于法律的滞后性该规范才有所遗漏,从当前行政执法形势来看,加快人工智能及其相关立法迫在眉睫。但是随着互联网技术的不断发展,人工智能相关立法也不可操之过急,应当分清轻重缓急,循序渐进,对于当前急需解决的法律问题作出相应规定,对于目前存在尚不成熟智能行政执法问题暂时不作规定,之后根据法律解释或者其他方式来填补规则的缺失。
人工智能立法也要遵循科学立法、民主立法、正当程序以及公平公正原则,人工智能作为一项新事物,它给我们社会生活带来的便利不容置喙,但是本文上述阐述到如何将人工智能扬长避短才是本文急需解决的问题。在相关立法过程中,我们可以利用大数据调查,在遵循客观规律发展的同时,协调人工智能领域立法与社会大众情感间的关系,遵守公序良俗原则;通过互联网平台广泛征求民意,实现立法过程与人民双向互动,人们也可以充分地发挥主观能动性,集思广益推动立法科学民主化。
首先要对人工智能执法的法律地位作出明确阐述;其次要对该主体的执法范围作出限制,对于简单案件毫无疑问可以交给人工智能,疑难复杂案件则需要执法人员具体问题具体分析,最后根据案件不同情况做出决定,这样也可以起到一个繁简分流的效果,让执法人员可以有更多的精力集中解决重大疑难案件,使结果更加合理化。当前上述问题在于疑难案件和简单案件划分标准是什么?我们又应当如何设置程序使其实现繁简分流?对此笔者认为,可以在人工智能处理程序中设置特别注意的禁止性规则,如涉及情感、道德判断、思维活动等不适合由人工智能机械判断的案件,则可以单独填写程序要求人工进行处理;最后关于责任承担方面,根据权责一致原则笔者认为当前立法可以考虑代理人承担责任方式,即由使用或操控该人工智能的主体承担责任。
5.3. 规范人工智能的行政执法程序
在人工智能行政执法程序过程中,应当让智能行政执法程序达到人们普遍接受的程度,要通过立法的方式解决人工智能行政行为的执法程序及效力不明确的问题。在传统行政中,相对人有被告知的权利,那么在智能化时代中我们也可以效仿传统行政,赋予智能执法主体合格的法律地位,让它来充当传统的告知主体地位,通过程序、算法直接发送违法信息,由此不仅顺应了当前数据时代的发展,保证了执法的效率,而且解决了当前法律不完善引发的智能行政执法的合法性问题。
在行政听证程序中,由于智能行政都是借助互联网络为媒介实施行政行为,那么对于听证方式我们也可以借助互联网络,由相对人线上申请并召开听证会;对智能主体做出的行政处罚建立严格的查明和复议程序。相对人有权依照程序要求智能主体提供处罚理由、说明救济途径和方式,对人工智能主体解释不满意时,相对人可以进一步申请人工审核并作出合理解释,智能行政执法对相对人合法权益侵害的,相对人有依法提出行政复议和要求行政赔偿的权利。
在行政裁量方面传统行政具有一定的地域性,即在不同的地方存在着不同的裁量标准,为解决这一现象,智能化行政执法时代我们可以利用互联网络建立统一的数据库,当然也要注意到行政裁量的因地制宜性,不可一刀切。比如在数据库中将经济发展水平差不多的城市划分为一类,在程序中设定一个统一的裁量标准,实现因地制宜的智能化裁量,还可以建立监督的问责平台。这样既能保证权责统一,又能实现行政的便捷化,节约行政成本,让相关行政人员集中精力解决好重大疑难案件中的裁量问题,保证办案的质量。
最后,对智能执法建立严格的监督管理机制。人工智能的相关法律可以就研发过程进行规定,对研发主体行为进行监督,比如规定研发过程中不得设立触犯人类底线、伦理的程序代码,对人工智能进行风险评估后进行风险等级的划分,规定多大风险是当前社会可以承受的,那么在当前社会可以承受的范围内该人工智能程序便可以被研发,高出法律规定的风险则不可以被研发。对执法活动中的公民隐私和信息应当给予特殊保护,防止出现上文阐述到的执法人员利用大数据程序徇私将相对人“赋黄码”,除了对公务员主体进行隐私保护考核之外,政策层面也应当设定相关法律规制数据隐私泄露侵权和算法歧视现象,国家层面应当对行政执法机构掌握的公民个人隐私数据进行严格的监管,公民也可以运用正当途径对智能行政行为进行监督。
6. 结束语
任何事物都是一把双刃剑,人工智能作为新事物进入人们的视野亦不例外,智能执法已经运用到了行政执法的各个阶段。一方面,智能执法可以精简行政人员,提高行政效率,节约行政执法资源,更大程度地避免了传统行政的“因人办案”、“办人情案”、“同案不同判”现象。另一方面,本文中提到的智能行政执法因法律具有滞后性的特征,日渐突出的法律问题是急需解决的,如对行政主体的挑战、因“算法霸凌”对相对人合法权益的损害、智能行政行为的责任主体认定问题等等。上述问题都需要我们对当前法律漏洞和欠缺进行填补来规避,避免智能行政行为无法可依,需要我们明确智能行政立法原意,用合法、合理的方式解决智能行政行为带来的问题。本文对当前智能执法行为存在的问题进行了分析并提出了相关的可行性建议,当然实践中还有其他问题有待发现解决。