个人信息走漏、信息距离、茧房…丨人工智能品德问题的现状剖析与对策

发布时间:2021-12-22 10:23:39 | 作者:环球体育靠谱吗


  原标题:个人信息走漏、信息距离、信息茧房…丨人工智能品德问题的现状剖析与对策

  本文刊载于《我国科学院院刊》2021年第11期专题:科技品德办理的战略研讨

  品德是处理人与人之间联系、人与社会之间联系的道理和次序标准。人类历史上,严重的科技展开往往带来生产力、生产联系及上层建筑的明显改变,成为区别年代的一项重要标准,也带来对社会品德的深化反思。

  人类社会于 20 世纪中后期进入信息年代后,信息技能品德逐渐引起了广泛注重和研讨,包括个人信息走漏、信息距离、信息茧房、新式权力结构规制缺乏等。

  信息技能的高速革新展开,使得人类社会敏捷迈向智能年代,其杰出表现在带有认知、猜测和决议方案功用的人工智能算法被日益广泛地运用在社会各个场景之中;前沿信息技能的归纳运用,正逐渐展开构成一个万物可互联、万物可核算的新式硬件和数据资源网络,能够供给海量多源异构数据招供工智能算法剖析处理;人工智能算法可直接操控物理设备,亦可为个人决议方案、群体决议方案甚至国家决议方案供给辅佐支撑;人工智能能够运用于才智家居、才智交通、才智医疗、才智工厂、才智农业、才智金融等许多场景,还或许被用于兵器和军事之中。

  但是,迈向智能年代的进程如此敏捷,使得咱们在传统的信息技能品德次序没有树立完结的情况下,又迫切需求应对愈加赋有应战性的人工智能品德问题,活泼构建智能社会的次序。

  3.显现品德智能体(能依据形式的改变及其对品德标准的了解采纳合理举动);

  当时人工智能展开尚处在弱人工智能阶段,但也对社会和环境发生了必定的品德影响。人们正在探究为人工智能内置品德规矩,以及经过品德推理等使人工智能技能的完成中也包括有对品德规矩的了解。

  近年来,越来越多的人呼吁要赋予人工智能机器必定的品德主体位置,但机器能否成为彻底品德智能体存在巨大的争议。虽然当时人工智能在一些场景下的功用或行为与人类挨近,但实则并不具有“自在毅力”。从经典社会标准理论来看,是否能够成为标准含义上的“主体”来承当职责,并不取决于其功用,而是以“自在毅力”为中心来构建的。黑格尔的《法哲学原理》即以自在毅力为起点打开。因而,当时阶段对人工智能品德问题的剖析和处理途径构建应首要环绕着前 3 类品德智能体展开,行将人工智能定性为东西而非主体。

  当时阶段,人工智能既继承了之前信息技能的品德问题,又因为深度学习等一些人工智能算法的不通明性、难解说性、自适应性、运用广泛等特征而具有新的特色,或许在根本人权、社会次序、国家安全等诸多方面带来一系列品德危险。

  1.人工智能系统的缺点和价值设定问题或许带来公民生命权、健康权的要挟。2018 年,Uber 自动驾驶轿车在美国亚利桑那州发生的丧命事端并非传感器呈现毛病,而是因为 Uber 在规划系统时出于对乘客舒适度的考虑,对人工智能算法辨认为树叶、塑料袋之类的障碍物做出予以疏忽的决议。

  2.人工智能算法在方针演示、算法轻视、练习数据中的偏失或许带来或扩展社会中的轻视,损害公民的相等权。

  4.深度学习等杂乱的人工智能算法会导致算法黑箱问题,使决议方案不通明或难以解说,然后影响公民知情权、程序合理及公民监督权。

  5.信息精准推送、自动化假新闻编撰和智能化定向传达、深度假造等人工智能技能的乱用和误用或许导致信息茧房、虚伪信息许多等问题,以及或许影响人们对重要新闻的获取和对公共议题的民主参加度;虚伪新闻的精准推送还或许加大影响人们对现实的知道和观念,从而或许鼓动民意、操作商业商场和影响政治及国家方针。剑桥剖析公司运用 Facebook 上的数据对用户进行政治偏好剖析,并据此进行定向信息推送来影响美国大选,这便是典型实例。

  6.人工智能算法或许在更不易于被发觉和证明的情况下,运用算法轻视,或经过算法合谋构成横向独占协议或轴辐协议等办法,损坏商场竞赛环境。

  7.算法决议方案在社会各范畴的运用或许引起权力结构的改变,算法凭仗其能够处理海量数据的技能优势和无所不在的信息系统中的嵌入优势,对人们的权益和自在发生明显影响。例如,银行信贷中经过算法进行信誉点评将影响公民是否能取得借款,刑事司法中经过算法进行社会危害性评价将影响是否进行审前拘押等,都是杰出的表现。

  8.人工智能在作业场景中的乱用或许影响劳动者权益,并且人工智能对劳动者的代替或许引发大规模结构性赋闲的危机,带来劳动权或就业机会方面的危险。

  9.因为人工智能在社会生发日子的各个环节日益广泛运用,人工智能系统的缝隙、规划缺点等安全危险,或许引发个人信息等数据走漏、工业生产线中止、交通瘫痪等社会问题,要挟金融安全、社会安全和国家安全等。

  10.人工智能兵器的乱用或许在国际范围内加重不相等,要挟人类生命与国际和平……

  1.人工智能品德危险的成因具有多元性,包括人工智能算法的方针失范、算法及系统缺点、受影响主体对人工智能的信任危机、监管机制和东西短缺、职责机制不完善、受影响主体的防护办法单薄等。

  2.人工智能技能和工业运用的飞速展开,难以充沛描写和剖析其品德危险及供给处理方案。这要求咱们有必要战胜传统标准系统的滞后性,而选用“面向未来”的眼光和办法论,对人工智能的规划、研制、运用和运用中的标准结构进行活泼考虑和构建,并从树立品德原则等软法开端,引领和标准人工智能研制运用。

  关于人工智能的展开,咱们既不能盲目乐观,也不能因噎废食,要深化知道到它能够添加社会福祉的才能。因而,在人类社会步入智能年代之际,有必要趁早从微观上引导人工智能沿着科学的路途前行,对它进行品德反思,辨认其间的品德危险及其成因,逐渐构建科学有用的办理系统,使其更好地发挥活泼价值。

  当时全球人工智能办理还处于初期探究阶段,正从构成人工智能品德原则的根本一致动身,向可信评价、操作攻略、职业标准、方针法规等落地实践逐渐深化,并在加速构建人工智能国际办理结构系统。

  近几年来,许多国家、区域、国际和国内安排、企业均纷繁发布了人工智能品德原则或研讨陈述。据不彻底统计,相关人工智能品德原则现已超越 40 项。除文明、区域、范畴等要素引起的差异之外,能够看到现在的人工智能品德原则已构成了必定的社会一致。

  近年来,我国相关安排和职业安排也十分活泼活泼参加其间。例如:2018 年 1 月,我国电子技能标准化研讨院发布了《人工智能标准化白皮书(2018 版)》,提出人类利益原则和职责原则作为人工智能品德的两个根本原则;2019 年 5 月,《人工智能北京一致》发布,针对人工智能的研制、运用、办理 3 个方面,提出了各个参加方应该遵从的有益于人类命运共同体构建和社会展开的 15 条原则;2019 年 6 月,国家新一代人工智能办理专业委员会发布《新一代人工智能办理原则——展开负职责的人工智能》,提出了人工智能展开的 8 项原则,勾勒出了人工智能办理的结构和举动攻略;2019 年 7 月,上海市人工智能工业安全专家咨询委员会发布了《人工智能安全展开上海主张》;2021 年 9 月,中关村论坛上发布由国家新一代人工智能办理专业委员会拟定的《新一代人工智能品德标准》等。从发布内容上看,一切原则在以人为本、促进立异、保证安全、保护隐私、清楚职责等价值观上取得了高度一致,但仍有待持续加深理论研讨和证明,进一步树立一致。

  美国、欧洲、日本等国家和区域在大力推动人工智能技能和工业展开的一起,高度注重人工智能的安全、健康展开,并将品德办理归入其人工智能战略,表现了展开与品德安全偏重的根本原则。

  习总书记高度注重科技立异范畴的法治建造问题,着重“要活泼推动国家安全、科技立异、公共卫生、生物安全、生态文明、防备危险、涉外法治等重要范畴立法以良法善治保证新业态新模式健康展开”。

  近年来,我国在应对新技能新业态的规制和监管方面,构成了“容纳审慎”的全体方针。这项根本方针在 2017 年就已正式提出。在 2020 年 1月1日起施行的《优化营商环境法令》第 55 条中更是专门规矩了“容纳审慎”监管原则:“政府及其有关部门应当依照鼓舞立异的原则,对新技能、新工业、新业态、新模式等施行容纳审慎监管,针对其性质、特色分类拟定和施行相应的监管规矩和标准,留足展开空间,一起保证质量和安全,不得简单化予以制止或许不予监管。”这为当时人工智能品德办理供给了根本原则和办法论。

  一方面,要注重调查,知道到新技能新事物往往有其活泼的社会含义,亦有其展开完善的客观规律,应予以必定空间使其能够展开完善,并在其展开中的必要之处构成规制办法和办法。

  另一方面,要据守底线,包括公民权力保护的底线、安全的底线等。关于现已构成高度社会一致、凝结在法令之中的重要权益、价值,在法令、司法进程中都要依法进行保护。这既是法令对相关技能研制者和运用者的清晰要求,也是法令关于在智能年代保护公民权益、促进科技向善的慎重许诺。

  在人工智能办理全体途径挑选方面,首要有两种理论:“敌对论”和“系统论”。

  “敌对论”首要着眼于人工智能技能与人类权力和福祉之间的敌对抵触,从而树立相应的检查和规制原则。在这一视角下,一些国家和安排要点注重了针对人工智能系统自身及开发运用中的一些品德原则。例如,2020 年《人工智能品德罗马主张》中提出 7 项首要原则——通明、容纳、职责、公平、牢靠、安全和隐私,欧盟委员会于 2019 年《可信赖人工智能的品德攻略》中提出人工智能系统全生命周期应恪守合法性、合品德性和稳健性 3 项要求,都表现了这一进路。

  “系统论”则着重人工智能技能与人类、其他人工署理、法令、非智能基础设施和社会标准之间的调和互动联系。人工智能品德触及一种社会技能系统,该系统在规划时有必要留意其不是一项孤立的技能方针,而是需求考虑它将要在怎样的社会安排中运作。咱们能够调整的不只仅是人工智能系统,还有在系统中与之相互效果的其他要素;在了解人工智能运作特色的基础上,能够在整个系统内考虑各个要素怎么进行最佳分配办理。当时在一些方针和法规中已有必定“系统论”进路的表现。例如,IEEE(电气与电子工程师协会)发布的《合品德规划》中提出的 8 项原则之一即为“资质”(competence),该原则提出系统创建者应清晰对操作者的要求,并且操作者应恪守安全有用操作所需的常识和技能的原则,这表现了从对运用者要求的视点来补偿人工智能缺乏的系统论视角,对智能年代的教育和训练提出了新需求。

  我国国家新一代人工智能办理专业委员会 2019 年发布的《新一代人工智能办理原则——展开负职责的人工智能》中,不只着重了人工智能系统自身应该契合怎样的品德原则,并且从更系统的视点提出了“办理原则”,即人工智能展开相关各方应遵从的 8 项原则;除了调和友爱、尊重隐私、安全可控等侧重于人工智能敞开和运用的原则外,还专门着重了要“改善办理办法”,“加强人工智能教育及科普,提高适应性,尽力消除数字距离”,“推动国际安排、政府部门、科研安排、教育安排、企业、社会安排、大众在人工智能展开与办理中的调和互动”等重要原则,表现出包括教育革新、品德标准、技能支撑、法令规制、国际合作等多维度办理的“系统论”思维和多元共治的思维,供给了愈加归纳的人工智能办理结构和举动攻略。根据人工智能办理的特殊性和杂乱性,我国应在习总书记提出的“打造共建共治同享的社会办理格式”的辅导下,系统性地考虑人工智能的办理维度,建造多元共治的人工智能归纳办理系统。

  人工智能品德办理是社会办理的重要组成部分。我国应在“共建共治同享”办理理论的辅导下,以“容纳审慎”为监管原则,以“系统论”为办理进路,逐渐建造构成多元主体参加、多维度、归纳性的办理系统。

  教育是人类常识代际传递和才能培育的重要途径。经过国务院、教育部出台的多项办法,以及联合国教科文安排发布的《教育中的人工智能:可持续展开的机会与应战》、《人工智能与教育的北京一致》13等陈述能够看到,国内外均开端注重教育的展开革新在人工智能技能展开和运用中有着不可或缺的效果。

  4.研讨青少年教育革新,打破工业化年代传承下来的常识化教育的局限性,回应人工智能年代对人才的需求。

  我国《新一代人工智能展开规划》中说到,“展开人工智能行为科学和品德等问题研讨,树立品德品德多层次判别结构及人机协作的品德结构”。一起,还需拟定人工智能产品研制规划人员及日后运用人员的品德标准和行为守则,从源头到下流进行束缚和引导。

  1.针对人工智能的要点范畴,研讨细化的品德原则,构成具有可操作性的标准和主张。

  4.充沛发挥国家层面品德委员会的效果,经过拟定国家层面的人工智能品德原则和推动方案,定时针对新业态、新运用评价品德危险,以及定时评选人工智能职业最佳实践等多种办法,促进先进品德危险评价操控经历的推行。

  5.推动人工智能科研院所和企业树立品德委员会,领导人工智能品德危险评价、监控和实时应对,使人工智能品德考量贯穿在人工智能规划、研制和运用的全流程之中。

  经过改善技能而下降品德危险,是人工智能品德办理的重要维度。当时,在科研、商场、法令等驱动下,许多科研安排和企业均展开了联邦学习、隐私核算等活动,以更好地保护个人隐私的技能研制;一起,对加强安全性、可解说性、公平性的人工智能算法,以及数据集反常检测、练习样本评价等技能研讨,也提出了许多不同范畴的品德智能体的模型结构。当然,还应完善专利原则,清晰算法相关创造的可专利性,进一步鼓舞技能立异,以支撑契合品德要求的人工智能系统规划。

  此外,一些要点范畴的引荐性标准拟定作业也不容忽视。在人工智能标准拟定中,应强化对人工智能品德原则的遵循和支撑,注重对隐私保护、安全性、可用性、可解说性、可追溯性、可问责性、评价和监管支撑技能等方面的标准拟定,鼓舞企业提出和发布自己的企业标准,并活泼参加相关国际标准的树立,促进我国相关专利技能归入国际标准,协助我国在国际人工智能品德原则及相关标准拟定中提高话语权,并为我国企业在国际竞赛中奠定更好的竞赛优势。

  法令规制层面需求逐渐展开数字人权、清楚职责分配、树立监管系统、完成法治与技能办理有机结合。在当时阶段,应活泼推动《个人信息保护法》《数据安全法》的有用施行,展开自动驾驶范畴的立法作业;并对要点范畴的算法监管原则加强研讨,区别不同的场景,讨论人工智能品德危险评价、算法审计、数据集缺点检测、算法认证等办法适用的必要性和前提条件,为下一步的立法做好理论和原则主张预备。

  当时,人类社会正步入智能年代,国际范围内人工智能范畴的规矩次序正处于构成期。欧盟聚集于人工智能价值观进行了许多研讨,希望经过立法等办法,将欧洲的人权传统转化为其在人工智能展开中的新优势。美国对人工智能标准也尤为注重,特朗普于 2019 年 2 月发布“美国人工智能方案”行政令,要求白宫科技方针办公室(OSTP)和美国国家标准与技能研讨院(NIST)等政府安排拟定标准,辅导开发牢靠、稳健、可信、安全、简练和可协作的人工智能系统,并呼吁主导国际人工智能标准的拟定。

  我国在人工智能科技范畴处于国际前列,需求愈加活泼主动地应对人工智能品德问题带来的应战,在人工智能展开中承当相应的品德职责;活泼展开国际交流,参加相关国际办理方针及标准的拟定,掌握科技展开话语权;在最具代表性和突破性的科技力气中占有展开的制高点,为完成人工智能的全球办理作出活泼奉献。

  人工智能(AI)是第四次工业革命中的中心技能,得到了国际的高度注重。我国也环绕人工智能技能拟定了一系列的展开规划和战略,大力推动了我国人工智能范畴的展开。但是,人工智能技能在为经济展开与社会进步带来严重展开机会的一起,也为品德标准和社会法治带来了深化应战。2017 年,国务院印发的《新一代人工智能展开规划》提出“分三步走”的战略方针,掀起了人工智能新热潮,并清晰提出要“加强人工智能相关法令、品德和社会问题研讨,树立保证人工智能健康展开的法令法规和品德品德结构”。2018 年,习总书记在掌管中共中央政治局就人工智能展开现状和趋势举办的团体学习时着重,要加强人工智能展开的潜在危险研判和防备,保护人民利益和国家安全,保证人工智能安全、牢靠、可控。要整合多学科力气,加强人工智能相关法令、品德、社会问题研讨,树立健全保证人工智能健康展开的法令法规、原则系统、品德品德。2019 年,我国新一代人工智能展开规划推动办公室专门成立了新一代人工智能办理专业委员会,全面担任展开人工智能办理方面方针系统、法令法规和品德标准研讨和作业推动。《中华人民共和国国民经济和社会展开第十四个五年规划和2035年前景方针大纲》中专门着重要“探究树立无人驾驶、在线医疗、金融科技、智能配送等监管结构,完善相关法令法规和品德检查规矩”。这些均表现了我国对人工智能品德及其办理的亲近注重程度和活泼推动决计,一起也杰出了这一问题的重要性。

  张兆翔我国科学院自动化研讨所研讨员。研讨方向为生物认知启示的视觉感知与了解、类人学习、类脑智能等。

  谭铁牛我国科学院院士,英国皇家工程院外籍院士,展开我国家科学院院士和巴西科学院通讯院士。我国科学院自动化研讨所智能感知与核算研讨中心主任、研讨员。研讨方向为生物特征辨认、图画视频了解和信息内容安全。

  张兆翔,张吉豫,谭铁牛.人工智能品德问题的现状剖析与对策.我国科学院院刊,2021,36(11):1270-1277.