当前迫切需要迈向实践阶段

日期:2021-04-13 07:59:17 来源:互联网 编辑:小狐 阅读人数:161

□ 曹建峰

当今社会,数字产业化与产业数字化持续推动数字世界与物理世界深度融合发展,人类的生活和生产方式日益被重塑。人工智能算法与数据作为这场经济与社会领域变革的核心推动力,将是未来数年的话题制造者。毫无疑问,数据与人工智能算法的结合,嵌入恰当的应用场景,将带来显著的经济与社会效益。

但也必须重视人工智能算法在公平、安全、隐私、透明、就业等方面可能带来的问题。算法的输出结果可能对特定个体或群体造成歧视、不公平、排斥等,例如人脸识别算法被指在识别有色人种上准确性较差,广告算法、招聘算法被指排斥女性劳动者。算法分发可能助长虚假信息的传播、扩散,也能限制用户对信息的自由选择,进而造成“信息茧房”效应。同时,算法也可能被滥用或恶用,给个人权益、公共利益、等带来威胁,如过度采集与分析人脸信息、大数据杀熟、深度伪造等。

三个阶段

2016年以来,伴随着人工智能技术的快速发展应用,人工智能伦理大致经历了三个发展阶段,当前迫切需要迈向“实践”阶段。

第一阶段从2016年开始,可以称之为原则大阶段。这个阶段的核心是各界纷纷提出或制定伦理原则。以人工智能需要遵循一定的伦理原则为出发点,上到国家、政府机构与国际组织,下到科技公司、行业组织与学术团体,各界纷纷提出或制定AI伦理原则。国内外的主流科技公司如微软、谷歌、IBM、等也都积极响应,陆续提出了各自的AI伦理原则。据不完全统计,相关的AI原则文件超过百份。总之,在这个阶段,各界都在积极倡导AI伦理原则,但缺乏必要的共识与具体的实践。

第二个阶段从2018年开始,可以称之为共识寻求阶段。不同的国家、不同的组织提出了众多的AI原则和伦理框架,这些原则和框架不尽相同,甚至存在一定程度的分歧与冲突。但人工智能与数字经济是全球化的,所以人们希望达成、制定全球共同认可的AI原则。OECD和G20的人工智能原则便是这一阶段的产物。

第三个阶段从2019年开始,可以称之为AI伦理实践阶段。在这个阶段,产业界开始思索如何实施、执行AI原则,探索可以把AI原则为实践的机制、做法、工具等。目前,谷歌、微软、IBM等科技公司已在积极推进AI伦理方面的落地工作,让AI原则操作化、落地化,真正融入、嵌入AI研发流程与业务应用。总之,AI伦理实践应成为当前以及未来AI伦理工作的核心方向,因为要真正把AI伦理落到实处,仅仅倡导AI伦理原则是不足够的,下一阶段需要着力探索把抽象的AI原则“翻译”为或“转变”为具体的实践的治理路径。

五个路径

一是伦理委员会。如果说人工智能是未来智能社会的基石,那么可以说伦理就是使这一基石稳固的必要保障。所以,考虑到不同AI的不同影响,以及立法滞后、法律不健全等因素,科技公司需要在法律合规这一最低要求之外,积极履行伦理。伦理委员会是科技公司履行AI伦理的最基础机制。成立伦理委员会,对AI相关业务与应用进行必要的伦理,已经成为了科技行业的“必选项”例如微软的AETHER委员会、谷歌的AI原则小组、IBM的AI伦理委员会等。伦理委员会的主要职责是制定AI伦理相关的内部标准与流程,并基于此对AI相关业务进行伦理,以识别、预防、消除AI相关应用在安全、公平、隐私等方面风险。在具体运作上,伦理委员会需要多元参与,即技术、法律、伦理等不同专业领域人士的协作配合;伦理委员会负责建立案例、标准、程序、工具、资源等,成为制度知识的资料库,发挥治理主体的作用。此外,伦理委员会比政府立法反应快,能够及时跟进技术创新与应用的快速发展。

二是伦理实践框架。除了对AI业务进行伦理,国外科技公司也在落实AI伦理相关的实践框架,以解决人工智能带来的歧视、不透明、不可解释、隐私等问题。例如,在算法透明性方面,谷歌推出了面向人工智能的“模型卡片”机制,IBM则推出了“AI事实清单”机制,这些机制类似于产品的说明书与食品的营养成分表,对人工智能模型相关的模型细节、用途、影响因素、指标、训练数据、评估数据、伦理考虑、警告与建议等方面进行解释说明,以便人们可以更好地理解、认知AI模型。再如,在隐私保护方面,联邦学习框架(federated learning)既能促进数据利用,又能很好地保护个人隐私。简言之,联邦学习是指在进行机器学习的过程中,各参与方可借助其他方数据进行联合建模,但却无需共享其数据资源。借助联邦学习,可以解决数据不完整、数据不充分等问题,同时保护个人隐私及数据安全。联邦学习在车险定价、信贷风控、预测、视觉安防、辅助诊断、隐私保护广告、自动驾驶等方面具有很大应用前景。此外,AI伦理检查清单、AI公平性检查清单等机制也日益得到科技公司的重视,在确保AI符合伦理要求方面将发挥越来越重要的作用。

三是伦理工具。伦理工具侧重从技术上寻找针对透明性、可解释、公平性、安全性、隐私保护等问题的技术解决方案。此外,还包括针对人脸伪造在内的深度伪造的鉴别工具。从伦理工具的开源发展到商业化服务,大型科技公司和AI伦理创业公司正在弥补AI领域缺失的一环,为AI伦理落地了全新的思路。目前,谷歌、微软、IBM以及一些AI伦理创业公司等都在积极多元化的AI伦理工具并集成到云服务中,AI伦理服务(ethic as a service,简称EaaS)赋能客户与产业。EaaS将来有望成为云服务与云AI的标配。

四是标准认证。就像现在的隐私保护一样,人工智能伦理也可以采取标准认证的方式来推进,符合AI伦理标准的AI产品与服务可以申请相应的认证。目前,IEEE、ISO等国际标准化组织在积极组织制定相关的标准,并尝试推出认证项目。未来我国在这方面也需要积极投入,抢占标准高地,以标准认证的方式鼓励、促进可信的、负的AI的发展应用。

五是伦理培训。技术研发人员处在AI业务一线,是对技术负责的第一人,需要培养他们的伦理意识,帮助他们在AI业务实际中积极践行伦理要求,把伦理要求嵌入产品设计与运作的全流程。所以政府与企业也要对其技术人员加强伦理培训,高校则要加强AI伦理相关教育培训体系的搭建。

三管齐下

AI伦理固然重要,是确保实现负、安全可信AI的重要路径。但也不能片面强调伦理及立法规制,以免影响AI技术的创新应用及其经济社会效益的最大化。

例如,过度强调个人信息与隐私保护,可能导致AI应用获取不到足够的可用数据,进而阻碍AI应用及其对个人与社会的价值;过度强调算法的透明性,可能降低算法的准确性或效率,进而阻碍规模化应用;片面强调在所有场景下都要求人类最终决策与控制,可能无法充分发挥AI解决既有决策环节中人类决策者相关的偏见、歧视等问题。而且很多高风险的AI应用,往往也是高价值的AI应用,所以要在权衡不同利益追求的基础上,做到伦理与发展的平衡,实现负的技术创新与应用。

本文相关词条概念解析:

人工智能

人工智能(ArtificialIntelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式作出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。另外,世界著名科幻电影大师史蒂文·斯皮尔伯格曾导演过一部名叫《人工智能AI》的科幻电影。讲述21世纪中期,由于气候变暖,南北两极冰盖的融化,地球上很多城市都被淹没在一片汪洋之中。2016年1月,Google旗下的深度学习团队Deepmind开发的人工智能围棋软件AlphaGo,以5:0战胜了围棋欧洲冠军樊麾。这是人工智能第一次战胜职业围棋手。

网友评论
相关文章
上海德比,第9分钟奥斯卡制造角球,后者则是攻防一体,对其表示质疑

上海德比,第9分钟奥斯卡制造角球,后者则是攻防一体,对其表示质疑

上海德比,第9分钟奥斯卡制造角球,后者则是攻防一体,对其表示质疑[详情]

但热身赛暴露出来的球队丢球多的问题,广州恒大6场比赛丢了12个球

但热身赛暴露出来的球队丢球多的问题,广州恒大6场比赛丢了12个球

但热身赛暴露出来的球队丢球多的问题,广州恒大6场比赛丢了12个球[详情]

武磊的租借期是半年,可以肯定的是,我们等他回来一起打西甲

武磊的租借期是半年,可以肯定的是,我们等他回来一起打西甲

武磊的租借期是半年,可以肯定的是,我们等他回来一起打西甲[详情]

网站地图    Copyright     2016-2018  资讯网   All rights reserved.