您好,欢迎光临!   请登录 免费注册    
  您的位置:电子变压器资讯网 > 资讯中心 >  综合领域 > 正文
违规、歧视、安全问题 如何应对AI时代的风险?
[发布时间]:2019年9月4日 [来源]:第一财经 [点击率]:2178
【导读】: [从网络直播到求职招聘,从自动驾驶到智能安防,人类已开始大踏步迈入智能时代。尽管还面临一些挑战,人工智能的大潮已经势不可挡。政府和企业是人工智能领域的主要推动力量,我们认为政府应当主要从制度建设,...

  [从网络直播到求职招聘,从自动驾驶到智能安防,人类已开始大踏步迈入智能时代。尽管还面临一些挑战,人工智能的大潮已经势不可挡。政府和企业是人工智能领域的主要推动力量,我们认为政府应当主要从制度建设,企业应当主要从治理和流程上来应对当下的风险和挑战。]
  [对政府而言,在推动新一代人工智能发展的同时,需要进一步加强监管,使监管能够跟上技术的发展和应用的落地。]
  [据估计,人工智能的经济潜力高达15.7万亿美元。]
  [波音公司两驾737Max客机连续坠毁,失事原因很可能是由于飞机自动驾驶系统在错误的信号下判断飞机有失速风险,选择降低机头,使飞机俯冲。]

  人们在生活中已经开始习惯用语音控制电子设备、用图像识别人脸、让机器处理家务,人工智能正在全方位渗透到我们生活的每一个角落。同时,据估计,人工智能的经济潜力高达15.7万亿美元。
  然而,随着落地场景的不断增多,使用范围的不断扩大,人工智能应用也暴露出一些问题,尤其是其带来的诚信问题、安全问题和社会问题引发了监管机构、业界和公众的广泛关注。根据普华永道的一项最新报告,只有当各家企业采用负责任的人工智能项目,并在开展项目之前经过深思熟虑时,其经济潜力才能成为现实。

  人工智能正面临五大风险与挑战
  目前,用户在应用人工智能时,主要面临来自五个方面的风险和挑战。
  第一,合规。目前针对人工智能的监管还处于探索阶段,远远落后于应用落地的速度。相关的法律法规较少,合规要求相对模糊,监管的不确定性是企业面临的重要风险。
  监管要求的落地是企业面临的另一项挑战。数据是人工智能的基础,在应用人工智能时,企业需要满足包括数据收集、隐私保护等要求。2017年,谷歌旗下人工智能子公司DeepMind所开发的移动应用Streems因收集患者医疗病历被英国信息委员会裁定违背了英国数据保护法。2019年5月,出于对侵犯个人隐私的担忧,美国旧金山通过一项法令禁止该城市的政府机构使用人脸识别技术。
  在特定的情形下,企业还需要向监管机构证明复杂的人工智能应用程序是如何做出决策的,以判断是否满足监管要求,这对企业和监管机构而言均有一定的难度。
  第二,道德和伦理。决策偏见可能是人工智能应用中最突出的道德风险。亚马逊公司在利用人工智能算法进行求职简历审核时发现,由于科技行业简历大多都是男性投递的,其机器学习引擎在接受训练之后会优先选取男性求职者,给女性简历以更低的评级。美国部分州的司法部门使用了一套人脸识别系统(COMPAS)来预测罪犯再次犯罪的概率,以决定是否批准保释或假释,然而从预测结果来看,被错误标记为高风险再犯罪的黑人人数几乎是白人的两倍。而那些真正实施再犯罪的人群中,被错误标记为低风险的白人人数却是黑人人数的两倍。这些案例显示出人工智能算法在决策时有可能产生偏见和歧视。
  诚信问题是人工智能容易引发的另一个问题,从事直播工作的网络红人乔碧罗一直使用一种基于人工智能的换脸算法修饰脸部,给观众留下了人美声甜的印象。但在几个月前的一次直播中,其用来修饰脸部的滤镜和图片偶然被关闭,直播画面中出现了“萝莉”变“大妈”的一幕,引发人们对于应用人工智能带来欺诈问题的热议。
  第三,安全。人工智能应用的功能虽然强大,但前提是确保安全,尤其是当人工智能应用于与人身安全直接相关的领域,如自动驾驶、医疗、工业控制等,安全应当被置于首要地位。2018年末和2019年初,波音公司两驾737Max客机连续坠毁,失事原因很可能是由于飞机自动驾驶系统在错误的信号下判断飞机有失速风险,选择降低机头,使飞机俯冲。此过程中,驾驶员曾尝试拉起飞机,但自动驾驶系统没有将操控权交还驾驶员,仍旧控制飞机使其继续俯冲,最终酿成惨剧。这两起重大的空难迫使我们去思考人工智能的安全风险。
  第四,决策过程模糊。人工智能的决策过程通常较为复杂,对使用者来说,该决策过程就像黑盒,很难知晓其决策的逻辑和依据。这也使得人们对人工智能做出的决策是否可信产生担忧。
  第五,管控。管控能力不足是很多企业在应用人工智能时都会遇到的问题。人工智能发展的过程具备动态和自适应的特征,针对传统静态流程的管控方法可能并不适用。有银行曾经利用人工智能进行小额贷款审批,结果发现其智能算法将部分小额贷款发放至不具备偿付能力的用户手中,给银行带来财务和声誉的损失。全球尚未形成一套适用于人工智能领域的治理框架,相关的治理原则、方法和控制还在进一步研究。

[上一页] [1] [2] [下一页]

投稿箱:
   电子变压器、电感器、磁性材料等磁电元件相关的行业、企业新闻稿件需要发表,或进行资讯合作,欢迎联系本网编辑部QQ: , 邮箱:info%ett-cn.com (%替换成@)。
第一时间获取电子变压器行业资讯,请在微信公众账号中搜索“电子变压器资讯”或者“dzbyqzx”,或用手机扫描左方二维码,即可获得电子变压器资讯网每日精华内容推送和最优搜索体验,并参与活动!
温馨提示:回复“1”获取最新资讯。