当前位置:资讯首页 > 行业资讯 > 正文

欧盟发布人工智能道德准则草案

2018-12-25 15:50 来源:DeepTech深科技 评0 0
  人工智能AI)的公平性及道德规范在2018年成为重要议题,现在法律规范力量准备介入。欧盟委员会(EC)任命的人工智能高级专家小组(AIHLEG)刚刚发布了AI开发和使用的道德草案—可信赖AI的道德准则草案(Draft Ethics Guidelines for Trustworthy AI),内容长达37页,提出可信赖AI应具备两大要素,以及AI不可为的基本原则。

 

AI道德准则草案,欧盟

 

  欧盟委员会在2018年4月发布了欧洲人工智能方法(European approach on AI)之后,成立了人工智能高级专家小组,由52名来自学术界、工业界和民间社会的独立专家所组成,而此次的AI道德准则草案第一版就是由这个高级专家小组所制定。从现在到2019年1月18日为对外开放征求意见的期间,预计到了2019年3月,AI HLEG将向欧盟委员会提交最终版本的指导方针,以及提出如何推进这项工作的建议,目标将欧洲的道德方法带入全球舞台,此外,欧盟委员会目前也正在向愿意分享相同价值观的所有非欧盟国家开放合作。

  可信赖AI的两大要素

  AI HLEG表示,AI无疑是这个时代最具变革性的力量之一,必将改变社会结构,我们必须确保最大化AI的优势,同时降低风险,因此需要以人为本的人工智能方法,AI的开发和使用不应被视为一种手段,应视为增加人类福祉的目标。“可信赖的AI”(Trustworthy AI)将成为人类的北极星。

  欧盟AI道德准则草案指出,可信赖的AI有两个组成要素:一、应尊重基本权利,适用法规、核心原则和价值观,以确保“道德目的”(ethical purpose),二、兼具技术鲁棒性(robust)和可靠性,因为即使有良好的意图,缺乏技术掌握也会造成无意的伤害。另外,AI技术必须足够稳健及强大,以对抗攻击,以及如果AI出现问题,应该要有“应急计划”(fall-backplan),例如在AI系统失败了,必须要求交还由人类接手。

 

AI道德准则草案,欧盟

欧盟提出可信赖AI的道德准则草案以及框架(图片来源:欧盟)


  另外,可信赖AI的不可为,包括不应以任何方式伤害人类;AI不应限制人的自由,换句话说,人们不应该被AI驱动的机器征服或强迫;AI应该公平使用,不得歧视或诬蔑;AI应透明地运作,也就是说,人类需要知道AI正在开发的目的,以及如何使用它;AI应该只为个人和整个社会的福祉而发展

  草案也提出了框架,第一章阐述AI必须遵守的基本权利和价值观,以确保AI符合道德目的。第二章则是实现可信赖AI的指导方针,同时兼顾道德目的和技术稳健性,并列出可信赖AI的要求,包括技术和非技术方法。第三章则提供了具体但非穷举的可信赖AI评估表。

AI道德准则草案,欧盟

可信赖AI的生命周期(图片来源:欧盟)

  从科研、企业的呼吁进展到国家规范,AI的道德监管进入新高度

  近年来AI技术在多个应用领域展示了良好的进展及高效率,但同时也浮现不少问题,包括使用有歧视的数据就会训练出歧视人的AI模型,侵犯某些群体的权益,以及广泛的面部识别技术与民众隐私的矛盾,更让世人震惊的莫过于利用AI发展出智能武器,很可能在未经人类下达命令的情况下就发动攻击,这些AI不受控的问题,让许多科学家、企业、政府感到忧心,过去对于应该制定AI规范的意见,多来自科研及行业界的呼吁。

  不久前,微软总裁Brad Smith也发出公开信,针对面部识别技术的问题提出六大原则,包括要求透明度、启用第三方测试和比较、确保有意义的人类审查等,并承诺在2019年第一季度末,微软就会实施这些原则,他同时也向美国政府呼吁,应在2019年开始立法来规范AI面部识别技术的使用,“面部识别精灵刚从瓶子中出现,除非我们尽快采取行动,否则我们在五年后醒来,才会发现面部识别让社会问题变得严重,”BradSmith说,因为面部识别系统可能存有偏差,在某些情况下,将违反禁止歧视的法律,且若广泛使用也可能侵犯民众隐私。

  而欧盟在2018年5月正式让通用数据保护条例(GDPR)上路,提高个人数据使用的公平性和透明度,防止企业滥用或忽略用户数据的保护,此次欧盟又正式提出了AI道德准则,象征AI的公平性、透明、道德性的规范正式进入一个更高的治理层次。
工控家百科 - 工业自动化控制领域专业百科知识库! 人工智能

人工智能(Artificial Intelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。...  详情>>

网友评论
请登陆后评论!立即登陆
暂无评论,诚邀您的点评!

全年征稿 / 资讯合作

联系邮箱:news@gongkongjia.com
  • 1.凡本网注明"来源:工控家"的所有作品,版权均属于工控家网站,转载请必须注明工控家网,并链接来源网址。违反者本网将追究相关法律责任。
  • 2.本网转载并注明自其它来源的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品来源,并自负版权等法律责任。
  • 3.如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。
产品更新列表企业名录品牌更新列表工控资讯更新下载资料更新技术文摘更新百科更新列表今日更新热词搜索网站地图移动版工控家