人工智能应开始考虑某些伦理红线的精确定义,迎接监管挑战【算力全球瞭望塔】

人工智能 周嘉莉 2019/05/11 22:11

作者:周嘉莉

编辑:生煎




算力说



越来越多的人工智能和自动化系统对人类社会产生了直接影响,带来更少的社会互动和更多的人机沟通,一些伦理社会问题随之浮现。世界经济论坛正在与合作伙伴就人工智能伦理概念进行合作,帮助妥善管理人工智能,以便保护基本权利和宪法原则所界定的伦理价值,同时充分利用它们的好处,从而维护以人为中心的社会。



本文编译自世界经济论坛(WEF)于2019年发布的人工智能白皮书《人工智能治理:将伦理贯彻到人工智能中的整体方法》。报告旨在通过探讨将伦理价值应用于人工智能驱动技术中的可能方法和机制,为构建以人为中心的人工智能社会做出贡献,从而丰富正在进行的关于在人工智能中实施伦理考虑的辩论。


 

世界经济论坛(WEF)是以研究和探讨世界经济领域存在的问题、促进国际经济合作与交流为宗旨的非官方国际性机构,也作为一个智库,研究相关事务并发表广泛的研究报告。

 

【算力观点】


  • 设计一个适当的人工智能治理机制,将帮助保护以人为中心的社会。提高对最终风险和担忧的认识不应被误解为一种反创新的做法,相反,充分考虑风险才可确保人工智能的构建和运行方式能够被个人用户和整个人类社会所接受。


  • 解决道德问题最好的方式不一定是实施立法或国际公约,良好的人工智能管理包括一个平衡的政策组合,包括尽可能多的立法和尽可能多的自由,再加上适当的认证体系、技术标准和金钱激励。

 

在人工智能系统中实现伦理的两种实用方法

 

1. IEEE全球倡议


IEEE全球倡议是电气和电子工程师协会(IEEE)于2015年12月发起的一个项目。该计划的主要目标是确保技术人员在设计和开发自主和智能系统时受到良好的教育、培训和授权,优先考虑伦理方面的考虑。为此目的,IEEE全球倡议组织发布了一份文件,从伦理角度结合设计了一个以自主和智能系统为优先考虑人类福祉的愿景,以及IEEE P7000系列标准,提出了可被人工智能和自主系统设计师采用的实际操作标准的具体建议。

 

2. 世界经济论坛人工智能和机器学习项目


世界经济论坛以国际公私伙伴关系为重点,提供了一个中立和客观的平台,帮助那些在政策执行和人工智能治理方面遇到困难的国家和企业。该论坛正在旧金山、东京、北京和孟买建立第四次工业革命中心。人工智能和其他技术的治理项目将在这些中心与政府、企业、学术界和民间社会共同创建。这些项目包括:


A. 解锁公共部门AI(Unlocking public-sector AI)


尽管人工智能具有极大改善政府运营的潜力,但出于对偏见、隐私、问责制、透明度和整体复杂性的担忧,许多公共机构对利用人工智能持谨慎态度。公共部门采购和部署人工智能的基准标准可以帮助克服这些担忧,为政府与公民更好地互动和服务开辟新途径。此外,作为监管之外的一种更为温和的选择,政府的强大购买力和公众信誉可以推动私营部门采用这些标准。

 

B. AI领导人工具包(AI Board leadership toolkit)


随着人工智能越来越成为跨行业商业模式的必要条件,企业领导人需要确定这种复杂技术能够给企业带来的具体好处以及设计、开发和部署它的必要性。一套实用的工具可以帮助董事会成员权衡关键的问题和满足不同利益相关者的需求,例如任命一名首席价值官或创建一个道德咨询委员会。


C. 人工智能伦理教学(Teaching AI ethics)


有关人工智能设计的决策往往是由工程师做出的,他们在复杂伦理考虑方面接受的培训很少。大学仍在努力寻找有效的方法,将这些问题纳入技术类学生的课程。世界经济论坛的全球未来人工智能和机器人理事会(Global Future Council on Artificial Intelligence and Robotics)正在创建一个可操作且有用的资料库,帮助教师在人工智能课程中加入社会调查和讨论。

 

AI治理需要适当的规则设计

 

数字转型(尤其是人工智能)可能带来的伦理和社会影响,正在引发关于伦理的辩论。本文想要探讨的是道德价值现有的多样性、优先次序以及它们之间的关系。欧洲委员会科学和新技术伦理小组提出了一份全面的伦理问题清单,其中包括忠诚、公平、民主、责任等。这些价值观念在一个以多元主义、不歧视、容忍、正义、团结和平等为主流的社会来说是共同的。然而,其他反映某些个人信念或价值观念的道德关切,应以反映遵守道德的自愿性质的方式加以管制。

 

▲ 监管在技术驱动的社会中的纵横图(图片来源:算力智库译自Authors)


人工智能治理是一项特别复杂和困难的任务,因为所有参数都是直接或间接相关的。规章制度意味着必须根据各种基本原则作出价值决定,有时甚至是相互矛盾的原则。这包括竞争原则(一种消费者和公共福利的关键驱动力),以及进一步的基本规范原则,如基本权利、宪法原则和道德规范。  

▲ 在人工智能系统中实现伦理关注的分级治理模型(图片来源:算力智库译自Authors)


遵循特定群体信念的社区可能对开发基于自我监管的认证系统感兴趣,该系统表明产品符合相关特定群体的道德价值观。例如一个智能家庭机器人,它可以通过编程被设计为只向其犹太主人推荐犹太食品供应商。



文章所载观点仅代表作者本人

且不构成投资建议

敬请注意投资风险