人工智能态度体现的三个原则

中国首部促进人工智能（AI）产业发展的省级地方性法规——《上海市促进人工智能产业发展条例》将于10月1日起施行。值得注意的是，该法规在明确支持人工智能创新研究的同时，还专门提出上海市将设立“人工智能伦理专家委员会”，履行包括组织制定人工智能领域伦理规范指南、推动参与国内外人工智能领域伦理重大问题研讨和规范制定、推动人工智能企业探索建立伦理安全治理制度等职责。由此可见，人工智能伦理已经作为行业的共识得到了高度的重视。

事实上，人工智能与混合云一样是IBM的战略聚焦方向之一，IBM在健全和贯彻人工智能伦理方面有着非常深入的思考，针对性地建立了一整套的价值原则和实践制度，而这一切都是基于IBM的道德影响力。

在本系列文章的前两篇：央企设“首席合规官”引公司治理思考，百年科技企业IBM分享独到实践经验—— IBM公司治理经验分享系列之1 ，打造开放包容工作场所，贯彻道德原则让员工做正确的事—— IBM公司治理经验分享系列之2，我们探讨了IBM道德影响力如何深入影响我们的商业道德合规管理体系，以及其如何助力维护一个良好的工作环境让员工始终为IBM做正确的事情。

今天，在本系列的最后一篇文章中，我将以人工智能领域为例，重点介绍IBM道德影响力如何在“技术” 层面发挥推动作用。

 

目标

“昨天，我们开创了今天；今天，我们为明天而开拓。”

-托马斯·J·沃森

随着IBM当前的全球业务专注于混合云和人工智能，并以此为基础为客户企业构建未来， IBM自然而然地、甚至可以说是必然地将其道德影响力作为企业社会责任的一部分扩展到其所推广的技术领域。

IBM重视人工智能伦理，因为我们知道，这是助我们实现“可信赖的人工智能”，或者说满足人类安全与隐私需求的人工智能系统的关键。

因此，IBM以“技术向善”为基调的道德影响力力求推动和鼓励将道德、信任、透明度以及尤其重要的一点——责任感——置于首要位置的相关创新、政策和实践。

就人工智能系统领域而言，这具体意味着什么？

三大原则和五大支柱

IBM对人工智能伦理和值得信赖的人工智能的态度体现于以下三个原则：

人工智能的目的是增强人类智能

数据和洞见属于其创建者

新技术，包括人工智能系统，必须是透明和可解释的

遵循这三项原则，IBM在开发和推广相关技术时非常关注五大信任支柱：

可解释性：

这是指人工智能系统在提供预测和洞见时应当相应地提供可被人类理解的解释。

公平性：

人工智能系统应公平对待对个人或群体。当然，对于人工智能系统公平性的判断应当基于其具体使用环境作出。

稳健性：

指人工智能系统有效处理异常情况的能力，如输入异常。

透明性：

一些设计和开发的相关的必要信息应当作为人工智能系统自身的一部分被公开。

隐私性：

指人工智能系统重视和保障用户隐私和数据权利的能力。

为了将符合伦理、负责任和可信赖的人工智能文化贯彻到整个IBM，我们设立了“隐私与人工智能伦理”监督机构和“人工智能伦理委员会”，作为集中治理机构。

此外，在基层，业务部门的联络人和员工志愿者也扮演着倡导者的角色，共同推动和促进我们的人工智能伦理体系及方法被进一步采纳和运用。

实践

在客户层面，合乎伦理地打造和使用人工智能日益成为他们的优先事项。

据统计，目前使用人工智能的公司中：

90%的公司表示，维护品牌诚信和客户信任是最优先事项；

89%的公司表示，满足外部监管要求和合规义务是最优先事项；

89%的公司表示，在全生命周期中监控数据和人工智能的能力是最优先事项；

还有87%的公司表示，最大限度地减少人工智能应用和服务的偏见是最优先事项。

IBM的观点是，当我们构建人工智能时能够遵循可信赖的原则并将伦理置于核心地位，以上优先事项就都可以实现。

不断演进的责任

站在信息时代与人工智能时代的转折点，我们希望IBM在公司治理方面所做的一切努力，将对未来全世界技术的可持续发展产生深远的影响。

 

“作为个人和企业，我们的成功其实是建立在他人善意的基础上的…我们维护这种善意的唯一方法就是在作出个人和集体行为时，始终考虑其在更大的整体层面的影响。我们所做到的或未能做到的每一件小事，往往比喊得最响亮的口号更具有实际意义。”　　

      审核编辑：彭静