当前位置: 首页 > 论坛议题 > 人工智能在司法领域的运用
微软亚太研发集团法律业务总经理、微软全球助理法律顾问罗立凡
来源:世界互联网法治论坛 发布时间:2019-12-05 17:33:03

  尊敬的周强院长、各位领导,大家好:

  今天我有幸和大家分享我们关于人工智能的一些看法。我分享的题目是“知不等于智,狭义人工智能应用及其局限性”。

  众所周知,人工智能的应用这些年来有着突飞猛进的发展,其实人工智能的概念早在五十年代就提出了,只是由于近年的机器学习、神经网络的发展,人工智能应用在这些年有突破性的发展,在某些领域,特别是如图象识别、语音识别、机器阅读理解、机器翻译都达到甚至超过了人类的水平。所以,我们认为人工智能可能是人类有史以来创造的最根本的技术之一。

  下一个问题是:人工智能是不是在所有的领域都可以替代人类,特别是在重要的领域可以独自作出决策?要回答这个问题,我们先要看一看人类的认知能力阶梯。从最基本的认知能力基本工具到经验直观能力,到认知能力,再到创造力,毫无疑问,人工智能在某些领域已经超越了人,但在创造力和智慧上,人工智能远远比不上人类。比如,人工智能只用人们发明的算法,但是无法单独发明算法。人工智能能在围棋中战胜人类,但无法发明同围棋类似的游戏。这是因为,现有的狭义人工智能是基于对海量大数据的分析,加上人的智慧和对分析结果的反馈,根据分析结果调整算法,形成良性循环,所以没有人的智慧是不行的。这是因为,基于大数据的分析没有独立思考和独立发明创造的能力,它是局限于底层大数据的。

  我们用一个例子更直观地看人工智能是如何认知的,用人工智能来分析男性与女性的关联性、类比性可以看出,如果没有对数据进行人为调整,人工智能在学习了大量文字数据之后就认为,女性应该是护士、家庭主妇,而男性是程序员、医生,所以这个系统是不完美的。我们再用一个例子,这是微软开发的一个工作推荐的软件,是用海量的简历选出的系统,我们把盖茨夫人的数据输入人工系统,推荐最适合的工作是教师,而不是慈善家;但是,如果我们把盖茨夫人简历的性别改成“他”,推荐的就是律师、教授。这显然是存在偏见和歧视的。所以,人工智能系统虽然强大,但是它所能建立的工作无法逃脱既有的经验,不能生产新的知识。由于这个局限性,导致对人工智能技术的不当使用可能会产生一些风险。如果完全依赖人工智能决策,可能会产生影响人类的决策,侵犯人的基本权利,或者对人造成身心伤害。

  基于此,微软对人工智能的开发工作提出了六大准则,公平、安全可靠、保护用户隐私安全、包容性、透明性、负责任。由于人脸识别可以在用户不知觉的情况下,远程采集到人脸的用户数字特征,微软就人脸识别技术也提出了更细化的人脸识别原则,包括要求依法使用人脸识别技术,在使用人脸识别技术之前应该对用户作出通知并获得同意,以此避免人脸识别对人造成伤害。

  不难看到,人工智能和计算机在计算力、记忆力、经验力等方面均超过了人类。为了应对风险,我们提出了人工智能负责任的原则,和一些特殊场景下的规范。我们要确保人工智能以人为本,要求人必须积极参与到人工智能的开发、部署和使用的每一个环节,监督人工智能的表现,对模型进行校准。以人为本还要求,涉及人的重大利益、生命安全或自由时,一定要由人作出决策,而不是由机器自动作出决策。总之,人工智能系统必须为善,必须造福全人类。

责任编辑:世界互联网法治论坛
地址:北京市东城区东交民巷27号 邮编:100745 总机:67550114 举报电话:67556131
中华人民共和国最高人民法院 版权所有
京ICP备05023036号