尊敬的周强院长、各位领导，大家好：

　　今天我有幸和大家分享我们关于人工智能的一些看法。我分享的题目是“知不等于智，狭义人工智能应用及其局限性”。

　　众所周知，人工智能的应用这些年来有着突飞猛进的发展，其实人工智能的概念早在五十年代就提出了，只是由于近年的机器学习、神经网络的发展，人工智能应用在这些年有突破性的发展，在某些领域，特别是如图象识别、语音识别、机器阅读理解、机器翻译都达到甚至超过了人类的水平。所以，我们认为人工智能可能是人类有史以来创造的最根本的技术之一。

　　下一个问题是：人工智能是不是在所有的领域都可以替代人类，特别是在重要的领域可以独自作出决策？要回答这个问题，我们先要看一看人类的认知能力阶梯。从最基本的认知能力基本工具到经验直观能力，到认知能力，再到创造力，毫无疑问，人工智能在某些领域已经超越了人，但在创造力和智慧上，人工智能远远比不上人类。比如，人工智能只用人们发明的算法，但是无法单独发明算法。人工智能能在围棋中战胜人类，但无法发明同围棋类似的游戏。这是因为，现有的狭义人工智能是基于对海量大数据的分析，加上人的智慧和对分析结果的反馈，根据分析结果调整算法，形成良性循环，所以没有人的智慧是不行的。这是因为，基于大数据的分析没有独立思考和独立发明创造的能力，它是局限于底层大数据的。

　　我们用一个例子更直观地看人工智能是如何认知的，用人工智能来分析男性与女性的关联性、类比性可以看出，如果没有对数据进行人为调整，人工智能在学习了大量文字数据之后就认为，女性应该是护士、家庭主妇，而男性是程序员、医生，所以这个系统是不完美的。我们再用一个例子，这是微软开发的一个工作推荐的软件，是用海量的简历选出的系统，我们把盖茨夫人的数据输入人工系统，推荐最适合的工作是教师，而不是慈善家；但是，如果我们把盖茨夫人简历的性别改成“他”，推荐的就是律师、教授。这显然是存在偏见和歧视的。所以，人工智能系统虽然强大，但是它所能建立的工作无法逃脱既有的经验，不能生产新的知识。由于这个局限性，导致对人工智能技术的不当使用可能会产生一些风险。如果完全依赖人工智能决策，可能会产生影响人类的决策，侵犯人的基本权利，或者对人造成身心伤害。

　　基于此，微软对人工智能的开发工作提出了六大准则，公平、安全可靠、保护用户隐私安全、包容性、透明性、负责任。由于人脸识别可以在用户不知觉的情况下，远程采集到人脸的用户数字特征，微软就人脸识别技术也提出了更细化的人脸识别原则，包括要求依法使用人脸识别技术，在使用人脸识别技术之前应该对用户作出通知并获得同意，以此避免人脸识别对人造成伤害。

　　不难看到，人工智能和计算机在计算力、记忆力、经验力等方面均超过了人类。为了应对风险，我们提出了人工智能负责任的原则，和一些特殊场景下的规范。我们要确保人工智能以人为本，要求人必须积极参与到人工智能的开发、部署和使用的每一个环节，监督人工智能的表现，对模型进行校准。以人为本还要求，涉及人的重大利益、生命安全或自由时，一定要由人作出决策，而不是由机器自动作出决策。总之，人工智能系统必须为善，必须造福全人类。