中国人工智能学会

Chinese Association for Artificial Intelligence

返回CAAI官网 加入CAAI

CCAI 2019 演讲实录 | 史元春：走出AI伦理困境

发布时间：2019-09-30

史元春：清华大学人工智能研究院智能人机交互研究中心主任。主持国家十三五重点专项等国家研发计划项目。其科研成果近年连续获得国际人机交互领域顶级会议最佳论文奖，并两次获得国家科技进步奖。主要从事人机交互、普适计算、多媒体、网络教育技术等相关领域研究。

 

CCAI 2019《走出AI伦理困境》演讲实录摘编

史元春

 

报告导读

本次报告，首先介绍科学主义与人文主义的内涵与联系，讲解了人工智能伦理与安全的当下研究态势，然后详细介绍了研究团队在视觉障碍人群的智能人机交互领域的一系列研究工作。

 

报告内容

 

26-1.jpg

今天报告的题目是“走出AI伦理困境”，有这样的一本书《未来简史》，书中阐述了很多关于AI的发展和对于人类社会的影响，这本书对科学主义与人文主义的关系有很深的理解，如果说两年前女科学家的论坛是艺术与创新，主要探讨的是关于创新，其中科学的部分是在不断的寻求力量和发展的阳的方面，而人文主义是以人为中心，更强调艺术和美以及社会规则对技术发展的一些约束，更像中国哲学“阴”的部分，世界是以中国哲学所谈的阴阳两种力量来维系的，每股科学的阳都会伴随人文的阴，阳给了力量，而阴提供了意义和伦理的判断。

26-2.jpg

这恰巧就像我们今天为什么要讨论人工智能伦理与安全，因为大家都在这个领域做研究和应用，都能体会到技术的发展给社会带来的很多益处，但是也能体会技术的发展无所不在，时刻影响着我们的现实生活、未来生活、我们的工作、我们的价值判断，我们本身的成长、安全，在这样充满AI技术的发展过程中，我们不得不有这样关于伦理与安全的担心，目前的AI是不是把潘多拉魔盒打开了，我们的隐私安全以及未来人机如何来进行共生，都成了时下非常关心的话题。

26-3.jpg

今天的大会也有很多企业家来参加，AI伦理也成为所谓AI企业的一个显学，大家都要主动的探讨比如可信、安全和隐私问题，大家也可以看到，在国际和国内也有很多的题目以及专业来研究伦理本身，甚至建立相应的道德委员会，在企业之间以及国内很多研究所和研究院之间也建立了AI的联盟，主要来探讨从技术到社会规则上的可信和可靠性，所以这个问题不是孤立的，而是大家都非常关心的。

26-4.jpg

AI的确存在伦理问题，但是AI的伦理和人类的伦理本身没有边界，因为我们研究的对象都是人和人类社会以及与AI技术如何共生，所以主要造成的伦理、安全问题，或者是有可能产生问题的方面，都是需要人首先介入和关心的，因此AI的设计者、开发者、维护者都需要在共同建立的伦理规则基础上创新，现在研究的可信赖、可解释问题，其实背后隐含着伦理，虽然没有直接用伦理这个词，但是实际上都在关心同样的问题，今年上半年欧盟出台了可信AI的伦理规则，用了一本很厚很全面的文件描述可信赖AI建立的框架，文件七个主要的方面包括隐私、数据监管、透明性、技术鲁棒、安全等等，我们主要从事的是倒数第二个方面，AI对整个社会更多的贡献和保障，对于AI伦理与安全，我们开发者、维护者的自律，以及整个社会的标准、设限方面等都是需要我们共同参与维护的，她自己参与更多的还是一些技术部分。

举一个例子，比如目前我们团队研究如何给视觉障碍者进行智能交互。人机交互是关于人和计算机之间有效和自然的信息沟通的技术，涉及到的方面比较多，所谓的智能人机交互，希望在更自然的进行访问、请求、表达，或者是对人无法准确表达的情况下，在不确定或者是模糊的接口上，如何获得精确、准确的访问效果。

对于一些残疾人士，他们有一些交互通道可能被关闭了，有没有可能给他们一些替代或者是增强的技术？这里举一个例子视觉无障碍，专门给盲人的智能键盘，盲人用的手机和正常人用的手机是一样的，现在有的读屏软件，可以帮助他们在并行的界面上以串行触摸的方式来接触信息，然而这个效率是极低的，同时现在手机上手指要远大于界面的KEY大小，虽然后台有AI技术的支持以词为单位进行输入校正，但是盲人的界面只能以字母为界面进行校正，我们课题组研制了以人的行为作为支持，进行一定的数据采集和建模，有效的提高了用户输入的准确度，比如大家用华为手机和其他一些类似于搜狗输入法，这里面都包含了我们团队做的一些算法，我们正致力于把这项技术推广到更难的一类人群，就是盲人，这个技术可以很大程度提高输入的准确度，希望很快推向市场给用户使用。

26-5.jpg

第二个技术其实对于视力正常都有用，在很多的单手操作的情况下，现在读屏软件非常难用，因此我们在大量做触屏上面的图象识别，给盲人做了一个耳朵的动作手势交互技术，可以作为快捷键支持常用的手机应用，因为对于盲人来说，屏幕虽然很大，但是往往都是单手来用，因为另外一只手可能是拿着拐杖或者是别的东西，去年双十一的时候，这项触觉交互技术应用在淘宝和高德地图上，下面照片上都是盲人，同时支持这个软件开发的马云也参观了这个技术，也表示非常赞赏。

26-6.jpg

第三项是在实际日常通用的触觉界面手机上，在触屏界面增加一个盲人可以直接访问的快捷键，本身是一个贴膜，从材料到背后需要UI的内容设计，需要智能的分析所有的界面，把快捷键可以放到这几个触觉键上去，盲人可以直接进行使用。

26-7.jpg

上述图片是我们团队研制到一个面向盲人的可穿戴设备，可以通过振动和提示有效的告诉盲人避障和方向，通过实验可以看出来，这套设备可以完全规避有没有盲道这么一个问题，实验的效果很好，目前得到了盲协和北京市的工业组织的长期支持。

（本报告根据速记整理）

CAAI原创 丨 作者史元春教授
未经授权严禁转载及翻译
如需转载合作请向学会或本人申请
转发请注明转自中国人工智能学会