首页 > 智能 > 正文

马化腾:人工智能正在渗透进你我的生活 强化科技伦理的制度化建设成为必须

2019-03-07 08:55:30来源: 科技日报社-中国科技网  

前段时间,一则短视频火了。网友用人工智能技术,将电视剧《射雕英雄传》中演员朱茵的脸换成了杨幂。这个杨幂版黄蓉毫不违和,古灵精怪,娇

前段时间,一则短视频火了。网友用人工智能技术,将电视剧《射雕英雄传》中演员朱茵的脸换成了杨幂。这个杨幂版“黄蓉”毫不违和,古灵精怪,娇俏可人,你甚至都看不出视频有被处理过的痕迹。

技术非常好玩,让人跃跃欲试。而且,现在还有相关程序,只要你有足够的素材,有一台配置不错的电脑,就能完成一段“变脸视频”。

所以,眼见也不一定为实。

其他问题同样就在眼前:智能驾驶车已经充分利用了人工智能技术,有一定的自主能力。商用后,如果发生了意外,出现了事故,责任人是谁,法律主体怎么认定?是制造商、算法的开发商,还是使用者本人?全国人大代表、腾讯公司董事会主席兼首席执行官马化腾将他的顾虑一一道来。他告诉科技日报记者,新技术带来的科技伦理问题越来越热,但现在都没有明确规则,“因为太新了”。

人工智能正在渗透进你我的生活。它向你推荐餐厅,它为你进行搭配,它帮你筛选新闻,它还能替你选择伴侣……现在,它根据你的需求,能为你定制一段并不存在的视频。正如全国人大代表、天津大学党委书记李家俊所说,人工智能对数据的收集和挖掘,有可能侵害个人隐私甚至危害公共安全;而从宏观局面来说,人工智能技术的发展,还可能引发新产业革命和经济结构调整。

如何让这柄“双刃剑”在社会治理中发挥正向作用?马化腾给出的药方是,强化科技伦理的制度化建设。

在国家层面,他建议针对相关新技术制定伦理准则,对新技术应用进行引导和规范。马化腾说,行业主管部门可以与行业主体、学术团体、社会公众等多利益相关方合作,制定相关伦理准则,并支持行业自律,包括建立伦理审查制度、成立自律组织、制定行业标准等。在国际层面,应积极推动新技术领域的全球治理,参与国际标准、规则的制定,推动建立人工智能研发与应用的全球共同伦理框架,确保人工智能持续造福全人类和全世界的发展。

更具体一些来说,则要为相关人工智能应用建立安全标准,打击和人工智能相关的新型犯罪,为人工智能应用探索制定恰当合理的规则。

和马化腾一样,李家俊也建议建立相关伦理规约体系。在他看来,不同的主体,应发挥好各自的作用。

首先,是决策者立德。李家俊建议,由中国科协组织人工智能及相关领域专家学者制定我国的《人工智能伦理章程》,设置人工智能的伦理框架、道德准则,其次,由国家市场监管总局牵头,做好人工智能技术、产品的伦理审查,从技术层面做好人工智能的道德预设,“而研发者也要承担自己的责任”。今年政府工作报告中指出,要加强科研伦理。李家俊说,可以由科技部牵头,组建人工智能伦理委员会,对科研人员的社会责任、职业规范提供监督指导,并从制度上为人工智能研发明确禁区、划定边界、树立底线。

深度学习算法常被称作“黑匣子”,连算法设计者自己也不知其如何运作,更别说对其给出的运算结果进行解释。李家俊强调,应该提升人工智能算法的可解释性和可预测性,强化人机互动间的反馈信度、理解精度和执行效度,维护健康有序的人机关系,构建社会公序良俗。

“所有行业的高级发展、终极模式,最终都要跟AI结合。”马化腾表示,对人工智能发展中的伦理问题,可以先从研究和倡议开始。“这是第一步,但现在做得也还远远不够。”(科技日报北京3月6日电)

推荐阅读