• 扫一扫,关注我们微信
  • 18025455560
    13302932327
首页 / 资讯中心 / 趋势研究/发展负责任的人工智能

发展负责任的人工智能

发布时间:2019-06-18 分类:趋势研究

我国数据资源丰富,应用场景需求迫切,基础研究、技术开发的水平显著提升,人工智能较快发展。与此同时,治理方面的问题也随之出现。

国家新一代人工智能治理专业委员会发布《治理原则》,以“发展负责任的人工智能”为主题,希望“负责任”贯穿人工智能的研发和应用,促进技术的健康发展。

近年来,人工智能迅速发展,作为引领新一代科技革命和产业变革的战略性技术,人工智能正深刻影响社会生活、改变世界,在引发巨大变革的同时,也带来了诸多风险,人工智能该如何健康发展?

6月17日,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》(以下简称《治理原则》),提出了人工智能治理的框架和行动指南。这是我国促进新一代人工智能健康发展,加强人工智能法律、伦理、社会问题研究,积极推动人工智能全球治理的一项重要成果。

治理问题引起广泛关注,学界业界都在探索自律

“自2017年国家新一代人工智能发展规划发布以来,我国人工智能与各行业各领域的融合日益深入,展现出巨大的发展潜力。”清华大学苏世民书院院长、国家新一代人工智能治理专业委员会主任薛澜说,人工智能正在对政府管理经济模式、社会结构、国家安全甚至国际关系产生深刻的影响,随着技术的发展和应用,治理方面的问题不断出现,引起了科技界、产业界和社会的广泛关注。“很多国际组织、产业联盟和知名企业都在研究制定人工智能相关的准则,我国一些学术组织和产业联盟在这方面非常活跃,业界也在积极探索行业自律。”薛澜说。

为促进新一代人工智能健康发展,国家新一代人工智能治理专业委员会成立,统筹推进人工智能治理的相关工作,起草这份《治理原则》就是委员会今年的重点工作之一。

起草过程中,委员会注重广泛听取各方面意见。“我们在网络上公开动员公众参与,形成了上百条重要建议。”薛澜说,委员会还多次召开有关高校科研院所和企业代表参加的座谈会,广泛凝聚了学界、业界和社会的共识。

中国科学院自动化研究所研究员、国家新一代人工智能治理专业委员会委员曾毅介绍,目前全球各国政府、非政府组织和产业界机构已发布了超过40份人工智能准则,这些准则往往是在发布征求意见稿之后听取意见。“《治理原则》是在未发布任何内容的情况下,收集从业人员甚至普通用户对人工智能的期待和愿景,这是《治理原则》最主要的一个特点。”

“负责任”是主题,涵盖人工智能的基础研发到应用

“发展负责任的人工智能”成为《治理原则》的主题,在受访专家看来,“负责任”涵盖了人工智能的基础研发层到应用层,更应成为贯穿人工智能发展的一条主线。薛澜举例说:“比如我们提出的‘和谐友好’等原则,强调无论是人工智能提供的产品还是服务,都应该是负责任的、全面的,应以增进人类共同福祉为目标,应该符合人类的价值观和伦理道德,避免误用,禁止滥用、恶用。”

《治理原则》旨在更好协调人工智能发展与治理的关系,确保人工智能安全可控可靠,推动经济、社会及生态可持续发展,共建人类命运共同体,这也构成了《治理原则》的4个主要亮点。

更好协调人工智能发展与治理的关系,实现“双轮驱动”。上海大学教授、国家新一代人工智能治理专业委员会委员李仁涵说:“人工智能是一个新生事物,发展还是第一位的。推动我国人工智能的发展,也要在发展中解决问题。”他认为,人工智能的健康发展,应该及时纳入治理框架之中。科技部战略规划司副司长张旭表示,要平衡发展和治理的关系,对一些共性问题要加强标准和规范的制定,同时对于差异性的问题,要通过一些具体的规范把《治理原则》的内容更好纳入进来,使示范推广和产品应用更好结合,推动《治理原则》的落地。

确保人工智能安全可控可靠,规避风险隐患。“人工智能的发展仍然存在技术和社会潜在影响的双重‘不确定性’,因此我们要对更高级的人工智能潜在风险持续地开展研究和预判,确保人工智能健康稳健发展。”曾毅指出,现在一些技术开发者没有经过这方面的专业训练,通过创新为社会带来正面效应的同时,对相关的风险不重视或无意识,给社会带来了较大的隐患,希望《治理原则》的发布,推动“自适应”的治理,确保人工智能朝着对全人类、全社会及自然生态有益的方向发展。“我们现在是把这些原则写在纸上,最终希望能写到每一个人工智能开发人员和使用者的心里。”他说。

推动经济、社会及生态可持续发展,促进包容共享。曾毅认为,人工智能作为一项使能技术,应与自然、社会和谐发展。“我国是一个发展中国家,发展人工智能,更应该正视发展中的一些新情况、新问题。”他说,“人工智能应积极促进绿色发展,符合环境友好、资源节约的要求,同时在发展中缩小地域差距,提升弱势群体的适应性,努力消除数字鸿沟,这符合我国人工智能发展的现实需要。”

共建人类命运共同体,提倡开放协作。“很多国家的发展阶段不同,人工智能可能也面临着不同的应用场景,这就需要在交流沟通的基础上开展合作研究和对话。”薛澜表示,只有在充分尊重各国人工智能治理原则和实践的前提下,推动形成具有广泛共识的国际人工智能治理框架和标准规范,才能增进人类共同福祉。

人工智能治理原则,今后还将根据变化进行调整

《中国新一代人工智能发展报告2019》显示,我国人工智能论文发表量全球领先,企业数量等多项指标居全球第二位。在李仁涵看来,我国数据资源丰富,应用场景需求迫切,基础研究、技术开发的水平都有显著的提升,这些因素共同促进了我国人工智能的较快发展。

曾毅认为,我国人工智能技术快速发展的同时,人工智能治理的能力和水平也在提升。“在数据隐私、安全治理方面,相关部门和全社会都付出了巨大的努力,这一点是有目共睹的。”他举例说,“以《治理原则》提出的‘个人数据授权撤销机制’来说,在全球来看也是非常领先的一个概念。这说明,我们一直非常重视这方面的工作,并且是以非常负责任的态度来推进的。”

“考虑到人工智能发展的高度复杂性和不确定性,要按照渐进性的思路推进人工智能的治理。”薛澜表示,《治理原则》是一份框架性文件,对人工智能健康发展主要发挥宏观引导作用,今后还将根据形势的变化和需要,不断进行充实和调整。在薛澜看来,人工智能的发展过程中也面临着一些基础性的工作,立法就是其中之一。“我们发布的《治理原则》,也为今后的立法工作提供了重要基础。”他认为,人工智能发展非常快,而立法的周期较长,因此也很难只用法律框架来支撑人工智能的发展,“这就需要相关的原则准则、行业规范,包括从业者的自律,来协同推进其健康发展。”