首页 / 资讯中心 / 交通百科/人工智能(AI)危险吗?我们现在应该监管它吗?

人工智能(AI)危险吗?我们现在应该监管它吗?

发布时间:2018-08-24 分类:交通百科

既然人工智能(AI)已经不再只是一种让科技大师们对各种可能性疯狂的假想,而是正在使用并影响着我们的日常生活,人们重新开始讨论如何监管这一令人兴奋的、强大的、潜在的问题的技术。现在一边是那些认为现在开始讨论还为时过早的人,而另一边则是那些认为讨论已经严重滞后的人。

人工智能

无论你在这个问题上的立场如何,我们都会同意让人工智能将继续存在下去。因此,不管找出监管的“兔子洞”有多大的挑战性,现在是时候开始认真考虑在国家和国际层面上需要采取什么措施来监管人工智能了。

为什么我们需要人工智能(AI)规则?

斯蒂芬·霍金(Stephen Hawking)等人工智能监管的支持者担心,如果我们不积极避免不受约束的人工智能(如“强大的自主武器,或少数人压迫多数人的新方式”)的风险,人工智能可能会毁灭人类。他认为,监管是让人工智能和人类在一个和平而富有成效的未来共存的关键。比尔·盖茨也“关心超级智慧”,不理解为什么有些人不关心。埃隆·马斯克(Elon Musk)提出,我们应该“在为时已晚之前”监管人工智能。2015年,包括机器人和人工智能研究人员、知识分子、活动人士、斯蒂芬·霍金(Stephen Hawking)和埃隆·马斯克(Elon Musk)在内的2万人签署了一封公开信,并在国际人工智能会议上提交了这封公开信。该公开信呼吁联合国禁止进一步发展“无法有效控制”的武器化人工智能。

我们的社会已经被部署在金融机构、雇主、政府系统、警察等部门的人工智能算法的爆炸式增长所影响。这些人工智能算法能够而且确实能做出决策,在人们的生活中产生重大而严重的问题。一名学校教师过去曾得到过好评,但在她所在的学区实施了一种评估教师业绩的算法后,她被解雇了。学校无法解释为什么会发生这种情况,除非是其他人在“游戏”这个系统,反恐面部识别程序吊销了一名无辜男子的驾驶执照,因为它把他当成了另一名司机。

人工智能正在迅速成熟,而政府和监管决策的进展却非常缓慢。马斯克和其他人认为,现在是开始辩论人工智能监管将是什么样子的时候了,这样当监管真正通过时,我们就不会落后太远了。即使没有建立监管,也应该成立监管机构和监督机构,以便它们能够得到适当的信息,并准备好在必要时作出决定。

为什么对人工智能(AI)进行监管为时尚早?

许多人认为现在谈论人工智能监管还为时过早,因为目前还没有具体的监管要求。尽管人工智能领域已经有了巨大的创新,但该领域仍处于起步阶段。监管可能会扼杀一个正在爆炸式增长的行业的创新,而trouva的联合创始人亚历克斯洛伊佐(Alex Loizou)认为,在监管之前,我们需要了解它的全部潜力。

斯坦福大学(StanfordUniversity)的一项研究发现,“试图监管人工智能总体上是错误的,因为对人工智能没有明确的定义(这不是一件事),而且不同领域的风险和考虑非常不同。”

人工监管(AI)会是什么样子?

2018年,英国和其他欧洲成员国首次涉足人工智能立法,允许对自动化决策提出挑战。“一般数据保护条例”(GDPR)是试图围绕如何挑战人工智能而制定法律的第一步,有望防止貌相和歧视的危险,并允许人们了解作出不利于他们的决定的逻辑是什么,即所谓的“解释权”。人们认识到,如果任何类型的标准或指导方针都有任何权力,那么监督人们遵循指导方针将需要分配给一个管理机构。

目前,那些正在辩论人工智能条例可能是什么样子的人考虑了以下一些问题:

1、AI不应该武器化。

2、应该有一个不可逾越的“关闭开关”,可以由人类部署。

3、人工智能应遵循与人类相同的规则。

4、制造商应同意遵守国际法规规定的一般道德准则。

5、应该了解人工智能逻辑和决策是如何作出的。

6、如果出了问题,AI应该承担责任吗?