首页 / 资讯中心 / 交通百科/先进的人工智能将带来革命性的改变

先进的人工智能将带来革命性的改变

发布时间:2018-09-25 分类:交通百科

重要原则:先进的人工智能可代表地球生命历史上的深刻变化,应以相应的关怀和资源加以规划和管理。

在人类进步的历史上,有几件事特别具有革命性:有意识地使用火、发明农业、工业革命,可能还发明了计算机和互联网。但许多人预计,先进人工智能系统的创造将超越这些成就。

人工智能

ai人工智能教授曾经说过人工智能是我们未来最重要的话题,或者,正如那样,人类级人工智能的设计将是人类历史上最具影响力的事件,我们再怎么准备也不过分。重要性原则鼓励我们为可能是“生命历史上最大的变化”做好计划。但我们到底准备做什么呢?更先进的人工智能对社会意味着什么?

社会福利

随着人工智能的发展,它也将帮助人类进步,为了支持这一原则,我认为这可以追溯到进化。从进化的角度来看,人类已经达到了他们目前对世界的权力和控制水平,这是因为智力的作用。人工智能是一种增强的智能,它是人类和人工智能的结合。这将产生一个比自主人工智能更有生产力和更现实的未来,后者离我们太远了。在可预见的将来,增强的人工智能,人工智能与人类合作,将改变地球上的生活。它将帮助我们解决与环境、健康和教育有关的重大问题。

也许地球上并不是每个人都关心这个问题,但科学家们应该对这些问题进行讨论,并制定出与价值观一致工作的安全指南。最终,我们研究人工智能是因为我们相信它能对世界产生强大的积极影响。但是,技术越有能力,就越容易误用-或者说,误用它的影响会变得更加严重。这就是为什么在我们取得进展的时候,开始更强烈地思考人工智能将发挥什么作用是如此重要的原因。

短期关注

尽管“重要性原则”特别提到了先进的人工智能,但我采访的一些研究人员指出,近期的人工智能也会对人类产生巨大的影响。我相信人工智能甚至在‘先进’之前就会产生深刻的变化,因此我们需要规划和管理技术的发展,作为人类,我们不擅长长期规划,因为我们的民事制度不鼓励长期规划,然而,在这一领域,我们必须发展自己的能力,以确保在人与机器之间建立负责任和有益的伙伴关系。

从经验中学习

尽管先进的人工智能可能是革命性的,但我们仍然可以从以前的技术革命中吸取经验教训,为未来的变化做好准备。通过回顾这些以前的革命性技术并了解它们的影响,也许我们可以洞察到我们如何才能为先进的人工智能提前做好计划。

随着人工智能能力的提高,我们必须后退一步,问问自己:我们解决了正确的问题吗?是否有更好的问题定义,更有可能给人类带来好处?例如,我们一直将人工智能代理定义为理性的。这意味着他们最大限度地提高了预期效用。

到目前为止,假定效用是已知的。但是,如果你想一想,没有福音指定效用。我们假设某个地方会确切地知道为他们的代理指定什么实用程序。事实证明,我们并不是这样工作的:包括人工智能专家在内的人们很难指定效用函数。我们尽了最大的努力,但是当系统继续进行并优化我们输入的内容时,结果有时是令人惊讶的,而且不是有利的方面。

这表明我们对人工智能代理的定义是基于一个错误的假设,我们已经开始在机器人技术中看到这一点-机器人应该如何移动的定义没有考虑到人,机器人应该如何从演示中学习的定义等等,我想我们会越来越多地在整个人工智能中看到这一点。我们必须停止对人工智能的人和最终用户进行含蓄的假设,并对此进行严格的正面处理,将人们纳入这一方程。

你怎么认为?

人工智能的发展将对人类进步产生什么样的影响?我们怎样才能为这些潜在的巨大变化做好准备呢?我们能准备一下吗?作为一个社会,我们还需要问什么其他问题?