研究目标：人工智能研究的目标应该是创造有益的智能，而不是无方向的智能。从表面上看，研究目标原则可能不像其他一些更直接涉及我们如何与ai人工智能互动以及超级智能的影响的原则那样，显得那么迷人或令人兴奋，但其他所有的都是从这个第一原理衍生出来的。

简单地说，如果没有人工智能系统的研究和研究人员的特定目标，人工智能就无法发展。然而，在不考虑研究可能的长期影响的情况下，参与研究并努力实现广泛的人工智能目标，可能对社会有害。

在“侏罗纪公园”中有这样一个场景，杰夫·戈德布拉姆扮演的角色哀叹说，“创造恐龙的科学家们，正全神贯注于他们能否做到这一点，以至于他们没有停下来思考是否应该这样做。”直到最近，人工智能研究人员还主要集中在找出他们可以完成什么，没有更长远的考虑，而且是有充分理由的：科学家们只是试图让他们的人工智能程序发挥作用，结果太有限。

但是在过去的几年里，科学家们在人工智能方面取得了很大的进展，人工智能对社会的影响已经被感受到了，正如我们所看到的，偏见和歧视的一些问题已经出现了，这并不总是好的。

姿态偏移

不幸的是，在人工智能研究中仍然存在一种文化，这种文化太过接受这样一种观点，即开发人员不必对他们的产品的使用方式负责。这种我只是制造工具，让别人来决定它们是好的还是坏的态度是不对的。如果你参与了制作这些功能强大的工具的过程，你就有责任尽你所能确保这些工具朝着一个总体上有益的方向发展。有了人工智能，每个参与其中的人都有责任把它推向一个积极的方向，把权力交给已经强大的人，让他们变得更强大，让自己受益。

什么是“有益的”?

与我交谈过的其他人工智能专家也同意这一原则的一般想法，但对该原则的措辞并不完全一致。考虑到人工智能可能被误用或滥用，最重要的是要有一个明确的积极目标。它可能会被挂在什么是这个词的“有益”的意思。如果我们把它指向有益的智力，我们必须定义我们的术语;我们必须定义什么是有益的含义，而这对我来说是不清楚的。这对不同的人来说意味着不同的事情，你能让每个人都受益是罕见的。

长期研究

路易斯维尔大学人工智能研究员罗曼·亚波斯基将讨论带回到最关心的问题上：就体系结构和目标而言，可能的智能代理的宇宙是无限的。仅仅试图设计一种有能力的智力是不够的，重要的是要明确地以一种符合人类目标的智力为目标。在浩瀚的可能目标的海洋中，这是一个非常狭窄的目标，因此大多数智能代理不会为我们的价值观做一个很好的优化器，从而导致恶意的或至少是冷漠的人工智能(这也是非常危险的)。只有将未来的超级智慧与我们的真正目标结合起来，我们才能从我们的智力继承者那里获得巨大的利益，并避免存在的灾难。