最近在人工智能方面的进展清楚地表明，我们的计算机需要有一套道德准则。想想看：一辆汽车在路上行驶时，一个骑自行车的孩子突然在前面突然转向，汽车是否转向迎面而来的车道，撞上另一辆已经在那里的汽车或者那辆车突然转向，撞上了一棵树又或者它会继续前撞上孩子吗?

每个解决方案都有一个问题：它可能导致死亡。这是一种不幸的情况，但人类每天都面临这样的情况，如果汽车是自动控制的，它需要能够作出这一选择，这意味着我们需要弄清楚如何在我们的计算机中编写道德程序。

造德

乍一看，这个目标似乎很简单，让AI人工智能的行为符合道德规范;然而，它比最初看起来的要复杂得多，因为有大量令人吃惊的因素在起作用。道德判断受权利(如隐私)、角色(如家庭中的角色)、过去的行为(如承诺)、动机和意图以及其他道德相关特征的影响，这些不同的因素还没有被纳入人工智能系统，这就是我们现在要做的。

虽然公众可能会担心人工智能会不会消灭人类，但这样的事情在目前确实不是一个确切的威胁，因此，我们应该在更基本的层面上，确保我们的人工智能系统能够做出人类日常所做的艰难的、道德的选择。

那么，怎样才能让一个人工智能做出一个艰难的道德决定呢?

为了达成这样的目标，应遵循两条道路：让人们做出合乎道德的选择，以便找到模式，然后找出如何将其转化为人工智能。我们现在的工作实际上是让人们做出合乎道德的决定，或者说他们在特定的情况下会做出什么决定，然后我们使用机器学习来尝试确定一般模式是什么，并确定我们可以在多大程度上复制这些决定。

简而言之，现在正在试图找出我们道德选择中的模式，并将这种模式转化为人工智能系统。在基本层面上，这一切都是为了预测一个人在特定情况下会做什么，如果我们能够很好地预测人们在这种道德环境中做出的决定，那么，我们就可以计算机程序的形式自己做出这些决定。

然而，其中的一个主要问题是，道德当然不是客观的，它既不是永恒的，也不是普遍的。

如果我们在一百年前做同样的道德测试，那么我们从人们那里得到的决定将会更加种族主义，性别歧视，以及所有其他我们现在不会认为是‘好’的事情。同样，现在，也许我们的道德发展还没有达到顶峰，一百年后，人们可能会觉得我们现在所做的一些事情，比如我们对待动物的方式，是完全不道德的。因此，无论我们目前的道德发展水平如何，都存在着一种偏见和陷入困境的风险。

那些有感知力的人工智能呢?我们何时才需要开始担心这些问题，并讨论应如何对其进行监管?

类人工智能

类似人类的人工智能在一段时间内还不会出现，但最近已经有了很多步骤来建立这样的系统，已经有了很多令人惊讶的进步。但是我认为有一个像‘真正的人工智能’这样的东西，它真的一样灵活，能够抽象，并且做所有这些人类很容易做到的事情，我认为我们仍然离它很远。的确，我们可以为系统编写程序来做很多人类擅长的事情，但有些事情非常复杂，很难转化为计算机能够识别和学习的模式(这最终是所有人工智能的基础)。

早期人工智能研究的结果，也就是人工智能研究的头几十年，是这样一个事实：某些我们认为是智力真正基准的东西，比如能够很好地下国际象棋，实际上很容易被计算机接受。编写和创建一个国际象棋程序并不容易，但它是可行的。事实上，今天，我们的电脑能够在一系列游戏中击败世界上最优秀的玩家，比如国际象棋和阿尔法围棋(Alpha Go)。

但事实证明，玩游戏并不完全是衡量人类智力的好标准。或者至少，人类的思想还有更多的东西。与此同时，我们了解到，对人们来说非常简单的其他问题，实际上对计算机来说也是相当困难的，或者对计算机进行编程是相当困难的。例如，在人群中认出你的祖母，你可以很容易地做到这一点，但实际上很难用计算机编程来很好地识别事物。

从人工智能研究的早期开始，我们就制造了能够识别和识别特定图像的计算机。然而，要编写一个能够做所有人类能做的事情的系统是非常困难的，这就是为什么我们需要一段时间才能有一个“真正的人工智能”。

然而现在是时候开始考虑我们将使用什么规则来管理这样的智能了，这可能要走得更远一些，这意味着可能只有几十年的时间，在未来考虑一下这些事情肯定是有道理的。尽管我们还没有任何类似人类的机器人，但我们的智能系统已经在做出道德选择，并有可能拯救或终结生命。

很多时候，他们做出的许多决定都会影响到人们，我们可能需要做出那些我们通常会被认为是有道德负担的决定。一个标准的例子是自动驾驶汽车，它必须决定要么直行撞到前面的车，要么转向，也许会伤到一些行人。你是怎么权衡的?我认为我们可以在这方面取得一些进展。这并不需要超级智能的人工智能，这可能只是程序，使这种类型的权衡在不同的方式。但是，知道要做什么决定，首先需要知道我们的道德是如何运作的(或者至少有一个相当好的想法)，从那里，我们可以开始编程它。