近年来，人工智能的发展非常迅速。计算机程序在各种游戏中逐渐取代了人类的地位，自动驾驶汽车正出现在道路上，ai人工智能在图像和语音识别方面的表现开始超过人类。

伴随着所有这些进步，许多关于人工智能对人类社会影响的担忧已经摆到了最重要的位置。我们应该如何设计和管理自动驾驶汽车和类似的技术?人工智能系统会使大部分人口失业吗?人工智能会产生意想不到的社会学后果吗?(想想精确预测一个人喜欢哪些新闻文章，从而导致社会两极分化的算法，或者预测某人是否会拖欠贷款或实施另一项犯罪的算法，这些算法会因为输入的数据而带有种族偏见)。

人工智能会被暴虐的政府滥用来嗅探和扼杀任何正在萌芽的异见吗?我们甚至应该担心，人工智能最终将成为“超级智能”，智力在任何重要方面都比人类更有能力，使我们过时甚至灭绝吗?虽然这最后的担忧一度纯粹是在科幻小说领域，但包括埃隆·马斯克(Elon Musk)、比尔·盖茨(Bill Gates)和斯蒂芬·霍金(Stephen Hawking)在内的著名人物最近提出，需要认真对待这一问题。

这些关注点大多是完全不同的，但它们都依赖于人工智能技术进步的前提。事实上，除了最后一种情况外，在所有情况下，即使是目前刚刚证明的人工智能能力，在某种程度上也证明了这一点，但进一步的进展将加剧这种担心。进一步的进展似乎是不可避免的，这既是因为似乎没有任何根本性的障碍，也因为大量的资源正在投入人工智能的研究和开发。这些担忧相互影响，一个研究人工智能风险的社区也开始形成了，这包括传统人工智能研究人员-主要是计算机科学家-以及来自其他学科的人：研究人工智能驱动的失业问题的经济学家，讨论如何最好地监管自动驾驶汽车的法律学者，等等。

大多数传统人工智能研究人员不愿推测我们是否以及何时能达到真正的人类水平的人工智能：目前的技术似乎离这一目标还有很长的路要走，而且不清楚有什么新的见解能够缩小这一差距。他们中的大多数人也宁愿专注于取得具体的技术进步，而不愿陷入关于意识本质的哲学争论之中。与此同时，这些研究人员大多愿意认真对待其他关注的问题，这些问题在目前的能力中有着具体的基础。

关于超级智能的推测，听起来更像是科幻小说，而不是科学，是否有风险会使专注于真正的人工智能在社会上负责任的发展这一更大的项目失去信誉?如果是这样的话，是不是最好暂时把有关超级智能的讨论放在一边?虽然我很怀疑真正的人类水平的人工智能很快就会被开发出来的想法，但总的来说，我认为，在这些讨论中，对此感到担忧的人们应该有一席之地。首先，一些最令人惊讶的令人印象深刻的最近技术成就来自于那些非常看好人工智能所能取得的成就的人。即使事实证明我们仍远未接近人类水平的人工智能，那些认为我们是的人可以为中期可能发生的事情贡献出有用的见解。

我认为，即使是思考一些非常困难的哲学问题也是有价值的，比如人工智能是否会有主观经验，是否有可能成为一个高度先进的人工智能系统。除了对一些古老的问题提出有趣的新见解外，这项活动很可能为未来的社会辩论提供信息。例如，我们可以想象，在未来，人们将依附于高度个性化和人格化的机器人，这些机器人在年老时照顾他们，并在这些机器人去世后要求给予他们一定的权利，是否应该给予这种权利?这种情绪应该避免吗?

与此同时，这场辩论显然不应排斥或关闭那些真正关心短期问题而又不愿对长期问题进行猜测的人，尤其是因为大多数真正的人工智能研究人员都属于这最后一类。除了为短期关注的问题提供解决方案外，他们的参与对于确保长期辩论立足于现实至关重要。当研究团体包括有不同观点和不同副利益的人时，他们的工作效果最好。很难想象有哪个话题比人工智能对人类社会的影响更真实。