人工智能可以给社会带来难以置信的好处，例如更快、更准确的医疗诊断到更可持续的能源管理，等等。但在今天的经济中，首先取得技术突破的是赢家，首先开发ai人工智能技术的团队将获得金钱、声望和市场等好处。由于赌注如此之高，人工智能系统的建设者们有足够的动力争先恐后地成为第一名。

当一个组织竞相成为第一个开发产品的组织时，对安全标准的遵守就会变得松懈。因此，对于研究人员和开发人员来说，最重要的是要记住，无论人工智能多么伟大，它也伴随着风险，从无意的偏见和歧视，到潜在的意外灾难。如果首先开发某种产品或功能的团队不花时间适当地审查和评估他们的程序和设计的各个方面，这些风险就会加剧。

然而，尽管人工智能竞赛的风险是巨大的，但如果企业不竞争，它们就无法生存。

正如埃隆·马斯克(Elon Musk)最近所说的那样，“有些公司在比赛-它们不得不比赛-来构建人工智能，否则它们将失去竞争力。如果你的竞争对手是向人工智能冲击，而你没有，他们会击败你。“

合作可行吗?

有迹象表明，一场人工智能竞赛可能已经开始，一些人担心合作将很难实现。“很难合作，”人工智能教授苏珊·克劳德说，“尤其是当你试图争夺产品时，我认为很难控制这种情况，除非人们接受这一原则。”对我们来说，安全标准是至高无上的，因此在这个领域积极合作以避免切角就更重要了。但这真的取决于谁和你在这个空间里。”

苏珊·施奈德(SusanSchneider)是一位专注于高级人工智能的哲学家，她补充说：“合作非常重要，问题是那些在保密问题上有利害关系的国家或公司很难合作，如果超智能人工智能是这场竞赛的结果，它可能对人类的生存构成威胁。”

谁最重要?

也许建立鼓励“合作竞争”的环境的一个重要步骤是理解为什么一个组织或一个团队可能会冒险在安全问题上偷工减料。这正是哈佛心理学家约书亚·格林所做的，因为他认为这个原理。

格林说：“在安全问题上偷工减料实质上是在说，‘我的私利优先于公共利益。’”“在安全问题上偷工减料，其实只是一种自私的行为。以安全为代价向前跑的唯一理由是，如果你认为赛车的好处不成比例地属于你。它增加了人们普遍受到伤害的可能性，如果你愿意的话，这是一种普通的坏事，目的是为了提高私利的可能性。“。

有利可图的安全效益

我们必须帮助人们重新思考安全标准意味着什么，通过安全检查，你现在会问：我的人工智能系统是什么?它将如何与最终用户或供应链中的利益相关者互动，接触它并与之接触，哪里有人类参与，哪里是系统对人，哪里是系统对系统?

安全其实就是询问人们的价值观，不仅仅是身体上的安全，还有：他们的个人数据呢，他们将如何与这些信息交互呢?所以你不想偷工减料的原因是你也在削减创新。你失去了提供更好的产品或服务的机会。

但对于认真对待这些标准的公司花时间仔细研究这些标准时，会发现所有这些很棒的方法，可以让你在做的事情上建立更多的信任。

你怎么认为?

有了像人工智能合作伙伴这样的组织，我们已经开始看到一些迹象，表明企业认识到并希望解决人工智能竞赛的危险。但就目前而言，该伙伴关系主要由西方组织组成，而许多国家(特别是中国)的公司正在争先恐后地追赶-或许是“击败”-美国和欧洲的公司。我们如何才能鼓励世界各地的组织和研究团队合作，共同制定安全标准?我们怎样才能协助各小组监察他们的工作，并确保他们经常有适当的安全程序?人工智能研究团队将需要其他团队的反馈和洞察力，以确保他们不会忽视潜在风险，但这种合作将如何在不迫使公司披露商业秘密的情况下进行?你如何看待种族回避原则?