首页 / 资讯中心 / 交通百科/理想主义与人工智能汽车

理想主义与人工智能汽车

发布时间:2018-08-14 分类:交通百科

你可能已经在新闻中看到,Facebook创始人兼首席执行官马克·扎克伯格最近在国会作证,其中包括以下要点:

1、Facebook是一家理想主义和乐观的公司,在存在的大部分时间里,专注于为人与人之间提供更好的联系。

2、我们没有采取足够的措施来防止这些工具也被用于伤害他人。

3、对自己的责任认识不够广泛,这是一个大错误。

有些人对这些观点的反应是同情的,对他们来说,这只是一个例子,工程师们试图做正确的事情,无意中,一些不太正确的事情发生了。这是硅谷的总体形象,即数以万计的工程师都在做正确的事情,有时他们感到困惑,意识到这可能并不完全正确。他们如此专注于制造更好的捕鼠器,并以令人兴奋的新技术向前推进,我们很难责怪他们对手头事务的专注程度。

我记得一家大型科技公司的高级软件工程师告诉我,她离开硅谷后开始意识到,她发现在她的任何工程团队中都没有真正的专业“伦理学家”,一直都是编程。她告诉我,除了正在建造的纯粹的工程之外,她从来没有考虑过对她的工作有什么考虑。

如果上面的内容对你来说有点在敷衍,那么你并不是孤军奋战。愤世嫉俗者说,这种企图创造一个有益健康的形象,不过是一个保护盾牌,被用来阻止其他人。对这些批评者来说,他们断言理想主义和乐观主义的使用是一件天使的斗篷,用在最聪明的马基雅维利式的方式上。

有一些是介于这些观点之间的,他们说也许有真正的理想主义,并夹杂着一些狡猾,但这些工程师就像天真的孩子,需要一个成年人在房间里。事实上,你可能还记得,当约翰·斯卡利(JohnSculley)进入苹果公司(Apple)时,人们认为,最终是一位负责任的家长掌舵这家公司。他希望这位慈父般的人物能让公司重新聚焦,他会从商业和工业的角度看待那些孤立的工程师,他们似乎不知道公司的围墙之外还有什么存在。在这种观点下,工程师就像他们自己的工程操场上天真的孩子,他们还没有面对现实世界,他们将继续这样下去,直到一个成年人进入这个世界。

人工智能

以理想主义为主导的人工智能汽车

回到扎克伯格的讲话,请允许我做一些调整,我们可能或看到其他的高管讲话:

“我们是一家理想主义和乐观的公司。在我们存在的大部分时间里,我们专注于人工智能汽车所能带来的一切好处。“。

“现在很明显,我们没有采取足够的措施来防止我们的人工智能汽车受到伤害。”

“我们对自己的责任认识不够广泛,这是一个大错误。”

是的,有一天,这可能是人工智能汽车制造商的一位高管在向国会作证时可能会说的话。

现在,自动驾驶汽车行业的许多人都充满了理想主义,他们想制造人工智能汽车,以改善社会,他们相信人工智能汽车的出现将使移动性民主化。他们还相信,人工智能汽车将拯救生命,你会不断地听到有多少人因为酒后驾车撞人而丧生,而人工智能永远不会喝醉,所以我们不会再以这种方式失去生命了。

与这种理想主义的一个“小”区别是,它涉及到生与死。如果你因为一个社交媒体系统而失去了一些隐私,这可能会很糟糕,但它很少会让你付出生命的代价。如果你的人工智能汽车由于人工智能中的某些东西而出现故障,这可能意味着自动驾驶汽车撞到了墙上,或者撞上了行人,或者带来了其他可怕的结果。

我们正在开发人工智能汽车系统,必须认识到这其中所涉及的巨大责任,并呼吁我们的同事和合作伙伴同样意识到并承担这一责任。

它也是人工智能的整体

我们也可以扩大范围,不仅仅是人工智能汽车,并考虑整个空间的人工智能努力。正在进行的一些涉及人工智能开发人员和建造人工智能系统的激烈辩论是否没有充分考虑到这类系统可能对人民和社会产生的影响。能像人类一样走路和说话的机器人,这是一件好事,但是它也有不利的后果。日常人类所做的工作可能会被人工智能所取代,不管是好是坏,这些方面可以彻底改变我们工作、娱乐和生活的结构,这难道不值得我们思考吗?

许多人工智能领域的人会声称,他们只是想打破界限,看看人工智能走多远。他们把注意力集中在实现真正的人工智能上,就像达到一座大家都认为不可能攀登的高山一样。他们希望人工智能像人类一样发挥作用,因为它是可以做到的(或者证明它是可以做到的),他们认为人工智能是一个有价值的挑战,这是一个有待解决的难题。有些人担心这会让我们陷入类似科学怪人的境地。

贯穿这一理想主义的一个共同主线是,对这些开发人员的努力的后果缺乏关注。这是一个合理的借口,事后说,你从来没有想到有一天,你的创造和发明可能会产生不利的后果?这是个大问题。

有一些人不相信这种事后复古的观点,这种观点似乎把可能被认为是罪犯的东西变成了受害者。有些人创造了一些有不良后果的东西,试图通过将聚光灯从作恶者转移到受害者的方式来摆脱困境。他们只是想做好事,他们不是想做坏事。在试图做好事的过程中,不幸和不可预知的事情有时会变坏,哦,对不起,我们是自己天真的牺牲品。因此,人们的反应应该是同情,而不是生他们的气。让他们感到悲哀的是,他们的正义努力产生了一些不幸的结果,但在那些“意外”的结果中,他们和我们其他人一样是受害者。

这些不良后果真的是不可预测和无法预料的吗?

是不可预测的吗?

对许多人来说,这是一种令人愤怒的说法,即不利的结果是完全不可预测的,他们说这是不可信的。在一个担心气候变化,人口过剩,核战争,以及最近社会影响意识的扩张的世界里,像“自我运动”这样的运动,真的还有人生活在一个洞穴里,以至于他们没有考虑可能会发生什么坏事吗?在人工智能汽车方面,我一直在告诫人们,在建造和部署人工智能汽车时,需要考虑现实世界的现实生活后果和道德问题,而且不知何故,等到之后再做这些事情既鲁莽,又可能失败,这是一种愚蠢的行为,也是一条可能失败的道路。

但是,如果有人注意到这些规劝,就必须问一问。愤世嫉俗者说,这些开发人员中的一些人在倾听,但选择忽略它,他们想要得到那些钱,并不想知道事情的进展。或者,他们认为,倾听并根据这些考虑采取行动,会分散人们对解决深层问题的注意力。他们会说他们没有时间担心,可以说,他们只有足够的时间来完成这项工作。计算机行业正在努力培养一套道德准则,这将有助于激励开发人员考虑他们的努力的后果。

那些陷入这种困境的公司经常使用的一个反驳是,一旦你用理想主义的纯粹主义作为一种框架来对待他们,并指出他们一路上可能也赚了很多钱,那么激励他们的不仅仅是理想主义的神圣性,他们会回应说:他们必须赚钱,但这仅仅是为了提供燃料,让他们的理想主义继续下去。他们把钱和理想主义联系在一起,这把金钱方面巧妙地隐藏起来了,也许他们是对的,也许这是另一个诡计。谁会知道呢?

还有另一个角度,有人说,如果我们看到真正的宏观图景,我们可能会意识到,发生的“坏”是更大的旅程的一部分,最终把我们带到更大的好。也许Facebook的隐私方面是善意的提醒,个人隐私的重要性,因此,它启发社会,并唤醒所有其他社会媒体网站。你必须先爬,然后才能走,在旅途中,你需要摔倒一些时间,这没什么,这是为了更好地行走。从这个意义上说,facebook所做的实际上就是有意义的,不管它是出于偶然还是有意而为,不管怎样,这都是一个重要的、偶然的警钟。

在人工智能汽车领域,一些汽车制造商和科技公司担心,如果我们今天让一些涉及自动驾驶汽车的“死亡事件”来阻止我们,我们将无法获得最终减少未来死亡人数的更大好处。这是净现值型的等式。假设在第一轮人工智能汽车中,每年有1000人死亡,这是连续5年发生的(由于人工智能汽车的失败),但它允许人工智能汽车的整体改进,从而完善它们。假设没有人工智能汽车,我们将有3万人死亡。在某一时刻,净效应将是在足够长的一段时间内总死亡人数将减少(在长期内传统汽车死亡人数的减少将超过短期内人工智能汽车“额外”死亡的总数)。因此,他们说,你需要容忍现在发生的一些近期死亡,作为以后不再发生长期死亡的一种交换条件。

如果你或你所爱的不小心成为了人工智能汽车导致的死亡人员中,很难想象你为更大的利益而死会感到很大的安慰。你肯定会问,难道一定以现在的牺牲获取以后更大的利益?难道没有其他的解决办法?

在人工智能汽车中的应用

让我们关注一下这一切对人工智能汽车意味着什么,这里有一些要点需要考虑:

1、人工智能汽车制造商现在需要考虑人工智能汽车的潜在不利后果,他们需要做他们现在能做的来防止或减轻这些未来的可预测的后果。

2、参与制造人工智能汽车的人工智能开发人员和工程师也需要考虑这些不利后果,并且要像伦理学家一样小心。

3、用理想主义给你力量和精神去坚持一个非常艰巨的追求,但是不要让理想主义缩小你的思维,以至于你也忽视了事物的坏的一面。

4、乐观地认为,我们可以实现安全的人工智能汽车,这将为社会提供预期的好处,但温和的“悲观”的因素,认为人工智能很可能会来一些坏处,所以请您尽全力来遏制它。

5、让我们以后不要以这样的姿态回顾过去,说如果我们向前看,预测可能发生的事情,无论是好的还是坏的,并且尽早做一些事情来弥补。

据我所知,大多数人工智能汽车开发商都是非常理想主义的乐观主义者,对此,我们应该心存感激。然而,今天的世界已经不像五十年前那样了,也就是说,对这个世界的天真似乎不再可能了。人工智能汽车制造商和人工智能汽车开发商需要承认,他们有沉重的责任,并承担着这一沉重的负担,负责任地开发和现场安全可靠的人工智能汽车。