在2017年8月的维尔福Dota2锦标赛中，一个新的顶尖选手出现在了这个网络游戏世界里。在一周的时间里，这名选手在一个难度系数最大的网络游戏中打败了包括世界冠军在内的一连串其他顶尖选手，并且这名选手仅仅玩了6个月。

马斯克在推特中）说道：OpenAI公司第一步所要做的是在激烈的电子竞技中打败世界上最厉害的玩家们。这远远比传统的类似象棋、围棋的棋牌游戏更加困难复杂。

这条推特描绘了马斯克和他的非盈利人工智能研究公司，OpenAI，正在步谷歌的AlphaGo和脸书的DarkForest的后尘。但是对于Musk和OpenAI来讲，这不是玩游戏那么简单。在他看来，如果人工智能研究继续沿着现在的道路走下去，人类将没有未来。

现在，人工智能是科技的核心组成。它不仅流行于Siri自然语言处理、谷歌的RankBrain这些显而易见的领域，还几乎在所有科技行业都流行。

人工智能的研究正在以惊人的速度发展，马斯克认为这是对人类的生存威胁。谷歌、脸书、亚马逊、苹果和所有的在AI100（见上图）中的公司都在为人工智能的优势贡献力量：更高的效率、更高的生产率、更少的人类工作以及更理想的更高的生活质量。

但是这些优势的竞争也是一场巨大的潜在缺陷的竞争——一种超级智能的通用人工智能，它远远比人类聪明，并认为留下人类毫无用处。

OpenAI的目的是加强人工智能的研究。上述从事人工智能的公司自然是秘密。出于商业的必要：尽管你可以阅读DeepMind或谷歌大脑团队的研究论文，但这项工作是闭门秘密进行的。

OpenAI不仅要进行研究，还要“占据元级别，例如平台和基础架构，以便为每个人提供更快的研究。”为实现这一目标，该公司有两个核心组成：

»研究：该基金会已经吸引了一些这个领域最出色的研究人员，保证为他们提供从事研究一些最大的人工智能问题的机会。这个组织定期发表自己的对人工智能和机器学习的研究。此外，这个组织还在自己的网站上发表更广泛的想法。

»系统：这个组织正在搭建平台，以帮助其他人工智能研究人员更好地理解他们正在构建的机器。举个例子，这个组织已经建立了一个人工智能健身房，“用于开发和比较强化学习算法的工具包”。

OpenAI的总体理念，是将高品质的人工智能研究公开化，并使其不受商业的限制。该公司在其介绍性博文中声称“由于我们的研究不用背负债务，因此我们更能专注于研究人工智能对全人类的积极作用。”

超智能AI真的会成为一大问题吗？即便对马斯克这样的人来说，这听起来都过于科幻了。臆想在火星上建立殖民地，或者自动驾驶汽车，都不是什么难事。但臆想出一场人工智能导致的世界末日，却没那么容易。机器学习的领导者Andrew Ng说过，“担心出现超人般的人工智能，就好比担心火星人口过多一样。”

然而，马斯克却真的抱有这样的看法。从没人考虑过超智能AI可能带来的问题——取而代之的是，他们关注的是蕴藏于人工智能之中的商机，而忽视了人工智能潜在的问题。

AI的潜在问题有两重：

1 人工智能会无意识地做出伤害性行为

2 人工智能会故意地做出伤害性行为

即便是对现在的弱人工智能来说，第一点也可能会成为问题。比方说，我们造了一个基于人工智能技术的清洁机器人。那么，这个清洁机器人想做的事情，无非是把世界变得越干净越好。如果这个机器人它只是想要把所有东西都变得尽可能干净，那它有一些选择来完成这件事。第一个选择就是把所有脏乱都收拾干净。这自然是我们想要的结果，也是人工智能开发者期待的事情。

然而，对清洁机器人来说，这并不是唯一的选择。还有一种可能是，它会尝试阻止脏乱的产生，而制造脏乱的正是人类。“如果人类不存在了，那脏乱也不会产生了，所以干脆就除掉所有人类吧”的这种想法增加了该人工智能的效用函数值，并且对它来说，这也是一种合理的、能够解决问题的措施。

诸如此类的人工智能安全问题研究是OpenAI的主要关注点。该公司于2016年合著了一篇针对此类问题的研究性论文，名为《关于人工智能安全的具体问题》。该论文确定了5个研究领域，这些研究领域是人工智能研究人员推进任何类型的研究都需要认真考虑的：

»防止不良的副作用出现。我们要如何保证人工智能不会为了执行其功能从而偏离自己的程序呢？用清洁机器人打个比方，它搞不好会为了打扫得更快而把房间给破坏掉。

»防止回报函数的失效。如果人工智能使用回报函数来决定其行动前进的正确方向，那我们如何保证它不会偷懒，并用执行正常功能以外的方式来增加其回报函数呢？还是拿清洁机器人打个比方，它或许会关闭自己的视觉系统来让自己什么脏乱都看不到，从而达到这个目的。

»可扩展的监视手段。若在训练样本都十分稀缺的情况下，我们怎么确保能训练人工智能安全无误地完成任务呢？清洁机器人会明白自己要擦干净咖啡杯，但与此同时，它要怎么学会避免不小心“擦干净”你晚上放在桌子上的手机呢？

»安全性检测。人工智能能否检测出所有可能的结果，并且训练自己避开严重事态的发生——比方说，清洁机器人能否在学习怎么擦拭地板的同时，避开插座呢？

»对于分布变化的鲁棒性。随着数据或者环境的变化，人工智能能否继续工作在最佳状态，或者至少定义对象的模糊性，并且能勉强地完成任务？如果学会了清扫办公室的地板，那智能清洁机器人就会清扫工厂的地板了吗？

已经对AI程序进行了攻击来测试其局限。对于弱人工智能来说鲁棒性需要被尤其重视，即当你在他们熟悉的领域之外进行测试时它们的执行效果如何。至少到目前而言，这个结果还差强人意。图像识别机器学习算法经常把对抗范例进行错误分类，这些图片样本中都被插入了特定的噪声。

x +0.007* 符号 = x+€符号

“熊猫” “线虫” “长臂猿”

判别率57.7% 判别率8.2% 判别率99.3%

这还只是一个良性的例子，然而不难想象类似黑客式攻击的恶意执行会带来什么后果。试想在你的自动驾驶汽车中一个对抗攻击会将AI编程中的“停止标志”变为“绿灯”。它不仅比在某人的汽车中切断刹车线更有潜在的致命性，它作为一个虚拟攻击，因此（假设）更具有高度可扩展性。

人工智能安全的核心问题简单归结为：我们如何确保AI能够想我们所想？OpenAI正试图引领该领域研究，并且这不是单打独斗。研究具体问题的论文涉及到包括来自谷歌大脑、斯坦福、加州大学伯克利分校以及OpenAI的研究人员。

但是对于超智能强人工智能的非具体问题，OpenAI在独自研究。

这种担忧背后的核心是人工智能的学习率。赢得Dota2的机器人就是一个很好的例子。从4月份启动以来，每次迭代都会稳步提高其能力。

该图测量了OpenAI最佳机器人的真是技能评级- 类似于国际象棋中的ELO评级- 这是机器人和与其训练的其他OpenAI机器人的胜率的结果总结。

人类花了数年的时间做成的事AI只需花费数月。深度学习（DeepMind）AlphaZero国际象棋AI的成功，标志着AI的发展更进了一步。AlphaZero在几小时内就学会了如何击败最好的国际象棋电脑。

AlphaZero除了游戏规则之外没有获得任何相关领域知识，刚开始从随机的对局练起，24小时内在国际象棋和将棋（日本国际象棋）中发挥了和Go一样的超出人类水平的实力，并且在每次对决中都令人信服地击败了世界冠军程序。

AI通过强化来学习。人工智能成千上万次的玩游戏，并递增地从每一次游戏中学习。AlphaZero中同时运行了5,000个TPU处理单元，这是专门设计的处理单元，用于使用Google的TensorFlow框架来运行机器学习算法。每个单元的学习结合起来就产生了“超人的游戏水平”。

这些仍然属于弱人工智能的实现。强人工智能AGI可以使用这些技术进行自我引导。

AI已经在学习如何实现自我发展。

“几个月前，我们推出了AutoML项目，这种方法可以自动设计机器学习模型。...... （我们）发现AutoML可以设计出与人类专家相当的小型神经网络。”

-GOOGLE RESEARCH BLOG

AGI（通用人工智能）可以测试数百万个更新的、更好的AGI，从每个AGI中选择最佳参数并将它们组合起来，迅速地使得自己变得更加智能。

然后，那个更为智能的AGI重新开始这个过程。这就是加速回报定律。

未来即将到来。学得更快的人工智能正在得到更快的开发。

马斯克认为我们是棋盘上的皇帝，直到结束才会意识到自己的错误。在几秒之内，AI远远超越了我们的能力。

然而，2018年8月举办的Dota2的复赛中，人类获得了胜利。在一场三局两胜的比赛中，“OpenAIFive”输掉了两局对阵人类顶级玩家的比赛。

AI 高于两个人类团队

这些队伍----paiN和中国超级明星队（Chinese Superstar Team）----比与人工智能之前较量过的其他球队都要优秀。并且使得人工智能的一些局限性得以凸显。

比赛分析结果显示，战胜AI有两种更好的战略。

»更为冒险的玩法

在比赛过程中，有评论员指出：“相比于有51%的可能性赢取50分，OpenAI更愿意选择有90%的可能性赢取1分。”

这些程序采取的行动会使分数平稳的增加，但是有的时候，他们也会把一些机会白白让给人类。

»长期战略

OpenAI Five 在比赛的最初几分钟里表现得很好，然后就开始下滑。长期记忆是一项AI还没能掌握的技能。

这两个基本问题互相对抗。AI既不能为了快速赢得比赛而冒险，也不能长久的思考以应对持久的比赛。

这不仅仅是AI在游戏领域的问题，这也是AI在所有领域中的基本问题。人们通过采取措施现在知道了小时、月、年的逝去，但是AI不行。

对于OpenAI，计划是让大众能够充分地意识到AI所能带来的威胁，从而前瞻性的管理和控制它。

然而，OpenAI不是Elon在进行的唯一项目。他还投资了对冲工具，人类将及时从AI中拯救自己。。

它就是Neuralink（脑机接口公司）----在人类被取代之前，用数字技术增强人类。

文章介绍

本系列文章由硅谷密探的独家翻译：梧桐，翻译自 CB Insights。（如需转载，请联系微信：suiyuerugeklf 获得授权。

原文链接：https://app.cbinsights.com/research/report/elon-musk-companies-disruption/