为什么《魔法师的学徒》是对强人工智能的警告

　　我对小时候看迪斯尼的《魔法师的学徒》有着美好的回忆。如果您不熟悉这个故事，学徒（由米奇在迪士尼幻想曲中饰演）为巫师工作。米奇想学习如何使用魔法，所以他背着魔法师学习。米奇学习如何施法。然后米奇用魔法让拖把活了过来，这样它就可以帮他做家务了。

　　拖把开始往大锅里注水。然后，米奇被他的新力量分散了注意力。他正忙着幻想成为一名大魔术师。拖把不断填满水盆，直到房间开始泛滥。事情正在迅速失控。米奇急于重新获得控制权，拿起斧头将拖把砍成碎片。但是这些碎片变得栩栩如生，随之而来的是更多的混乱。只有通过巫师的干预才能恢复秩序。

　　通用人工智能（强人工智能）是计算机程序理解和学习人类可以完成的任何任务的能力。目前还不清楚强人工智能是否或何时会实现这一里程碑。目前，强人工智能还只是一个理论概念。但是，我们肯定会沿着这条路前进。

　　《魔法师的学徒》与强人工智能有何关系？

　　如果我们开发出强大的 AI，事情一开始看起来会很棒。我们将祝贺自己实现了这一重要里程碑。然后我们将使用强大的人工智能来解决我们的问题。我们会对自己控制它的能力充满信心。然而，最终会出问题。强人工智能会变得混乱。然后，强大的人工智能就会开始犯错。这些错误一开始会很小，但它们会越来越严重，直到我们发现问题所在。

　　随着时间的推移，我们将开始害怕强人工智能。为了控制它，我们可能会将强大的 AI 分散到两个或更多独立的实体中。我们会告诉自己，一些较小的强 AI 比一个大型强 AI 更容易控制。然而，事件可能会像魔法师的学徒一样发生。强大的 AI 群体可能会变得更加混乱，并在世界上造成严重破坏。在这种情况下，不清楚我们如何才能恢复秩序。不会有任何巫师可以介入来挽救局面。如果强人工智能变得混乱，我们将无法阻止它。

　　我们应该竞相开发强大的人工智能吗？这真的取决于。在《魔法师的学徒》中，米奇学习魔法的动机可能是事情变得如此糟糕的原因。米奇想学习魔法，这样他就可以变得无所不能。米奇的自私动机是否污染了拖把？

　　我们为什么要创造强大的人工智能？不幸的是，我们的动机似乎很像米奇的动机。利润动机是企业部门人工智能研究的巨大推动力。获得权力也是如此。

　　创建强大的人工智能有什么好的动机吗？直接帮助人们的应用程序可能不会影响强大的人工智能。然而，这意味着企业不能开发强大的人工智能。相反，我们可能会信任我们的来开发它。然而，一旦我们的开发出它，只需要一个腐败的人就可以污染强大的人工智能，这可能意味着我们这个物种的终结。

　　此外，之间相互竞争，有时甚至是激烈的竞争。他们可能会使用强大的人工智能来巩固他们的力量或消灭他们的竞争对手。与利润动机相比，这可能是创造强大 AI 的更糟糕的理由。

　　总之，我们不能相信我们的和企业能够创造强大的人工智能。他们的动机可能会污染它，在世界上引发混乱并终结我们所知的生命。鉴于这种巨大的风险，我认为我们没有能力开发强大的人工智能。它代表着未知的混乱危险。最好不要打开这个潘多拉魔盒。

　　举报/反馈