人工智能是好？是坏？还是高深莫测？ 原创

至顶网软件频道消息： 如果未来不可预测，那么还能够想象吗？

托尼.史塔克（译注：Tony Stark，即钢铁侠）转世的伊隆.马斯克（Elon Musk）一直是一个饱受争议的人物，他最近给出了一个不祥的预言。看看CNN的标题--"忘掉北朝鲜吧，人工智能将开启第三次世界大战"。开发算法的竞赛会带来的意想不到的后果，而我们可能可以但也可能无法控制它们，伊隆.马斯克并不是唯一一个担心这个问题的人。一旦引入了一项新技术，它就不可能像未被创造出来一样--山姆.哈里斯（Sam Harris）在他病毒一般传播的TED演讲中指出了这一点。他认为即使人类能够共同做出这样的决定，也无法停止发展的脚步。

人工智能的反对者和支持者都同意一件事：情报爆炸对世界的改变将超出认知。

虽然比尔.盖茨、史蒂芬.霍金以及无数其他的人都与马斯克及哈里斯意见一致，但是仍有一些很有名望的思想家认为人工智能像其他的技术一样，在价值方面是中性的。毕竟，火药最初的用途也只是制作烟花。

Ray Kurzweil认为"人工智能将是实现（人类）进步的关键技术。在控制危险的同时，我们有实现这一承诺的道德责任。"而且，在他看来，人类有充足的时间来制定道德准则和监管标准。

使电脑成为我们中的一份子，让电脑成为我们身体的一部分，这将会极大地改变我们的能力，有朝一日，我们会将现在的自己看成是金鱼一样的生物。

随着世界走向奇点，未来的技术势必会以某种方式增强人的体验，而这样是否能够变得更好则取决于我们。

人工智能的反对者和支持者都同意一件事：情报爆炸对世界的改变将超出认知。在思考未来的时候，我发现Vernor Vinge在Invisibilia播客中提供的隐喻特别直截了当："让电脑成为我们中的一份子，成为我们身体的一部分，这将会极大地改变我们的能力，有朝一日我们会将现在的自己看成是金鱼一样的生物。"如果这就是我们预期的人工智能和技术进步的真实程度，那么我们当代的规范和惯例就将直接彻底破产。

将战争和人工智能放在同一句话之中，我们将后者人格化了。

即使准确的预测是无用的，难道我们不应该至少尝试使用发展得越来越快的技术的棱镜来审视我们的基本假设，质疑人类行为的基础并仔细审视我们的社会组织？人工智能的前景可能是世界末日也可能是永恒极乐，也有可能是两者之间的任何东西，但是，当我们推测结果的时候，我们正在做出价值判断。在这里，我们应该意识到我们很容易受到投射偏见的影响。它迫使我们使用当今的智慧框架思考未来。

将战争和人工智能放在同一句话之中，我们将后者人格化了。当我们担心机器人和机器智能会导致大规模的失业，我们必须认识到，只有在人类劳动仍然是经济必需品的前提下，这种焦虑才是有道理的。当我们表示失去控制的技术进步会造成更多的不平等的时候，我们就是在假设私有财产、财富和金钱等概念将在第四次工业革命中幸存下来。

定义基本术语是一项艰巨的任务，更不用说质疑它们了。但是，也许给出一些场景能够证明设法避免投射偏见是一种有用的做法。

竞争与合作

自然选择的核心是特征和行为的多维度竞争。它表现为基本的竞争本能，人类对此都非常熟悉。进化心理学假定人类行为的驱动因素是延续其基因的需求。所以，智人演变成为了获得配偶进行竞争，为了喂养后代进行资源搏斗，所有这一切都有一个单一的目标，就是将他们的基因延续下去的机会最大化。

当算法能够比人类更好地进行决策的时候，我们将很多自己的自主权交给它们，那我们的竞争本能会如何呢？

另一方面， Edward O.Wilson认为，我们是"仅有的两打左右进化出了社会性的动物系列之一，这是生物组织在机体化之上的下一重要水平。在这个水平上，两代甚至多代团体成员在一起，协作、照顾年轻人并分担劳动……"

在一个富余的世界中，资源竞争还有什么意义？

无论一般机器智能是迫在眉睫还是能否实现，后经济匮乏时代的想法正在逐渐蔓延。如果自动化能够为这个世界提供几乎所有的一切，而人类劳动力变得多余，这一天到来的时候，我们的价值体系和社会组织会有什么样更广泛的影响呢？当算法能够比人类更好地进行决策的时候，我们将很多自己的自主权交给它们，那我们的竞争本能会如何呢？

在一个富余的世界中，资源竞争还有什么意义？我们的竞争本能作为一种有用的东西是否有可能会缓慢地消失不见？我们是否会进化到不需要它生活？与蚂蚁和蜜蜂在死板协议的基础上进行的合作不同，人类在合作能力上的适应性令人惊叹。Yuval Harari认为，正是这一点最终支撑了智人的崛起并统治了地球。可以想象吗？随着Kurzweil描述的技术转型开始实现，对竞争的需求成了一种返祖现象？

经济

我们如何才能确定经济思想的基本支柱（例如私有财产、所有权、资本、财富等）是否能够在后匮乏时代存在下去？一百年后，还会有人关心劳动生产率吗？当所有的人类都搭上了机器"工作"的便车时，我们的就业鼓励政策还有多重要？当供应和需求等基础被破坏时，我们还剩下些什么？

如果所有权是无意义的，金钱也不再是有用的交易单位，那么我们将如何定义地位？

现在，对于一个有收入的就业人士来说，无限期休闲的前景与其说是一种祝福还不如说是一种诅咒。这种情绪，透过自然选择的镜头来看是有道理的。所有具备劳动能力的社会成员的经济贡献都不会让大众追求无所事事的闲暇。但是，我们应该预测这种趋势在未来还会延续下去吗？现在让我们听起来觉得是贪图享乐和衰败的做法，在一个已经不再被已知的经济力量推动的世界上可能会有完全不同的解读。

工作的假设是，无论如何，一个人必须拥有机器并为商品和服务付费。然而，财产和金钱的概念只不过是我们大家都同意的社会结构。如果所有权是无意义的，金钱也不再是有用的交易单位，那么我们将如何定义地位？

我们必须要意识到我们的理解极限，因此要运用我们的想象力--这明显是一项人类的特质，至少在现在来说还是这样。

当然，问题非常多而答案非常少。而我，一个人，也没有资格提出具体的主张或辩护，诚然，这是一种投机主义的说法。最重要的是我们在坚定地颠覆进化的力量，这是自从黎明以来，我们行为的主要驱动力。政治和宗教教条已经发生了改变，而基本的经济原则始终如一--满足人的需求，希望需要人类的努力。这些根本的力量显然受到不断加快的技术进步步伐的威胁。

这里提出的想法可能听起来有些乌托邦而且天真。而且伊隆.马斯克也可能是对的：人工智能的发明可能会导致人类的终结。因此，为人工智能设计适当的治理，并在我们全力投入之前思虑周详是人类重大的责任。在思考未来的时候，我们必须要意识到我们的理解极限，因此要运用我们的想象力--这明显是一项人类的特质，至少在现在来说还是这样。