AI的兴起是否标志着人类的终结？

作为物理学家中的明星人物，斯蒂芬·霍金再次表达了他对于强大人工智能系统崛起的忧虑，认为其最终可能彻底终结人类。不过在今年10月19日由剑桥大学召开的智能未来大会上，他亦坦言称，人工智能同样有可能成为人类技术发展史上最具潜力的积极成果。

又或者，《黑客帝国》中的“母体”控制着这一切？

那么我们亲手创造的超智能型机器，是否有可能令人类陷入巨大风险？

有人认为，人工智能的兴起将帮助人类实现繁荣、改善卫生服务及生产力，并进一步让我们彻底摆脱简单枯燥的重复劳动。然而学术界与工业领域最具声望的领导者们则认为，我们自己的这一造物很可能带来真实存在的威胁。举例来说，特斯拉汽车公司与SpaceX创始人伊隆·马斯克（Elon Musk）已经在Amazon等技术巨头的资助下建立起一家价值十亿美元的非营利性公司，旨在防止邪恶人工智能带来的人类灭绝后果。而伯克利、牛津与剑桥等知名高校亦已经建立起相关机构以应对这个难题。比尔·乔伊（Bill Joy）、比尔·盖茨（Bill Gates）以及雷·库兹韦尔（Ray Kurzweil）等也就此亮出警示牌，表示必须尽早采取行动避免可怕后果的发生。

听到这里，我们似乎必须马上行动起来了。

技术行业的角色所在

那么，人工智能威胁论是否只是科幻小说中的臆断或者技术行业所推动的又一轮炒作？怀疑论者们可能认为，人工智能引发末日的结论在很大程度上源自宗教启示。当然，末日到来当中往往亦存在着救赎之路。因此，库兹韦尔声称，我们将很快通过纳米机器人对人类记忆进行数字化转化。马斯克最近宣布，我们几乎肯定能够在未来以《黑客帝国》中“母体”的形式进行场景模拟，从而将人脑中的“程序”保存达数个世纪，甚至进行重新配置。

伊隆·马斯克关注机器人的未来发展趋势

各位科技巨头已经将自身作为现代世界中的神，其有权力毁灭人性，或者让我们普通使用者通过其实现不本书。这种二进制转化趋势已经在科技世界中逐步成形，因为其完全能够自我佐证——面对技术发展如此迅猛的时代，我们真的已经很难判断人类历史会于何时突然结束。如今，引导未来的不再是技术大牛或者是商业领袖，而是一少部分被选中以决定人类未来命运的群体。

对于审判日项目的研究人员们，他们不仅着眼于“现有威胁”进行奔赴呼吁，同时亦吸引到丰厚的资金投入并与众多技术精英一道为预先将其解决而努力。

因此，智能化机器到底会选择怎样的相处之道？杀掉我们、拯救我们，抑或是驱策我们为其劳动——正如以往机器为我们劳动？为了回答这个问题，我们不妨回顾人工智能技术的整个发展历程。

拨开炒作迷雾

目前人工智能领域的各项基础性技术，例如最近由谷歌DeepMind用于击败人类棋手的Alpha Go，实际上是对上世纪八十年代开发出的技术的增量式改进。换言之，其方法并没有本质性突破。相反，性能的提升使得其训练集（亦被称为大数据）规模与处理能力得到量级化增长。而保持不变的是，大多数机器系统仍然能够最大化某种目标的方式进行运作。在游戏当中，其目标非常简单，即获取胜利（例如在国际象棋当中吃掉对方的国王）。正因为如此，人工智能目前仍然主要在游戏领域获得成就（包括象棋、国际象棋与围棋），因为此类场景更易于指定目标性功能。

在其它情况下，特别是难以明确界定目标的环境中，人工智能则很可能出错。然而，这类错误往往源自人工智能的能力低下而非恶意目的。举例来说，假设美国在冷战期间建立一夶人工智能控制下的核武器库，用于阻止苏联的突然袭击。尽管苏联方面没有采取任何行动，然而一旦该核武器库发生反应堆熔毁，则电网必然暂时崩溃。这时人工智能传感器检测到服务中断及参数下降，并将其判断为自身已经遭受攻击。这是总统指挥系统会努力要求其停止发射，但人工智能可能把总统急迫的语音指令判定为其已经遭到胁迫——接下来就是核弹发射，苏联方面反击，人类灭绝。

人工智能一直在根据其既有编程指令进行运作，但这仍会导致灾难性的错误。我们应当将毁灭归因于自身的无能，而非源自邪恶的人工智能——这种情况事实上与大型喷气式飞机上自动飞行装置故障导致乘客遇难并无区别。相比之下，相较于曾经出现的人类飞行员故意谋杀乘客事故，我们似乎应该积极欢迎自动驾驶系统的加入。

当然，人们可以设计出杀伤性人工智能方案，但这种有针对性的攻击系统并非源自机器的自我意识。西方政府曾经发布了诸如震网（Stuxnet）之类的计算机病毒，用以定位关键性工业基础设施。未来的病毒可能更为聪明也更加致命，然而这基本上仍然遵循着历史的发展轨迹，即人类利用最先进的技术进行相互伤害。

人工智能确实会带来真正的威胁，但其往往表现在经济与社会层面。聪明的人工智能能够为社会创造巨大的财富，但同时亦会令大量人群失去工作。与工业革命不同，机器革命不会创造大量新的工作岗位，而只是在现有岗位上做得更好。因此，真正的挑战在于如何帮助那些因人工智能而失去生活依凭的群体（其中包括我们大多数人）。另一个问题在于，当机器永久性地取代整个劳动阶层，例如医护人员，之后，人们将不再互相照料——这无疑会让整个社会变得更加冷漠。

幸运的是，如果政府听取详尽的建议，那么应该能够从技术领域的单纯引导中摆脱出来。例如，英国下议院科学与技术委员会最近发布了关于人工智能风险的报告，其中更多侧重于经济、社会与伦理问题。其最终结论是，人工智能将使得行业更为高效，但同时也可能严重破坏社会稳定。

如果我们真的担心人类的未来，则应当更多关注真正的挑战，例如气候变化与大规模杀伤性武器，而非幽灵般的人工智能机器人杀手。