马斯克的忧虑，人工智能会不会被武器化？

在开始正式话题前，我们先来看一看十多年前人们对于人工智能的忧虑。在2004年由威尔·史密斯主演的《I, Robot》横空出世引起了轰动。这个影片对未来人信赖不疑的机器人进行了深度刻画。充斥于人类生产生活各个领域的机器人从一起凶杀案开始而对人类展开了激烈的报复。因而，当人工智能发展到一定膨胀的程度，是否要赋予人工智能思维能力已经成为一个伦理、法律问题。

当然科幻影视仅是作为极其前瞻性的事物，替大多数人对未来这一技术的安全性作出了忧虑。人工智能AI技术作为未来计算机产业革命性产物，仍然为世界各国所趋之若鹜。人们对于AI未来是取代人还是成就人都一直在进行无休止的争论。

对于人工智能对未来世界的利弊以及对未来力量格局的影响， 俄罗斯总统普京就在9月份发声阐明了自己的观点。

普京对AI的重视

在9月初，俄罗斯总统普京在雅罗斯拉夫尔市与学生的交谈中提到，“人工智能（AI）技术蕴藏着巨大的机遇与不可预测的危险。未来世界谁能掌握最领先的人工智能技术谁就是世界的统治者”。普京还警告说，“未来战争各国将使用人工智能技术的无人机去打一场战争。而当一方的无人机被另一方的无人机击落时，除了投降别无选择。”

在交谈中，普京第一次将人工智能技术和原子能技术画上了等号。并称，“如果将来有人在AI方面赢得垄断地位，那是非常不希望看到的。当然，如果俄罗斯未来能成为人工智能领域世界领袖，也会像原子能一样将这项技术与全世界分享。”

毋庸置疑，当前人工智能技术已经被世界各国列为国家发展战略规划。不仅俄罗斯非常重视“人工智能”的发展。同样世界主要国家地区，例如中国、日本、美国、欧盟都制定了相关的人工智能发展规划。可以预见，对于“人工智能”的发展将掀起一场堪比“工业革命”的激烈竞赛。

同时，在轰轰烈烈的发展人工智能技术的浪潮中，也有不少质疑人工智能是否安全的反对声音。当然，也不时出现人工智能、机器人的“反常”事件。这些事件虽然目前看来微不足道，但足以引起人的重视。

AI机器人“反常”事件

2017年7月份， 美国华盛顿港购物中心发生了一起“安保机器人溺水”事件。并一度被媒体解读为机器人自杀事件，而事发机器人公司给予的解释是机器人在巡岗时探测到常规路线有障碍，突发情况更换路线不慎跌落水池中。

2017年8月，Facebook 紧急关闭“失控”AI系统，因系统创造出人类无法理解的语言。这件事当时引起了极大的震动，后来真相是研究人员创建了两个聊天机器人，但忘记给神经网络设定“用正确英语语法”沟通的激励。

2017年9月份，俄罗斯彼尔姆市Promobot机器人公司的一台服务机器人受到俄罗斯总统普京的接见，原因是这台名叫Promobot的机器人因在2016年试图逃离试验场跑到郊区大街上，在逃跑了50米电量耗尽后停止。

我们在这儿列举这三件事，绝不是鼓吹人工智能威胁论。因为毕竟当前人工智能与神经网络就技术的发展程度来看，虽然达到了一个令人惊喜的程度。但其衍生出来的图像识别、语音技术的高精确度完全是人类编程调优的结果。现阶段的人工智能还处于人类可控的范围内：它不知道自己是谁，也不知道自己在哪儿，更不清楚自己在干什么。

人工智能存潜在“威胁”

我们今天要讨论的是，人工智能技术未来在信息技术和军事等至关人类安全的重要领域会不会走向极端。也就是人工智能会不会被武器化的问题。在世界各国大跨步发展人工智能技术时，已经形成了“人工智能支持论”和“人工智能威胁论”两种不同的声音。

近日，站队“人工智能威胁论”的特斯拉创始人马斯克发出了一份令人警醒的言论。9月13日，马斯克在推特上转一篇文章《黑客们已经开始武器化人工智能》，讲的正是人工智能在互联网、信息技术方面的“威胁”。

在这篇文章中，有ZeroFOX两位科学家通过实验证明了，人工智能以每分钟6.75条的速度向800多名用户发送恶意链接。相比而言人类仅每分钟1.075条推文向49名用户发送了恶意链接。 这个实验证明黑客已经可以利用人工智能进行恶意攻击。另外，在Black Hat 安全技术大会上，有62%的网络安全工程师认为，黑客会在未来一年内利用人工智能攻击互联网。

马斯克在9月初，在推特上提到过“战争可能不是由国家的领导人发动，而是由人工智能发动——只要它认为先发制人的打击是取得胜利最为有效的方式。”在8月份，马斯克联合谷歌DeepMind、丹麦Universal Robotics等116名人工智能行业高管向联合国呼吁: 禁止发展致命性自动化武器，阻止高科技军备竞赛。

马斯克提到这儿，我们就开始了一个不得不面对的话题。人工智能（AI）技术在军事领域的发展。作为服务于国家安全、政治经济的军事领域，其发展程度决定了某个国家在世界上的话语权。

目前世界主要大国，包括中国、美国、俄罗斯等国都在大力发展现代化电子军事。基于人工智能技术的机器人已经在用于特种作业、探测工作。各种军用无人机、巡航导弹、遥感技术武器等均逐渐在装备到自动化武器行列。作为事关人类和平的领域，人工智能在军事领域的应用要谨慎再谨慎。

不过可以预见的是，在未来关乎人们生活的领域，以及替代人从事机械、危险工作领域，人类会在AI技术发展成熟后赋予其复杂思维能力、甚至是情感逻辑能力。但是在关乎人类安全的信息技术和军事领域，这样做是不被允许的。