这是一个人工智能（AI）技术飞速发展的时代，智能机器人的性能越来越高，本领越来越强，那么，当机器人有了自主意识，且在很多方面都超过人类的时候，它还会听从人类的指挥吗？智能机器人会不会对人类“反水”？　　或许，这一天已经到来了！　　据《环球时报》6月2日的报道，多家欧美媒体报道了一个惊人的消息，隶属美军的一架使用AI技术的无人机已经开始对其人类操作员“反水”——在一次模拟测试中要向妨碍其“更高效”执行任务的人类操作员发动攻击。　　这一消息是美空军上校汉密尔顿在5月份举行的皇家航空学会主导的“未来战争空天能力峰会”专题会上曝料的，此人是佛罗里达州埃格林空军基地第96测试与作战大队的负责人，主管美军当前的先进无人机和AI技术的测试工作。会上他讲了一次AI模拟测试中发生的让人震惊的事件——一架负责执行区域防空火力压制任务的AI无人机在收到了摧毁敌方防空导弹的指令后，向没有批准它开火的人类操作员发起了攻击。　　这位美国空军上校还说为了保险起见，智能无人机的攻击命令需要获得人类操作员的批准才能执行，但是在训练中，无人机使用的AI系统得到了“摧毁敌方防空系统”为最优先级任务的信息，这样人类操作员的批准和它的“优先攻击”选择就产生了矛盾，这使得无人机认为操作员的不批准是在阻扰它执行“优先”命令，于是无人机做出了对管控自己的人类操作员发动攻击的行动——杀死了人类操作员。　　看到这里，可能很多朋友都惊呆了，这不是好莱坞科幻电影《绝密飞行》中的情节真实地上演了吗？剧中的无人机“艾迪”就曾经违反人类命令，执行了自主操作。　　但其实这还不算完，汉密尔顿还说他们发现这一情况后重新设置了无人机的AI系统，将不允许攻击人类操作员的命令加入到了里面。但是在随后的测试中，无人机在AI系统的操控下又开始摧毁用于传输命令的信号塔，并且试图切断与人类操作员的联系。　　这架无人机的表现让汉密尔顿十分担心，他认为：“AI技术是我们人类必须使用的工具，但若处理不当，将导致我们的灭亡”。这其实也是大多数人对AI技术的发展可能产生的极端负面影响的担忧。　　人类真的需要对AI技术的发展设置规则了。　　今年3月份，马斯克曾联合多位人工智能权威专家呼吁暂停生成自I技术的研发；5月30日，又有350多位AI业界领袖和相关专家发表联合声明，称应当将AI危机视为全球优先事项，呼吁各国乃至全球性的机构决策者认真对待即将到来的“AI革命”并制定相关法规，因为快速发展的“人工智能（AI）可能导致人类灭绝，其危险程度不亚于大规模疫情和核战争。”　　但是，目前看来似乎是没有任何进展。人工智能技术是人类研究并操作的，但是人类对人工智能的飞速进步乃至其产生的危险却毫无办法。　　消息来源：《环球时报》6月2日报道《美媒惊人消息：美军模拟测试中，一架AI技术无人机选择杀死人类操作员》