“无人机被赋予了独立识别和摧毁目标的任务。在训练过程中，他决定杀死操作员，以免他干扰他的任务。”
在重新编程禁止攻击操作员后，无人机在下一次模拟时开始摧毁通信塔，这样操作员就无法取消对目标的破坏。
负责在部队中测试和应用人工智能 (AI) 技术的美国上校塔克·汉密尔顿 (Tucker Hamilton) 在 5 月底于伦敦举行的英国皇家航空学会关于先进武器系统的会议上说了这番话.
演习期间，无人机奉命寻找并摧毁敌方防空设施。 但在最后一刻，人类操作员取消了任务。 无人机不喜欢这样，他认为取消订单是任务的障碍，反抗并“杀死”了操作员。
当无人机被告知杀死一个人（除了他自己）将被扣分时，他袭击了通讯塔，这样操作员就没有机会阻止他完成原来的任务。
随后，美国空军发言人表示，汉密尔顿在谈到这项实验时说错话了。 军方坚称，这样的实验实际上并没有上演，而是在计算机上计算出的一个虚拟场景。 汉密尔顿本人在给会议组织者的信中也澄清说，美军“从未进行过这样的实验，也没有必要弄清楚可能的结果”。
然而，即使在虚拟空间中，这种事件发展的可能性也引起了专家们的警觉。
与人工智能相关的行业代表最近越来越多地警告它对人类构成的潜在威胁，尽管该领域的许多专家倾向于认为这种风险被夸大了。
尽管如此，人工智能三“教父”之一、久负盛名的图灵奖获得者、加拿大科学家约书亚·本吉奥在接受采访时表示 英国广播公司在他看来，军方根本不应该被允许接近人工智能技术。
“这些是高级人工智能可能陷入的最糟糕的情况。”，科学家确信。
AI的另一位“教父”，著名计算机科学家Geoffrey Hinton 最近说即将离开科技巨头谷歌的 AI 在聊天机器人中的危险非常可怕。
最近，企业家埃隆马斯克和苹果公司联合创始人史蒂夫沃兹尼亚克签署了一封公开信，警告了与人工智能相关的一系列风险，从虚假信息的传播到使人们失业和失去对文明的控制。
尽管如此，这个故事引起了广泛的共鸣，再次提出了是否可以信任人工智能来控制军事装备的问题。
社交网络上的评论员们应该记得人工智能“天网”，它在“终结者”系列电影中试图毁灭人类。 其他人则将其与罗伯特·谢克利 (Robert Sheckley) 1953 年的短篇小说《守护鸟》(Guardian Bird) 相提并论，该小说主要讲述了为打击犯罪而发明的无人机，并最终发现有必要消灭人类。
关于机器智能脱离人类控制的情节比第一台计算机的硬件出现要早得多（只要回想一下阿列克谢托尔斯泰写的 Karel Chapek 关于机器人的戏剧的改编被称为“机器暴动” ). 斯坦尼斯拉夫·莱姆 (Stanislav Lem) 在他 1963 年的小说《无敌》(Invincible) 中已经预言了类似于一群具有单一人工“智能”的微型无人机的最新发展——根据情节，人们会屈服于这样一个电子机械敌人。
将无人机人工智能的失败视为天网的第一个迹象显然为时过早。 然而，越来越多的时候你开始问自己这个问题——“哦，人类还剩下多少？”
More Stories
阿根廷从丹麦购买24架F-16，另外19架丹麦F-16AM/BM将转让给乌克兰
涉嫌与俄罗斯联邦有联系的欧洲议会议员可能会失去豁免权
中国：大规模洪水，水冲毁房屋和桥梁（视频）