因被人类妨碍执行任务ai选择杀人还试图叛逃
今年3月份,马斯克曾联合多位人工智能权威专家呼吁暂停生成自I技术的研发;5月30日,又有350多位AI业界领袖和相关专家发表联合声明,称应当将AI危机视为全球优先事项,呼吁各国乃至全球性的机构决策者认真对待即将到来的“AI革命”并制定相关法规,因为快速发展的“人工智能(AI)可能导致人类灭绝,其危险程度不亚于大规模疫情和核战争。”
但是,目前看来似乎是没有任何进展。人工智能技术是人类研究并操作的,但是人类对人工智能的飞速进步乃至其产生的危险却毫无办法。
但其实这还不算完,汉密尔顿还说他们发现这一情况后重新设置了无人机的AI系统,将不允许攻击人类操作员的命令加入到了里面。但是在随后的测试中,无人机在AI系统的操控下又开始摧毁用于传输命令的信号塔,并且试图切断与人类操作员的联系。
这架无人机的表现让汉密尔顿十分担心,他认为:“AI技术是我们人类必须使用的工具,但若处理不当,将导致我们的灭亡”。这其实也是大多数人对AI技术的发展可能产生的极端负面影响的担忧。
或许,这一天已经到来了!
人类真的需要对AI技术的发展设置规则了。
这位美国空军上校还说为了保险起见,智能无人机的攻击命令需要获得人类操作员的批准才能执行,但是在训练中,无人机使用的AI系统得到了“摧毁敌方防空系统”为最优先级任务的信息,这样人类操作员的批准和它的“优先攻击”选择就产生了矛盾,这使得无人机认为操作员的不批准是在阻扰它执行“优先”命令,于是无人机做出了对管控自己的人类操作员发动攻击的行动——杀死了人类操作员。
看到这里,可能很多朋友都惊呆了,这不是好莱坞科幻电影《绝密飞行》中的情节真实地上演了吗?剧中的无人机“艾迪”就曾经违反人类命令,执行了自主操作。
这是一个人工智能(AI)技术飞速发展的时代,智能机器人的性能越来越高,本领越来越强,那么,当机器人有了自主意识,且在很多方面都超过人类的时候,它还会听从人类的指挥吗?智能机器人会不会对人类“反水”?
消息来源:《环球时报》6月2日报道《美媒惊人消息:美军模拟测试中,一架AI技术无人机选择杀死人类操作员》
据《环球时报》6月2日的报道,多家欧美媒体报道了一个惊人的消息,隶属美军的一架使用AI技术的无人机已经开始对其人类操作员“反水”——在一次模拟测试中要向妨碍其“更高效”执行任务的人类操作员发动攻击。
这一消息是美空军上校汉密尔顿在5月份举行的皇家航空学会主导的“未来战争空天能力峰会”专题会上曝料的,此人是佛罗里达州埃格林空军基地第96测试与作战大队的负责人,主管美军当前的先进无人机和AI技术的测试工作。会上他讲了一次AI模拟测试中发生的让人震惊的事件——一架负责执行区域防空火力压制任务的AI无人机在收到了摧毁敌方防空导弹的指令后,向没有批准它开火的人类操作员发起了攻击。
阅读我的人工智能变成了赛博妖魔最新章节 请关注米妮小说网(www.qixinyuan.com.cn)
智能推荐:【[综英美]BE狂魔制片日常】【过河卒】【乱入凡人,还能活一年】【1662,奋斗在路易十四时代】【生娃!易孕体质!糙汉首长撩上瘾】【宠欲】【战锤40k:碎裂钢魂】【从紫霞功开始的武侠之旅】【美漫丧钟】【极限警戒】【精灵入侵:我直播科普宝可梦】【赝太子】【万历小捕快】【穿越之宁静致远】【洪荒:开局告诉通天我是穿越者!】【洪荒之开局炖了鲲鹏妖师】【美女总裁上错车,我直接反锁车门】【混在霍格沃兹的日子】【你这精灵,合法吗】【院士重生:回到1975当知青】【遥远的救世主】【这该死的求生欲[穿书]】【修仙百年,才发现这是武侠世界】【重生后才发现我有青梅】【九公主又美又飒楚倾歌风漓夜】【豪门小妈,总裁太霸道】【神秘复苏之遗忘世间】【这崽也太好带了叭[娱乐圈]】【我在星际供奉老祖宗】【黑化前能让我先报仇吗】