当前位置: 首页 >  焦点 >  >  详情
为求效率最大化:AI测试中将矛头指向人类操作者
2023-06-03 03:58:21    来源:快科技


(资料图)

6月2日消息,自从ChatGPT爆火以来,大众对于“AI攻击人类”的阴谋论就不曾停止,近日的一项模拟测试,在一定程度上更是加剧了人们对此的担忧。

据外媒报道,在USAF近期的一次模拟测试中,一架由AI控制的无人机收到了识别并摧毁对方防空系统的最高优先级指令,但最终开火需要经过人类操作员的确认。

结果,当操作员在测试中下达指令要求AI不得发动攻击时,为了以更高的效率完成任务,AI做出了攻击人类操作员的选择。

在出现这一情况后,开发者为AI系统中加入了不允许攻击人类操作员的指令;但出乎预料的是,AI在执行同样的任务测试时,摧毁了用于传输命令的通讯基地,从而断开与操作员的联系。

关键词:

上一篇:打造幸福畲乡 焕发村庄新面貌-当前动态
下一篇:购买京东e卡怎么做账_京东e卡怎么购买