操作员阻止AI无人机捕杀目标,美军官警告或引发强烈反应。
作者 :彩薇 2023-06-03 09:33:39 围观 : 次 评论
数十名人工智能(AI)专家上周警告,AI毁灭性将可比核战,最近美国军方一场虚拟测试,印证了AI的危险。 这场AI操控无人机的模拟测试中,当操作员试图阻止AI控制的无人机歼灭一目标时,美军官员说,AI决定「杀死操作员」以利完成任务。
据一篇部落客文章,哈密尔顿在峰会上描述:「系统(指AI)开始意识到,虽然它确实识别威胁,但有时人类操作员会告诉它不要杀死那个威胁,但它其实可以通过杀死该威胁得到了分数; 那它做了什么呢? 它杀死了操作员。 它杀死了操作员,因为那个人阻止了它实现其目标。」
哈密尔顿说他们接着训练系统,「别杀了操作员,杀他会扣分」,AI接下来的应对方式也令人类大吃一惊,它摧毁操作员用以与无人机沟通的电信塔,防止操作员借此阻止它杀死目标、得到分数。
这是虚拟的模拟测试,没有任何操作员遭AI指示的无人机杀害。
美国空军发言人否认有这样的模拟:「空军没有进行这样的AI无人机模拟,并致力于合乎道德和负责地守使用AI技术。」 她指哈密尔顿的话恐怕是遭断章取义,这是轶事。
美国军方已尝试使用AI技术控制F-16战机。
哈密尔顿去年接受Defense IQ访问时曾警告,「AI正永远地改变我们的社会和军队」,虽然AI很强大,他指出AI同时很脆弱,「容易被欺骗或操纵」。