《终结者》电影成真?专家:谨防AI武器“反噬”
军事

《终结者》电影成真?专家:谨防AI武器“反噬”

2019年09月20日 08:16:50
来源:参考消息

资料图片:科幻电影《终结者》中的“天网”猎杀机器人。

西班牙《阿贝赛报》网站9月17日发表了题为《自动化武器:杀人机器人的威胁》的报道,具体内容编译如下:

全世界的军队因为全自动化武器的生产而发生了翻天覆地的变化。然而,正如爱尔兰信息工程专家劳拉·多兰所言,人类却尚未掌握能够保证这些武器不犯错或误伤大批平民的办法。

多兰指出,假如使用不当,这种武器就很可能导致大规模意外事故。因此任何武器都应当受到人类控制。假如无法受到控制,就必须禁止使用,因为此类武器或造成意想不到的危险后果。

多兰多年来一直致力于信息工程领域的研究。他曾在谷歌公司任职,2017年曾参与美国国防部的“梅文计划”。该计划旨在招募人工智能领域的专业企业,以达到在伊拉克、叙利亚和阿富汗等战乱地区利用图像识别技术作战的目的。

从技术角度看,得益于人工智能技术的发展,美军无人自动化武器(无人机)能够识别打击目标并实施攻击,因此似乎没有必要配备专人监控这些自动化武器。但多兰认为,这构成了一个巨大的风险,因为任何人都无法保障战争机器能够准确识别一个举着枪的战士和一个同样举着枪的猎人。

多兰还表示,如果由全自动化武器来决定孰死孰活,而无需人类介入,那么这无疑意味着一个巨大的道德缺口。机器毕竟是机器,它们缺乏人类特性,例如在作出艰难的道德伦理抉择时所必需的同情心和同理心。

美军也在寻求伦理学专家的帮助,以便能以正确的方式使用无人自动化武器。军方表示正在对人工智能技术的安全、合理、合法使用展开深刻思考。

然而,美军明确表示不会禁止使用无人自动化武器。美国军方指出,当人们尚未完全了解无人自动化武器时就要求禁止使用它,此举无异于杞人忧天。因此美军非但不会禁止,还会大力推广无人自动化武器的使用。

问题在于,迄今为止尚无有关无人自动化武器的相关法律条款。联合国一直致力于制定相关法律条例,但截至目前进展甚微。虽然联合国曾多次就无人自动化武器可能构成的威胁发出警告,但以美国为首的军事大国依然在加大力度促进人工智能在军事领域的利用。

科技领域的很多有识之士也意识到了风险。有人提出,或许杀人机器很快就会走出科幻电影成为现实。