自主杀戮机器人或正在设计中,后果难以预料

Clearpath是目前唯一宣称绝对不会设计杀戮机器人的公司。这一决定由公司的联合创始人及CTO 瑞恩·嘉里匹(Ryan Gariepy)于去年做出,他同时表示此举甚至帮助公司吸引了更多认同该道德准则的机器人专家加入。道德标准对于此类公司而言正变得愈发重要,因为我们正处于设计杀戮机器人的十字路口,而我们完全没有为此做好准备。韩国的Dodam系统正在设计称之为Super aEgis II的自动机器人炮台,其能够利用热成像摄影机和激光来识别和攻击3公里范围内的目标。而有报道称美国正在试验自主导弹系统。

如捕食者这样的军用无人机目前由人类操纵,但是嘉里匹表示,要不了多久它们就可以成为全自动拥有自主意识的机器。他对此感到担心。“人类目前就可以在装配线上生产拥有自主意识的致命武器系统,”他说道。“但是在设计和部署方面没有道德标准可遵循。”

对于嘉里匹来说,这既是国际法方面的问题,也涉及到程序设计。战争中,武力的使用是必要的,但同时可能危及无辜者的生命。我们应该如何设计这些杀戮机器并且确保它们每时每刻都能做出正确决定?我们如何对所谓的“正确决定”进行判断?

我们在具有自主意识的汽车上会遇到类似问题。例如,一只小狗正快速穿行高速公路,无人驾驶汽车是否应该冒着危及乘客安全的风险去避让?如果将小狗换成小孩,或者校巴,又该如何抉择?现在,想想战场上的复杂局面。“我们甚至无法在无人驾驶汽车上达成一致,” 嘉里匹说道。“现在我们又开始谈论如何设计一个自主判断生杀予夺的机器。”

作为机器人武器控制国际委员会的发起人,彼得·阿莎罗(Peter Asaro)在过去的几年里一直致力于在国际社会推动制订反对杀戮机器人的章程。他相信现在是时候“明令禁止对此类机器的开发和利用了”。

军方对具备自主意识的导弹很感兴趣,因为它们能够解决战术问题。例如,对于实战中的无人机来说,其配备的传感器或网络连接遭遇来自敌方干扰的情况司空见惯,操作人员很可能会失去对战况的了解或者对无人机的控制。

但是嘉里匹表示,与其开发具备自主意识的导弹和无人机,军方不如将钱花在提高传感器及连接的抗干扰性能上。

近来,到处充斥着关于人工智能存在危险性的言论。伊隆·马斯克(Elon Musk)对失控的人工智能感到担忧,他认为人类的生命会因此受到极大威胁。上月,马斯克捐出1000万美元用于人工智能道德方面的研究。有些人,例如百度的研究员吴恩达,认为人工智能革命会取代更多的工作岗位;而其他人,例如嘉里匹,则担心很多人会因此丧生。

这也是为什么像Clearpath这样的机器人公司会站在人类的立场上反对一切杀戮机器人的原因。“虽然我们公司无法拿出1000万美元,” 嘉里匹说道。“但是我们能够拿出自己的名誉作

深色 浅色