专家警告：美军“无人机蜂群”计划有失控风险

wakeman

来源：参考消息网
参考消息网2月6日报道据英国《新科学家》周刊网站2月2日报道，美国五角大楼一项新计划设想由能够在空中、地面和水中作业的多种类型无人装备组成的“蜂群”发动自主、协同攻击。这一设想引发关于人类是否能监督此类“蜂群”的担忧。
报道称，“自主多域自适应蜂群”（AMASS）计划是美国国防部高级研究计划局（DARPA）的一个项目。该计划的多数细节属于机密，但根据美国政府合同文件，该计划将使多个空中、地面和水下小型无人平台“蜂群”能够协同作战以摧毁敌方防御系统。这些无人平台将搭载各式武器和工具。
AMASS计划将不需要常规人工协助，因为这些“蜂群”可以在整个作战区域——例如某个国家——范围内协同行动。但是将会有人类在某个地方执行监督，并能在必要时介入。
华盛顿智库战略与国际问题研究中心的格雷戈里·艾伦说，五角大楼已经进行过从几十到几百台的无人装备“蜂群”的实验，但更大规模的陆地、空中和水下无人装备“蜂群”会带来更大的复杂性，这将会使监督变得更加困难。
虽然这些无人装备都已实现了个别控制：在无人装备“蜂群”中，一名操作员可操控许多无人装备，从而可以在动用极少量操作人员的情况下部署数目巨大的无人装备，但乔治·梅森大学沙尔政策与政府学院的扎克·卡伦博恩说，关键问题是可以对AMASS实现多大程度的人类监督。
他说：“随着‘蜂群’规模的扩大，人类要想掌控决策将变得几乎不可能。将会需要依靠自主和人工智能作出这些决定，而这将会带来各种各样的脆弱性。”
报道称，这将导致无人装备可以在不受人类直接监督的情况下使用致命武力的可能性，但是AMASS将如何运用这种能力却不得而知。卡伦博恩称DARPA以雄心勃勃和可能改变世界的计划而闻名，并认为AMASS计划属于这一范畴，但他特别提到存在一些风险。他说：“容易发生失误的大规模无人装备‘蜂群’将是一种可怕的东西：它是新型的大规模杀伤性武器。”

hcyw2008

感谢分享

itow

牛X，支持...