“乌克兰”红星专访丨美国十年来首次关注AI自主武器，“谁将对‘杀手机器人’做出的生死决定负责？”

今天，很高兴为大家分享来自红星新闻的红星专访丨美国十年来首次关注AI自主武器，“谁将对‘杀手机器人’做出的生死决定负责？”，如果您对红星专访丨美国十年来首次关注AI自主武器，“谁将对‘杀手机器人’做出的生死决定负责？”感兴趣，请往下看。

美国国防部指令在今年1月发布更新显示，其在十年来首次关注“人工智能（AI）自主武器”。专注人工智能武器化领域的美国麦卡利斯特学院教授詹姆斯·道斯在接受红星新闻记者采访时表示，美国国防部的政策更新反映出，美国在设想扩大人工智能在未来军事行动中的作用。

道斯分析称，美国国防部指令遵循了北约于2022年10月13日发布的军用人工智能相关计划，后者旨在维护北约在军用人工智能（亦被称为“杀手机器人”）方面的“技术优势”。他表示，美国和北约的两项公告反映了世界在俄乌冲突中吸取的关键教训：武器化人工智能是战争的未来。“俄乌冲突引发了一场全新的、围绕军用人工智能的全球军备竞赛。”

道斯告诉红星新闻记者，世界现在能够接受俄乌冲突中军用AI的使用，因为目前AI主要用于打击基础设施和其他武器。然而，在潜在的“灾难性军备竞赛”的刺激下，平衡和边界可能会被打破，“杀手机器人”可能装备生化武器、核武器，“全球稳定将受到根本性的威胁”。

—— ① ——

“算法战争系统”就是新的“战术核武器”

一些分析人士指出，俄乌冲突战场——特别是在乌克兰——可能是完全自主的军事技术的潜在试验场。其中，美国数据公司Palantir的CEO亚历克斯·卡普可能是最清楚军用AI在俄乌冲突中作用的人之一。他的公司通过提供从卫星图像、战场传感器、无人机等——即卡普所说“算法战争系统”，帮助优化了乌克兰的数字“杀戮链”。乌克兰数字转型部部长米哈伊洛·费多罗夫表示，卡普等人在乌克兰建立的“电子杀戮链”在赫尔松、基辅等地帮助了乌军，“特别有用”。

卡普曾将“先进算法战争系统”比作“战术核武器”。据《金融时报》编辑约翰·桑希尔称，卡普告诉他，“如果你使用老派技术进行战斗，与使用数字定位和人工智能的对手相比，你仍然会处于‘大规模劣势’。（在战场上）赢得未来人工智能竞赛的国家将建立国际秩序”。

美国国防部副国防部长凯瑟琳·希克斯称，美国国防部正在“通过接受和利用人工智能来创造竞争性军事优势”。微软、星链（Starlink）等美国科技公司也在俄乌冲突战场上实践了算法和数字设施的军事化。2022年11月3日，微软宣称在2023年向乌克兰提供约1亿美元的技术援助，参与俄乌冲突中的算法竞技。由马斯克的公司SpaceX运营的卫星互联网公司Starlink为乌克兰前线部队提供了安全通信。不过，关于AI算法在俄乌冲突中的军事化应用，美国“数字联盟”里的成员想法并不一致。卡普“完全接受政治家和军官始终控制该技术”，而马斯克于今年2月决定限制乌克兰对星链的访问，称SpaceX“用于私人用途，而不是军事用途”，技术军事化升级冲突，“可能导致第三次世界大战”。

↑俄罗斯地面无人车

—— ② ——

为增加胜利筹码，军用AI可被编程杀害人类

道斯在接受红星新闻记者采访时表示，俄乌冲突加速了AI武器的军备竞赛。据悉，俄罗斯军队已经部署了Uran-6自主扫雷机器人以及自主式自杀无人机，2月更新了地面无人车版本；乌克兰使用了全自动无人机和半自主攻击无人机，还使用了美国公司ClearviewAI的面部识别技术。

“2017年，普京就强调了自主武器对俄罗斯未来军事行动愿景的重要性。”道斯告诉红星新闻记者，俄乌冲突后一段时间以来，俄罗斯在研究自主武器方面进行了大量投资。一家俄罗斯制造商2月称，它正在更新一种无人驾驶的地面车辆的新战斗版本，以瞄准M1主战坦克和“豹2”坦克——这些坦克从美国、德国、波兰和其他国家运往乌克兰。

“与此同时，乌克兰的指挥官们已经看到了‘游荡弹药’的很多效用，这些弹药有时被称为‘神风无人机’，因为它们追捕目标的方式是进行自我引爆自杀。完全自主的‘无人机猎手’也在乌克兰被用来消灭敌人的无人驾驶飞行器。它们大大提高了军事防御能力，因为它们可以每周7天、每天24小时保持警戒，并以机器的速度做出瞬间的战斗决定。”

道斯说：“世界现在接受了这些武器，因为它们正在被用来对付基础设施和其他武器。我们主要将它们视为‘防御者’。但是，开发完全自主的武器的技术已经触手可及，这些武器可以被编程为追捕和杀害人类。”他认为，随着俄乌冲突中伤亡人数的增加，完全自主的人工智能武器被使用的可能性也越来越大。机器人可以自己选择、追捕和攻击目标，而这也诱惑着冲突双方使用它们来增加胜利筹码。

道斯的担忧不无道理。近日，制造半自动无人机的美国国防承包商CEO瓦希德·纳瓦比表示，技术已经“触手可及”，可以将这些武器转换为完全自主。乌克兰数字转型部部长米哈伊洛·费多罗夫也曾在年初宣称，完全自主的杀手无人机是武器开发的“合乎逻辑和不可避免的下一步”，6个月以内（即2023年年中之前）在俄乌冲突战场上看见杀手无人机的“可能性很大”。彼时，世界首个军用AI自主杀人的确切案例可能因俄乌冲突出现。

—— ③ ——

中国：AI不应该被政治化、武器化和意识形态化

道斯向红星新闻记者分析指出了美国国防部最新指令的漏洞。他表示，虽然美国国防部声称美国军方会遵循国际战争法，“但正如理查德·莫耶斯等国际法专家所说，国际法目前并没有提供一个足够的框架来理解——更不用说规范——自主性武器”。因此，该指令在安全方面的承诺目前只是一张空头支票。

“我们认为人类有责任在战争期间保护平民，并尽量减少战斗伤害。但是，谁将对一个完全独立的‘杀手机器人’做出的生死决定负责任？”道斯说，“我们从化学武器和核武器等灾难性的军备竞赛中吸取了可怕和重要的教训。我们仍在努力消除几十年来所造成的恐怖和破坏。我们不需要等待灾难来激励我们采取集体行动。深思熟虑的国际协定是我们唯一的希望。”

2021年12月中旬，联合国《特定常规武器公约》第六次审议大会在日内瓦召开，讨论了有关规范“致命自主武器系统”事宜，但美国、英国、俄罗斯、以色列、印度等国家拒绝了联合国关于全面禁止“杀手机器人”的呼吁。

2023年2月15日至16日，世界首届“军事领域负责任人工智能峰会”（REAIM峰会）在荷兰海牙召开，中国等80多个国家和地区及联合国等国际组织应邀参加了此次峰会。据悉，俄罗斯和乌克兰没有参会。除以色列外，所有与会各方都签署了一份行动呼吁书。根据行动呼吁书，签署方将“提高对人工智能在军事领域的影响的理解”，澄清其在军事领域的使用定义，并确定如何负责任地开发、制造和部署人工智能。

据央视网报道，中国代表团团长、中国驻荷兰大使谈践在接受央视记者专访时表示，人工智能是人类共同的智慧结晶，它不是地缘政治的博弈工具，所以不应该被政治化、武器化和意识形态化。同时，中国代表在峰会上表示，参会国家和地区应“反对通过人工智能谋求绝对的军事优势和霸权”。

红星新闻记者 范旭 实习记者 邓纾怡

责编 任志江 编辑 郭庄

好了，关于红星专访丨美国十年来首次关注AI自主武器，“谁将对‘杀手机器人’做出的生死决定负责？”就讲到这。