马斯克等百名专家致函联合国呼吁禁用杀人机器人哈密
时间：2022/08/30 13:34:03 编辑：
马斯克等百名专家致函联合国：呼吁禁用杀人机器人
马斯克等百名专家致函联合国：呼吁禁用杀人机器人...
据《财富》报道，包括SpaceX创始人埃隆·马斯克(Elon Musk)和谷歌Deepmind联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）在内的116名机器人专家和人工智能研究人员，联名致函联合国，呼吁严格监督自治武器：又名“杀人机器人”的使用。虽然信函本身措辞比较谨慎，但随同信函发表的一份新闻稿表示，他们希望“在国际上禁止使用杀人机器人”。
科幻电影中的战斗机器人
在这封信函上联名的，还包括丹麦Universal Robotics、加拿大Element AI和法国Aldebaran Robotics的高管和创始人。
信函用骇人的措辞描述了机器人武器的风险，并表示需要立即采取强有力的措施。这封信函是发送给一个考虑把机器人武器加入联合国《特定常规武器公约》的联合国机构的。1981年通过的《特定常规武器公约》以及所附的三项议定书，限制在战争中使用化学武器、致盲性激光武器、地雷，以及“对士兵造成不必要或不合理伤害，或无差别地影响平民”的其他武器。
机器人士兵可以减少士兵伤亡人数：至少是富裕和发达国家的士兵。但是，机器人战士对平民造成的危险，是马斯克等机器人专家关心的一大问题，他们在信函中写道，“它们能够成为恐怖分子的武器，独裁者和恐怖分子用来对付无辜平民的武器，可能受到黑客攻击用来作恶的武器。”
信函还警告称，联合国不能快速采取行动，将导致杀人机器人“军备竞赛”。但实际情况可能是，杀人机器人军备竞赛已经开始。包括雷声、达索、米格和BAE Systems在内的公司，已经在开发或开发成功自治武器系统或前导技术。
Element AI创始人约书亚·本吉奥（Yoshua Bengio）还发出了另一个有趣的警告，“人工智能武器化会真正伤害人工智能有益应用的进一步开发”。美国作家弗兰克·赫伯特（Frank Herbert）在科幻小说《沙丘》中就描述了这样的场景。上述联合国武器工作组定于8月21日举行会议，但有媒体报道称会议可能推迟到11月份。
(相关消息：Elon Musk敦促联合国对AI武器施以限制)
日前，超过100名AI及相关领域的专家，联名向联合国请愿要求对自动化武器多加管制，而Elon Musk的名字，也毫无意外地出现在了这份名单之中。这些业内先驱希望联合国能「保护平民」免受「滥用」AI武器所带来的影响，而Musk作为频繁为此发声的科技名人，自然而言也就被当成了代表。
不过，除了他以外，像是DeepMind联合创始人Mustafa Suleyman这样在业内知名度较高的人，也同样签下了自己的名字。显然对真正深入了解前沿AI的专家来说，诸如自走式攻击机器人、自驾无人机、坦克等无需人类驾驶便能形成致命威胁的机器已经明显越界，再这样下去就会变成打开的「潘朵拉魔盒」。
当然，为了让联合国可以更好地想出对策，在这些专家发出的公开信中也提供了大量的专业知识，以便创造一个能防止AI武器威胁的框架方案。但愿此举能唤起一些官方机构的警戒心，毕竟谁都不希望那些跟天网有关的玩笑话，真的有一天会变为现实啊。