韩大学研AI武器 30国学者联署杯葛
2018-04-06 11:56
来自近三十个国家及地区的五十多名首屈一指的人工智能(AI)研究者,周三发表联署公开信,杯葛南韩的韩国科学技术院(KAIST),抗议该著名学府与武器生产商「韩华集团」共同开设新研究中心,研发AI武器,即俗称的「杀手机械人」。
这五十多名科技界著名学者在信中表示,他们不会与KAIST合作,也不会接待KAIST派出的访客,以及停止所有与KAIST的接触。他们忧虑KAIST开发自主武器将会加速军备竞赛。学者们表示,将持续拒绝与KAIST展开任何共同研究,直至KAIST承诺不会开发不经人类操纵而自主做决定的武器。这些学者来自英国剑桥大学、美国康奈尔大学、加州大学柏克莱分校及另外五十二所学府,在人工智能和机械人技术研究方面具领导地位,包括香港中文大学的华云生教授、香港科技大学的杨瓞仁教授、南京大学的周志华教授等。
他们在信中警告,如果成功研制自主武器,战争速度之快及规模之大,将是前所未见,也有可能成为恐怖分子的武器。杯葛由澳洲新南威尔斯大学教授沃尔什(Toby Walsh)发起。他表示,有很多挽救生命的工作可透过机械人及人工智能进行,例如军事方面,它们可代替人类执行诸如清除地雷的危险任务,但公开宣布研究目的是为了开发自主武器,却引起重大忧虑。
国立KAIST是南韩最顶尖的理工大学。沃尔什称:「这是一所非常受尊敬的学府(KAIST),但其合作夥伴(韩华,Hanwha Systems)却极不道德,经常违反国际准则。」对于受到杯葛,KAIST院长申圣哲(译音)表示痛心,在声明中说:「我重申KAIST无意参与致命自主武器及杀手机械人的研究开发。」但KAIST周四表示,继续与韩华合作,现正进行的国防科技研发工作也不会停止。
今年二月二十日,KAIST与韩华共同开设新研究中心,开发人工智能及国防科技。当时申圣哲称,新研究中心为南韩国防科技研究工作提供重要基础。韩华是南韩最大武器生产商之一,根据《集束弹药公约》(CCM),韩华生产的集束炸弹,被一百二十个签署国禁止使用。南韩、美、俄、中并没有签署该项国际条约。
去年十一月,联合国专家会议开始讨论可否管制具备人工智能的自主武器。联合国也会于下周一在日内瓦召开会议,一百二十三个联合国成员国将讨论自主武器(即所谓的「杀手机械人」)问题,标志着科学界正积极争取加强管制人工智能操作的武器。对于管制自主武器,武器出口大国美、俄均持慎重态度。
全球各地都有军方单位应用人工智能技术,令人担心电影《未来战士》中机械人杀人的场面可能会出现在现实世界,而杀手机械人的射击准确度及分辨敌友能力也遭到质疑,至今已有超过二十个国家要求全面禁制杀手机械人。
最新回应