图／电影《魔鬼终结者三》剧照

【2018. 4. 05 南韩】

当心终结者！反对“AI武器化”，全球学者抵制韩国KAIST大学

南韩最顶尖的理工大学“KAIST”（译：韩国科学技术院），日前与韩国军火工业的龙头“韩华集团”，针对人工智慧技术的国防化使用，签字成立了产学合作研究所。然而相关合作，却遭学界质疑“开启了AI武器化的潘朵拉盒子”。因此4月4日，全球57名顶尖的AI学者——包括政治大学资科系的刘昭麟教授在内——也共同连署，对误入歧途的KAIST发起学术抵制。

位于大田广域市的KAIST大学，是韩国的强人总统朴正熙，为了发展国家科技实力，而于1971年下令成立的顶尖理工学府。至今，KAIST不仅被部分外媒称作“韩国MIT”而享誉国际，也是南韩国内前五志愿的菁英名校。

今年2月份，KAIST宣布与南韩军火龙头——韩华集团——旗下的“韩华系统公司”（Hanwha System），签署了产学合作协议，并成立“国防与人工智慧整合研究中心”，欲结合韩华的军事经验与60名KAIST专家学者的科技技术，将韩国的国防AI发展“拓展至世界级的顶尖规模”。

然而KAIST与韩华的合作，却引发了全球学界的强力谴责，其中长期反对并警告“AI军事化”的澳洲新南威尔斯大学AI专家托比．威尔许教授（Prof Toby Walsh），4日就与全球57位顶尖的领域专家学者，共同对KAIST发出抵制声明，要求主事的申星哲校长“回头是岸”。

声明指出，韩华KAIST研究中心成立时，曾有报导指称双边产学合作的终极目的，是为了“将AI技术，应用在军事武器上，并以之加入自动化兵器的全球竞争”；但AI武器化的结果，却可能引发“全球军火市场的第三波革命”，并开启科技灾难的潘朵拉盒子。

目前在全球军火业界，美国、俄罗斯、中国、以色列与南韩，都是致力于AI武器化的积极国家；但像是Tesla的执行长马斯克（Elon Musk）、知名AI公司“DeepMind”的共同创办人穆斯塔法．苏莱曼（Mustafa Suleyman），却都极力警告军事化AI，可能会对人类造成“存亡威胁”，因此联合国也准备将在4月中旬，在日内瓦召开会议，讨论防堵AI武器化的可能共识与协定方案。

抵制派学者们的连署书认为，AI武器化将大幅扩张军事武器的杀伤力与破坏效率，无论是被科技集团与政府垄断，还是被恐怖组织、有心人士持有，都是极为骇人的光景。因此，威尔许等人才主张，AI兵器化的研究，应该比照1995年联合国《关于雷射致盲武器的议定书》一般，“趁我们还有机会的时候，阻止灾难。”

目前，学界抵制的行动，包括冻结一切与KAIST的学术交流与研讨；但在接获消息后，KAIST校长申星哲，却不打算撤销与韩星的既定合作，反澄清KAIST与韩华“并没有要研究‘战斗机器人’的意思”，双边研究虽是国防需求，但都是以“防卫为主”的应用计划。

《金融时报》报导，韩华与KAIST的国防AI应用，目前已公布有四大方向，分别是（1）AI化的指挥与决策性统；（2）无人水下载具（潜艇）的导航演算法技术；（3）AI化的智慧型飞行模拟器；（4）AI化的智慧型目标追踪与辨识科技。

与KASIT合作的韩华系统公司，原本是三星集团旗下的军火单位，但在2014年三星少主李在镕决定放弃三星军火部门后，各单位才统一卖给了从火药制造起家的韩华集团。其中韩华系统公司，负责的则是雷达、电战与作展指挥系统等产品。

根据瑞典“斯德哥尔摩国际和平研究所”（SIPRI）去年年底的数据报告，在2017全球百大军火企业中，韩华旗下就有3家军火分公司上榜——假若结合3者产值，韩华也将成为南韩第一大的军火龙头。

目前在韩国，军工企业“DoDAAM Systems”，已向市场推出了名为“超级神盾二式”（Super aEgis II）的机枪机器人，据称能自动辨识、精准射击3公里以内的敌意目标。目前超级神盾二式已展开商业外销，但制造商却表示：“所有买家都要求系统必须增列人工授权开火的‘强制防火墙’机制，因此实务销售上，超级神盾二世还未达到全自动化、AI化的程度。”