智能机器潜能热议:投资机器“杀手”?或被禁!

13.03.2016  11:28

2016年3月12日,李世石与AlphaGo人机五局大战第三局,继续在首尔钟路区四季酒店进行,最终李世石再次中盘不敌AlphaGo。

挪威主权财富基金道德委员会主席安德烈森。

挪威主权财富基金道德委员:考虑禁止投资研发杀人机器的高科企业

人工智能“阿尔法围棋”与韩国棋手李世石的“人机大战”近期吸引全球目光,引发有关智能机器潜能的热议。

为保证人类安全,挪威主权财富基金表示,这一基金眼下并未因涉及自动武器研发而把任何企业拉入“黑名单”,但“这是一个清楚的警告”。

道德委员提前敲“警钟

新华社电 挪威主权财富基金道德委员会近日透露,这一基金今年将更新投资“黑名单”,考虑禁止投资可能研发出杀人机器的高技术企业。

挪威主权财富基金是全球规模最大的国家主权财富基金,现阶段资产规模8300亿美元。截至去年年底,这一主权基金持有全球9050家上市企业的股票,所持股份总市值相当于全球上市企业总市值的1.3%。

挪威主权财富基金下设一个独立的道德委员会,会依据各种道德准则给出基金投资建议。挪威中央银行董事会则会根据道德委员会的建议,指示挪威主权财富基金避免购买“上榜”黑名单的企业乃至行业,或者将这些企业列入“观察名单”。

会衡量投资自动武器

挪威主权财富基金道德委员会主席约翰·安德烈森接受路透社采访时说,该基金已不允许投资研发地雷与核武器的企业。现在,道德委员会正将目光投向研发自动武器的企业。

依据设计原理,自动武器可以在没有人类干预的情况下锁定并击中目标。虽然自动武器的研发仍处于构想阶段,但一些人工智能专家预测,按照如今科技发展的速度,自动武器从构想到现实最快可能在数年时间内实现。

美国国防部去年12月证实,将申请一笔120亿至150亿美元的预算,用于研发包括自动武器在内的新技术。

如果你考虑的是研发识别癌症的技术,那没有问题,”安德烈森说,“但如果你将这种技术沿用到在特定环境下追击一个人,或者和他人合作开发出自动武器,那么,我们找上你的时候别感到意外。”安德烈森说,这一基金眼下并没有因涉及自动武器研发而把任何企业拉入“黑名单”,但“这是一个清楚的警告”。

投资有“规矩

安德烈森透露,道德委员会今年晚些时候将更新投资“黑名单”,将新的注意力集中到涉嫌腐败的电信、防务和能源企业。道德委员会还将评估卡塔尔建筑行业等涉嫌违反人权的投诉。据规章,挪威主权财富基金禁止投资涉嫌系统性违反人权的企业。

挪威议会今年早些时候推动一项决议,要求限制主权基金对于过度碳排放企业的投资。安德烈森说,道德委员会正在研究制订有关评估标准,预计今年年底前将公布首批因涉嫌碳排放过量而进入黑名单的企业。

截至眼下,大约66家企业因不符合投资道德标准而被列入挪威主权财富基金投资“黑名单”。此外,两家企业入榜“观察名单”,包括近年陷入腐败丑闻的巴西石油公司。“多数腐败案例来自于防务、电讯和能源行业,这三个行业让我们(道德委员会)很忙碌,”安德烈森说。

相关新闻

联合国曾建议冻结“杀人机器人”研发

新华社电 鉴于美国在作战行动中频频使用远程遥控的无人机,一些人担心,某些国家可能最终使用能代替前线士兵、自动杀伤敌人的“杀人机器人”。一些国际非政府组织曾发起宣传活动,要求禁止全自动机器人武器。

2013年5月, 联合国人权理事会曾在瑞士日内瓦开会,讨论议题之一就是否冻结研发“杀人机器人”并成立专门委员会讨论相关政策。

当时,有专家曾向人权理事会提交报告,建议联合国机构呼吁各国冻结这类“夺命机器人”的试验、生产和使用。

当时的报告建议,联合国人权事务需要成立一个高级别小组,由法律、机器人科学、电脑科学等专家参与,讨论与“杀人机器人”关联的政策。

报告说,这类机器人甚至可能杀死那些已因受伤无力作战或准备投降的敌人。这会使人们难以确保“杀人机器人”不违反国际人权和国际人道主义法律,而且,让机器人自动决定是否下杀手,意味着“道义责任的缺失”。