智能机器潜能热议：投资机器“杀手”？或被禁！
2016年3月12日，李世石与AlphaGo人机五局大战第三局，继续在首尔钟路区四季酒店进行，最终李世石再次中盘不敌AlphaGo。
挪威主权财富基金道德委员会主席安德烈森。
挪威主权财富基金道德委员：考虑禁止投资研发杀人机器的高科企业
人工智能“阿尔法围棋”与韩国棋手李世石的“人机大战”近期吸引全球目光，引发有关智能机器潜能的热议。
为保证人类安全，挪威主权财富基金表示，这一基金眼下并未因涉及自动武器研发而把任何企业拉入“黑名单”，但“这是一个清楚的警告”。
道德委员提前敲“警钟”
新华社电 挪威主权财富基金道德委员会近日透露，这一基金今年将更新投资“黑名单”，考虑禁止投资可能研发出杀人机器的高技术企业。
挪威主权财富基金是全球规模最大的国家主权财富基金，现阶段资产规模8300亿美元。截至去年年底，这一主权基金持有全球9050家上市企业的股票，所持股份总市值相当于全球上市企业总市值的1.3％。
挪威主权财富基金下设一个独立的道德委员会，会依据各种道德准则给出基金投资建议。挪威中央银行董事会则会根据道德委员会的建议，指示挪威主权财富基金避免购买“上榜”黑名单的企业乃至行业，或者将这些企业列入“观察名单”。
会衡量投资自动武器
挪威主权财富基金道德委员会主席约翰·安德烈森接受路透社采访时说，该基金已不允许投资研发地雷与核武器的企业。现在，道德委员会正将目光投向研发自动武器的企业。
依据设计原理，自动武器可以在没有人类干预的情况下锁定并击中目标。虽然自动武器的研发仍处于构想阶段，但一些人工智能专家预测，按照如今科技发展的速度，自动武器从构想到现实最快可能在数年时间内实现。
美国国防部去年12月证实，将申请一笔120亿至150亿美元的预算，用于研发包括自动武器在内的新技术。
“如果你考虑的是研发识别癌症的技术，那没有问题，”安德烈森说，“但如果你将这种技术沿用到在特定环境下追击一个人，或者和他人合作开发出自动武器，那么，我们找上你的时候别感到意外。”安德烈森说，这一基金眼下并没有因涉及自动武器研发而把任何企业拉入“黑名单”，但“这是一个清楚的警告”。
投资有“规矩”
安德烈森透露，道德委员会今年晚些时候将更新投资“黑名单”，将新的注意力集中到涉嫌腐败的电信、防务和能源企业。道德委员会还将评估卡塔尔建筑行业等涉嫌违反人权的投诉。据规章，挪威主权财富基金禁止投资涉嫌系统性违反人权的企业。
挪威议会今年早些时候推动一项决议，要求限制主权基金对于过度碳排放企业的投资。安德烈森说，道德委员会正在研究制订有关评估标准，预计今年年底前将公布首批因涉嫌碳排放过量而进入黑名单的企业。
截至眼下，大约66家企业因不符合投资道德标准而被列入挪威主权财富基金投资“黑名单”。此外，两家企业入榜“观察名单”，包括近年陷入腐败丑闻的巴西石油公司。“多数腐败案例来自于防务、电讯和能源行业，这三个行业让我们（道德委员会）很忙碌，”安德烈森说。
相关新闻
联合国曾建议冻结“杀人机器人”研发
新华社电 鉴于美国在作战行动中频频使用远程遥控的无人机，一些人担心，某些国家可能最终使用能代替前线士兵、自动杀伤敌人的“杀人机器人”。一些国际非政府组织曾发起宣传活动，要求禁止全自动机器人武器。
2013年5月， 联合国人权理事会曾在瑞士日内瓦开会，讨论议题之一就是否冻结研发“杀人机器人”并成立专门委员会讨论相关政策。
当时，有专家曾向人权理事会提交报告，建议联合国机构呼吁各国冻结这类“夺命机器人”的试验、生产和使用。
当时的报告建议，联合国人权事务需要成立一个高级别小组，由法律、机器人科学、电脑科学等专家参与，讨论与“杀人机器人”关联的政策。
报告说，这类机器人甚至可能杀死那些已因受伤无力作战或准备投降的敌人。这会使人们难以确保“杀人机器人”不违反国际人权和国际人道主义法律，而且，让机器人自动决定是否下杀手，意味着“道义责任的缺失”。