财新传媒
公司 > TMT > 正文

马斯克等百人向联合国呼吁禁止开发杀人机器人

2017年08月21日 15:08 来源于 财新网
可以听文章啦!
关于人工智能是福是祸的争议不断。马斯克等人认为,在人工智能和机器人上建立的技术能被转用于发展自主武器,致命的自主武器可能给人类带来巨大威胁
资料图:特斯拉创始人兼CEO马斯克。图/视觉中国

  【财新网】(记者 叶展旗)随着人工智能技术的发展,一些从业人士对可能存在的威胁发出预警。8月21日,特斯拉创始人兼CEO马斯克等一百余位机器人与人工智能领域的从业人士联合发出公开信,向联合国呼吁禁止开发与使用杀人机器人

  此封公开信的签署者遍布26个国家,谷歌DeepMind联合创始人Mustafa Suleyman也在其中。此外,还有两位来自中国的从业者,分别是机器人公司优必选的创始人兼CEO周剑、人工智能公司Sankobot创始人兼CEO李磊。

  公开信中提到,由于公司在人工智能和机器人上建立的技术能被转用于发展自主武器,因此我们觉得特别有责任发出预警。

  信中称,致命的自主武器可能会带来新一轮的武器革命,一旦开发成功,将使冲突的规模庞大到前所未有,而且会达到人类难以适应的程度。他们将成为恐怖的武器,将成为暴君和恐怖分子残害无辜民众的武器,抑或被黑客所使用,“我们的时间并不多,一旦潘多拉之盒被打开,就很难被关上。”

  自主武器是在无人干预情况下可以独立搜索、识别并攻击目标的一种新式武器,即杀人机器人。马斯克、物理学家霍金、苹果公司联合创始人沃兹尼亚克等人都是自主武器的反对者。

  李磊向财新记者表示,过去几十年间世界上没有发生过大规模的战争,这得益于生产力的提高、全球化的进步以及大国的责任感。但随着地球人口的超载,资源的竞争可能导向两种结局,其一是向太空移民,其二便是世界战争。

  “各国在自主武器上的技术积累差距较大,一旦研发成功,将重启新一轮的军备竞赛。自主武器不需要人操控,发生意外的可能性大大提高,战争的风险也随之上升。”

  7月17日,马斯克在出席一场由美国各州州长参加的会议时曾强调,“我一直在敲响警钟,等到哪天机器人真的走上街头、屠杀人类时,大家会不知所措。”

  智能软件开发机构Possibility Research的创始人兼主席Steve Omohundro也是该公开信的签署者之一。他向财新记者介绍道,我们正身处人工智能与机器人革命中,这一变化将出现在三个层面:首先是当前的“人工智能经济”,即人工智能技术提高生产力,加速经济活动;之后是正在出现的“人工智能军事”,即技术提高武器的自动化程度,并带来军备竞赛,包括开发无人机、机器战士、自主武器机动车等设备;未来的“人工智能社会”则应扩大对自主系统的法律及行政管制。

  “很明显,这些新技术需要新的方式去确保安全性。”Steve Omohundro表示,“目前,我们仍处在非常早期的阶段,我们需要重新构建这些技术所处的环境。大体上,社会需要更先进的法律和执法措施。”

  2016年12月,联合国《特定常规武器公约》的签署国家投票决定在2017年召开会议讨论对自主武器的限制。不过,据公开信透露,原定于近日召开的会议由于小部分国家没有支付会员费而被取消,百位人工智能业界人士恳请联合国敦促缔约方在11月的第一次会议上加倍努力。

  这封公开信发表在美国研究机构生命未来研究所(FLI)的网站上,该机构致力于降低人类所面临的风险,尤其是人工智能技术所可能带来的风险。马斯克与霍金都是这家研究所的顾问委员会成员。

  目前,关于人工智能是福是祸的争议不断。7月23日,Facebook创始人扎克伯格指责马斯克所描述的末日恐慌是消极的、不必要的,“在某种程度上,这是相当不负责任的行为。未来十年,人工智能将大幅改善人类的生活。”马斯克随后回应称,已和扎克伯格谈过,他对人工智能的理解有限(limited)。

责任编辑:覃敏 | 版面编辑:张翔宇
文章很值,赞赏激励一下
赞 赏
2人已赞赏
赞赏是一种态度
  • 1
  • 3
  • 6
  • 12
  • 50
  • 108
其他金额
其他金额(元):
赞 赏
财新传媒版权所有。
如需刊登转载请点击右侧按钮,提交相关信息。经确认即可刊登转载。
推广

财新私房课
好课推荐

2017年09月20日    15:09
【欧股今日低开】德国DAX指数跌0.15%,英国富时100指数跌0.05%,法国CAC40指数跌0.12%。
2017年09月20日    15:09
【国内期市涨跌互现】沪铝、沪铅期货主力收盘涨逾3%,硅铁、铁矿石跌超2%,沪镍、郑棉、焦煤涨超1%,锰硅跌超1%。
2017年09月20日    15:01
#今日收盘# 【有色金属领涨 沪指涨幅 0.27%】截至收盘,沪指报3366.00点,涨幅 0.27%;深成指报11191.13点,涨幅 0.97%;创业板指报1892.67点,涨幅 0.66%;中小板指报7597.00点,涨幅 1.24%。(本文由财新智能写稿机器人财小智基于财新数据内容发布)
2017年09月20日    14:56
【发改委:有关部门讨论完善新三板分层制度】据中国证券网消息,在今日举办的第五届中国创业投资行业峰会“新三板投融资论坛”上,国家发改委财金司证券处处长张邦利透露:“当前相关部门正在讨论完善新三板分层制度、差异化的发行制度;探索进一步加强各地股权交易市场与新三板的对接机制,打通资源共享与对接通道,提高市场交易活跃度。”
2017年09月20日    14:47
【周期股集体上涨】有色、煤炭、化工、钢铁、电力等板块均有所表现,西部材料、东方钽业、宝钛股份、翔鹭钨业、西部矿业等均强势涨停,神火股份涨逾8%,金瑞矿业、露天煤业涨逾4%
2017年09月20日    14:39
【中国保监会发布实施偿二代二期工程建设方案】偿二代二期工程是“强监管、防风险、治乱象、补短板、服务实体经济”的一项重要措施。计划用三年左右的时间落地和升级。完善监管规则包括15项具体任务,重点解决当前存在保险公司资本不实、关联交易复杂、资产不实、多层嵌套导致底层资产不清、产品不透明、非理性举牌问题、局部流动性风险突出、保障功能发挥不足等问题和制度漏洞。
2017年09月20日    14:32
【日韩股市收盘涨跌不一】日经225指数收盘涨0.05%报20310.46点。韩国综合指数收盘跌0.16%报2412.19点。
2017年09月20日    14:25
【王毅:中方坚定支持和落实《巴黎协定》】9月19日,外交部长王毅在纽约联合国总部出席《世界环境公约》主题峰会。王毅在发言中表示,中方支持国际社会加强对话合作,通过多边平台共同应对包括环境保护在内的可持续发展问题。中方愿积极参与全球环境治理进程,坚定支持和落实《巴黎协定》,推动形成公平合理、合作共赢的国际环境治理多边体系。
2017年09月20日    14:17
【钛白粉概念股走势活跃】安纳达涨3.8%,金浦钛业涨3.51%,龙蟒佰利,中核钛白,东华科技等股均有不错表现。
2017年09月20日    14:09
【A330宽体机完成及交付中心在天津启用】空中客车今天在天津宣布正式启用其欧洲以外首个A330宽体机完成和交付中心。同日,一架由空客中欧员工共同完成的A330飞机也在该中心顺利交付给天津航空公司。(人民网)
财新微信

热词推荐
郭文贵 熔断 会议 全国人大常委会 社会抚养费 货币政策 谢伏瞻 埃博拉 王强 王儒林 陈小鲁 非法集资 精英 乌坎 钓鱼台七号院