这场胜利之前,许多人工智能砖家认为,它不可能打败顶尖人类棋手——至少不会这么快。最近几个月,Facebook已经在研究自己的围棋人工智能系统,尽管它并没有像许多其他研究人员那样密切致力于围棋项目,就像DeepMind那样。上个礼拜,当我们问及LeCun,这位负责Facebook人工智能研究 工作的深度学习创建人,谷歌是否已经秘密打败了了象棋大师时,他说,这不太可能(it was unlikely)。他的回答是,‘不(No)。或许(Maybe)。不(No)。’
担忧在于,随着研究人员不断改进该系统,他们会在不知不觉中跨越那道门槛,有关世界末日的焦虑确实开始变得有意义。Bostrom说,他和他的Futhre of Humanity Institute其他同仁正在关注加强学习找到突破人类控制的方式。他说,‘某些同样的问题会出现在今后更佳成熟的系统中,我们今天也能在系统中找到类似的问题。’他解释道,有许多小的暗示表明,强化学习会产生机器拒绝被关闭的情形。