【AI】人类发现围棋AI弱点获得胜利，暗示深度学习技术存在缺陷

天马行空

找借口安静 2023-02-21 23:57 发表于上海

原址：https://www.nikkei.com/article/DGXZQOCB210NG0R20C23A2000000/
原题：人間が囲碁AIに勝利、弱点発見　深層学習の欠陥示唆
摘自：日本经济新闻
作者：新井纪子、青木慎一
编译和整理：找借口安静 第一次借助AI翻译

人类在围棋比赛中成功地打败了目前最强的人工智能（AI）系统。在2016年，计算机的胜利被视为人工智能崛起的一个历史性时刻，但现在情况发生了惊人的变化。

美国业余棋手凯林·佩林（Kelin Pelletier）具备仅次于当地业余顶尖棋手的水平，他利用另一台计算机发现了其特定的缺陷，击败了这个人工智能系统。此后佩林和计算机进行了15局比赛，获得了14次胜利，而这场直接对决没有任何计算机直接对佩林做出辅助。

这次胜利揭示了目前广泛使用的围棋AI程序存在的弱点。这种人工智能技术也被应用于OpenAI在美国旧金山开发的ChatGPT（聊天GPT）等项目中。

电脑调查人工智能的弱点

让人类在棋盘上再次登上冠军宝座的战术，是通过调查人工智能弱点的计算机程序提出的。这个战术被佩林毫不留情地付诸实施。

该程序由美国加州的一家调查公司“FAR AI”开发，其CEO亚当·格里夫表示，“攻击AI的弱点非常容易”，并且该程序已经与围棋系统“KataGo”进行了超过一百万次的对局，还发现了人类棋手可以利用的“盲点”。

该战术的提出者佩林表示，该软件揭示出的必胜法并不平凡，但也并非非常困难。中级水平的棋手可以使用这种方法来击败机器。通过使用这种方法，佩林还成功地击败了围棋AI“Leela Zero”。

尽管计算机提出的战术对击败围棋人工智能有所帮助，但这个决定性的胜利，发生已经毫无悬念地在最复杂的棋类游戏中，领先了人类七年之后才发生的。

由谷歌旗下的英国DeepMind公司开发的系统“AlphaGo”在2016年以4比1的成绩击败了当时世界顶尖的韩国棋手李世石。李世石在三年后退役，他表示这是由于AI的崛起所导致的，表示“有些事物是我无法战胜的”。AlphaGo尚未公开，但可以认为佩林所击败的围棋人工智能的实力与AlphaGo相当。

围棋是让两个玩家在19 x 19的棋盘交替放置黑白棋子，试图围住对方棋子并尽可能多地占领领土的游戏。这种组合非常巨大，计算机无法预测未来所有的着法。

佩林使用的战术是创建一个慢慢形成的大型“环”形，同时用它来围住对手的棋子，并利用棋盘上其他角落的动作来困惑AI。据悉，围棋AI甚至在围堵几乎完成的情况下仍未意识到其脆弱性。

佩林还说：“人类应该很容易看出来。”

暗示了最先进的人工智能存在缺陷

加州大学伯克利分校的计算机科学教授斯图尔特·拉塞尔表示，发现最先进的围棋软件中存在弱点，这暗示着支撑现代最先进AI的深度学习系统存在根本性的缺陷。

他补充说，这种系统只能理解过去经历过的特定情况，无法像人类一样轻松地进行泛化。

拉塞尔教授还表示：“再次证明了，认为机器具有超人类的智能的结论还操之过急。”

研究人员表示，围棋软件失误的确切原因只能推测。格里夫博士指出，可能是由于佩林所使用的战术很少被使用，即AI系统没有接受足够类似对局的训练，因此无法识别其脆弱性。

他补充说，当面对像围棋计算机这样的“敌对攻击”时，发现AI系统存在缺陷并不罕见。然而，“我们看到很多大型（AI）系统几乎没有经过充分验证就被广泛部署。”