韩名记：看看统治棋盘的AlphaGo后裔们 AI未来会支配人类吗？
作者：秋刀鱼编译 2024-02-02
看过很多《终结者》等电影或科幻小说的人们，大体上都会觉得AI的未来暗淡无光。 那类人里有一个非常强大的人物，他就是埃隆·马斯克。看着他那充满攻击性的步伐，我想如果世界灭亡的话，这个人会不会是主人公呢？但他却意外地站在了另一边。
超过700页的《埃隆·马斯克传》一书是由一位名叫沃尔特·艾萨克森的世界级传记作家撰写的。 这本书的第40章《人工智能》篇以马斯克和哈萨比斯的相遇开始。 德米斯•哈萨比斯创立了名为“DeepMind”的公司，并创建了AlphaGo。 他创建的AlphaGo击败了李世石九段，由此在世界范围内名声大振。
我在那次对决时负责了韩国方面的实务。在无数次的采访或会议上，李世石曾断言“电脑在围棋中击败人类是遥远的未来”，并对这句话毫不怀疑。
对于错误的判断，围棋界不会感到耻辱。 但是懂的人和不懂的人之间的差异非常明显，我选择站在陌生人的队伍里。
哈萨比斯既是神经科学家，又是人工智能的研究者。 作为国际象棋、扑克牌的冠军，他曾5次在国际智力运动奥林匹克竞赛中获得冠军。 他将人工智能比作除马斯克外，对人类的另一个潜在威胁。 他说：”AI会拥有超级智能，可以超越人类，甚至可以将人类作为废弃物处理。” 这动摇了马斯克的大脑。
马斯克向谷歌的朋友拉里佩奇谈到了AI的危险性。“人类的意识是宇宙中珍贵的火花，我们不能让它熄灭。”
但得到的回应却是“即使AI超越人类，那又有什么问题呢？这不就是进化的下一步吗？”
他指责马斯克是重视人类物种而不是AI物种的种族歧视主义者。具有讽刺意味的是，2013年末谷歌收购了DeepMind。马斯克为了阻止该交易，长时间劝说哈萨比斯“不能让佩奇控制AI的未来”，但未能成功。 马斯克就此事还与奥巴马总统进行了面谈。
据书中记载，马斯克会见萨姆·奥尔特曼就是在这个时候。萨姆·奥尔特曼是软件企业家和生存主义者。两人决定设立非营利性人工智能研究所，并将名字定为“Open AI”。 两人制定了“AI排序”的目标规则，就像著名科幻小说家艾萨克·阿西莫夫在自己的小说中制定了“机器人三原则”一样，AI也是为了符合人类的目标和价值而制定的规则。
但此后马斯克离开Open AI，并将全部股份转让给了微软。在达沃斯论坛上，经常出现萨姆·奥尔特曼（Open AI的CEO）的名字。自2022年推出ChatGPT，萨姆·奥尔特曼成为了震惊世界的Open AI领军人物。 但是不到1年，他被解除了Open AI董事会的职务，不过在微软的帮助下，他5天后再次回归。据报道，董事会和萨姆·奥尔特曼矛盾的核心是“AI安全吗？”
AI是多么危险的存在呢？就连奥尔特曼也说：”AI是可怕的存在。”但也不能就此罢休。恶魔的竞争已经开始了。围棋现在由AlphaGo的后裔们，即围棋AI支配。在棋盘上，AI是神明般的存在。这样的事情在其他领域也会同样发生吗？与AI一起结合，进行了3年多的围棋解说，我觉得有可能。
但即使是同样的神，也会和围棋不同。在围棋中，AI虽然远远超过了人类的能力，但无法支配人类的意识。即虽然是神，但无法获得神性。
那么在其他领域又如何呢？看到ChatGPT的大成功，就会想到AI可能会掌握人类的灵魂，并获得神性。“AI可以成为宗教”—— 阿西莫夫的小说《基地》中有“科学宗教”的说法。科学宗教获得了神性，由司祭们领导。
（秋刀鱼编译自韩国《中央日报》记者朴治文专栏） |
附件:
您需要登录才可以下载或查看附件。没有帐号？注册
