AlphaGo Zero三天击败人类的背后究竟意味着怎样的进步?

和国内顶尖的职业围棋选手培训机构——葛道场有长期合作,从我们的经验来看 , 要成为一个职业围棋选手,最晚也要从六岁到七岁开始学棋 。即使是像柯洁这样不世出的奇才,从五、六岁学起 , 到成为世界冠军也需要十多年的时间 。
而,前年最初连樊晖这样不太知名的围棋职业选手都无法战胜;而短短几个月后,到去年已经可以击败李世乭;再到今年以的身份复出,人类围棋选手已经完全没有抵抗之力,再到现在Zero可以完全不依赖人的经验而碾压 。
我们回来看看Zero的原理到底是什么?首先我们来看看在物理世界里有没有可能演化的这么快?我们知道在物理世界中 , 大家都学习过的牛顿第一定律表明,引力和质量成正比 。这是一个线性的关系,也就是说我们的物理世界总体是由线性的规律主导的 。所以,即使你可以造一台下围棋非常快的机器,每秒可以移动1000个棋子,可以想象不太可能造出 。
广为人知的三个部分分别是策略网络、价值网络和蒙特卡洛树搜索 。策略网络所代表的是人类的经验、历史的经验 。从公开的论文来看,的策略网络准确度基本在57% 。这个比喻未必特别精确,但类比考试成绩,如果期末考试才考了57分 , 这在人类世界不是特别可以拿出手的好成绩,这说明什么?说明这个策略网络和人类可以学到的相比并不是特别厉害,所以Zero在之后必然从头开始寻找更优策略 。让我们再来看看价值网络 , 根据我们的实践,价值网络特别不好训练 , 很难获得一个质量特别好的结果;也就是说价值网络评估当前棋局形势的能力其实也不如人类 。策略网络和价值网络都不如人类,那为什么还能这么厉害?所以最根本的,还是在于它使用的蒙特卡罗树搜索这块能力比人强 。人类每下一步棋,能考虑到几十步已经是顶尖的高手,但却可以搜索几十万、几千万、几亿步 。
策略网络(图自CSDN,作者张俊林)
价值网络(图自CSDN,作者张俊林)
蒙特卡洛树搜索(图自CSDN , 作者张俊林)
这种方法给了我们极大的启示,未来的AI将物理世界建立的模型投影到计算机的数字世界,然后利用由摩尔定律支撑的指数级增长的计算力,在数字世界中进行无限的模拟、探索,并且结合以往的经验找到更好的方案,再把这个方案反过来应用到现实世界中,并从现实世界获得真实即时的反馈 , 并用于在数字世界中找到更好的方案 。
就像从与樊晖试棋,再到在网上与邀请的顶级围棋选手对弈,都是期望通过现实棋局得到真实的反馈,再回到数字世界中找到更好的解决方案 。目前,还有一个特别火爆的领域 , 那就是自动驾驶 。
【AlphaGo Zero三天击败人类的背后究竟意味着怎样的进步?】像谷歌,做自动驾驶近十年时间,积累的路测数据有几百万英里;特斯拉每年卖出几万辆汽车 , 号称路测数据积累了上亿英里 。然而根据专家的估计,想让自动驾驶汽车能够可靠地上路行驶,最乐观的估计也需要至少100亿英里的路测人工智能alphago的ppt,这对企业来说几乎是不可能实现的 。
现在很多自动驾驶企业都建立了模拟系统,在数据世界搭建一个虚拟世界,例如谷歌已经把凤凰城完全数字化 , 自动驾驶系统可以在这个虚拟世界中每天行驶超过几亿英里 。这样做的好处是,在现实的、线性的世界中,试错的成本非常高 。而通过数据的方法在虚拟数字世界中建立一套与现实世界对应的模拟,利用计算机强大的计算能力去尝试各种可能性,尽量找到可找到的最好的解决方案,再应用到现实世界中 , 这样可以极大的提高迭代速度 。
观察这三个例子,我们可以发现他们有一种共同的模式 , 那就是建模人工智能alphago的ppt,投射,探索 , 应用和反?。徽饩褪鞘?萸??椒ǖ幕?究蚣? ,而其成功的核心,则是试错的成本和迭代的速度 。
数据驱动方法的基本框架
让我们再看看另一面 , 目前我们记录下来的都是用户的行为,但这个世界除了计算机领域的数字世界、我们生活的物理世界,其实还有每个人大脑中的思维世界 。而人的行为,其实都是由大脑中的世界驱动的 。那我们有没有能力把每个人大脑中的世界也数字化呢?这是比我们以往做的更前沿、也更少人去做的事情 。而人本实验室的使命就是试图去解决这些问题 。
本文到此结束,希望对大家有所帮助 。