据AI科技评论宣布。
为了彻底揭开人机大战的奥秘,地平线大牛讲堂有幸约请到 UEC 曾经的打入决赛的军队 ——Facebook围棋 AI 程序 DarkForest 的首席工程师及第一作者田渊栋博士为我们一探究竟,本文由奕欣和亚萌整理,并由田老师做了审核和编辑,特此感谢。
高朋先容
田渊栋,Facebook 人工智能研究院研究员,Facebook 围棋 AI 程序 DarkForest 首席工程师及第一作者,卡耐基梅隆大学机器人研究所博士,曾担当 Google 无人驾驶团队软件工程师,并得到国际打算机视觉大会(ICCV)马尔奖名誉提名。
德州扑克
接下来我们讲一下德州扑克。首先我们要确认,这是“一对一无限注德州扑克”游戏(Heads-up no-limit Texas Hold‘em)。“一对一”意思便是我和你两个人的零和游戏,我输钱你赢钱、我赢钱你输钱,并不是很多人在一张牌桌上有人当庄家的那种。多人游戏要难很 多,紧张是现在用的办法在多人游戏下不能担保效果,然后状态空间也变大很多。
“无限注”便是你每次下注的时候不一定是之前的整数倍,可以是任意数。那么有限注德扑便是每次下注的时候,是成倍数地下,“有限 注”的问题已经在两三年以前就办理了,当时是发了一篇Science文章。那篇文章实在本该当会跟AlphaGO一样受到很大瞩目,但是不知道为什么,当 时并没有。
有两个很牛的扑克AI,这两个都是用的同样的框架,叫作Counterfactual Regret Minimization(CFR),简言之是把游戏中碰着的可不雅观测状态(叫作信息集Information Set)都罗列出来,然后对付每个可不雅观测状态,通过最小化最大仇恨值的办法,找到对应的策略。然后反复迭代。
一个是CMU的Libratus,它打了20天的比赛,赢了4个最牛的扑克玩家。(AI科技评论网按:在2017年1月,Libratus玩了12万手一对一不限注的德州扑克。到比赛结束时,人工智能领先人类选手共约177万美元的筹码。)
其余一个叫DeepStack(AI科技评论按:加拿大阿尔伯塔大学、捷克布拉格查理大学和捷克理工大学演习的AI系统与11位职业扑克手进行了3000场无限注德州扑克比赛,胜率高达10/11),他们在网上也打过一些大型职业比赛。
CMU Poker bot
先容内容
CMU Poker bot没有用深度学习。他们用到了End-game solver,由于德扑一局韶光比较短,可能就几个回合就结束了,以是你可以从下往上构建游戏树。这样的好处是,最下面节点游戏树的状态是比较随意马虎算出来 的,用这个反过来辅导设计上面的游戏树。其余他也用了蒙特卡罗方法,标准的CFR在每次迭代的时候,要把全体游戏树都搜一遍,这个对付轻微繁芜一点的游戏 来说是不可接管的,由于是指数级的繁芜度,以是用蒙特卡罗方法,每次选一些节点去更新它上面的策略。还有一点便是,一样平常来说我们在做游戏的时候每每会想到 怎么去利用对方的弱点,但实在不是这样的。更好的方法是,我只管即便让别人创造我的弱点,然后据此我可以去改进它,变得越来越强。用术语来讲,便是去算一下对 手的最优应对(Best response),让对手来利用你的弱点,然后用这个反过来提高自己的水平。
阿尔伯塔大学的DeepStack
我们看到DeepStack的基本流程是AlphaGo和国象的某种稠浊版本,即有限深度的搜索,加上用值网络估值。详细来说,从当前状态出发向前看三 四层的子树,在最底一层用值网络估算一下值(谁好谁坏),然后用常日的CFR去求解这棵子树的的最优策略。对付值网络来说,每个人有两张手牌,52选2, 就有1326种情形,但每种情形都有概率,以这个作为输入。输入同时也包括当时的筹码数和公共牌。输出的是在每种手牌情形下,估计的值函数 (counterfactual value)会是多少。
据新浪科技,今年4月Libratus(冷扑)很可能将来打中国,与中国的德州扑克牌手进行一场人机大战。
智能电视/电视盒子资讯可关注高清范论坛www.hdpfans.com,全国极具影响力的电视盒子及智能电视网站,供应电视盒子、智能电视、智能电视软件等方面的资讯、互换、答疑。微旗子暗记:有范 。
The post 田渊栋:德扑AI事理解读,本应和AlphaGO一样瞩目appeared first on高清范资讯.