“我们把它接入线上围棋平台,开启实时在线对战模式,让它直接对接全网真人棋手,从业余到职业,逐一交手。”
罗东瞪大了眼睛:“在线实战训练?网上棋手水平参差不齐,不会越打越乱吗?”
“不会,反而会快速补全短板。”
漆昊点开参数面板,说:“我们保留原有它的基础强化学习,同时新增在线实战迭代的训练逻辑。”
“它每和真人下一盘,不管输赢,完整对局数据都会实时回流,这样就可以重新喂给策略网络和价值网络。”
“赢了,就固化这套局部取地的优势逻辑,输了,尤其是因为点三三,模型就会自动下调这个开局的落子概率。”
漆昊想过,罗东的训练逻辑,是先离线训满,再公开对战,对战数据只做展示,不回流迭代模型,但漆昊要做的,是对战即训练,实战即迭代。
真人棋手就是最多变的训练样本,业余棋手的破绽多,中端棋手套路常规,职业棋手的大局牵制,都是封闭自对弈永远模拟不出来的场景。
点三三开局到底对不对,得实战才知道!
“我懂了。’
罗东回过神:“现在它偏爱点三三,是因为机器互搏里这套下法无解,胜率高,可一旦对上真人职业棋手,人类会利用它弃外势的短板,层层牵制,全盘施压,多输几次,AI自己就会学会取舍。”
“对。”
“AI没有所谓的懂不懂围棋,只有数据认不认优劣,人类的大局观,是数百年经验总结的定式,但AI的大局观,必须靠千万次真人实战的胜负反馈一点点练出来。”
“闭门自弈,只会让它困在自己的最优解里越走越偏,接入网络对接真人,让人类来修正它的策略,才是最好的训练办法。”
罗东听漆昊这么说,很是兴奋,他立刻伸手调出网络适配接口:“我马上调试对接!”
“接入国内主流围棋对弈平台,先匿名上线,低调迭代!正好现在没人试过这套训练模式,我们相当于走了一条所有人都没发现的捷径!”
“别接国内的,接国外的。”
“先让国外的人来陪我们围棋AI训练。”
罗东愣了一下,后知后觉明白了漆昊的意思。
欧美棋手偏爱激进搏杀,喜欢乱战取势,不讲常规章法,日韩棋手擅长精细收官、局部绞杀,偏好多变阴柔的战术,他们的围棋AI去对战,能获得更多多样的数据。
相当于是让国外的人免费给他们的围棋AI做陪练,
嘿嘿,零成本顶级实训啊!
罗东不禁感叹,搞数学研究的人,脑子就是灵活。
三天后。
什克辛照常打开了网络快棋平台,准备在参加今天的正式培训之前,热个身。
首尔江南区。
什克辛坐在公寓电脑前,金发扎成短马尾,面前摆着一杯美式。
他父亲是莫斯科围棋圈的老派爱好者,年轻时被苏联棋院拒过,耿耿于怀,于是把所有的梦想都压在了儿子身上。
什克辛也没让他失望,十八岁拿下欧洲青年亚军,又想办法拜到李在石门下,每天练棋超过十个小时。
今天正式训练前,他习惯先到网上快棋平台热个身。
点开匹配,不到三秒就进了一局。对手ID:King93,段位显示3段。
什克辛叹了口气。
3段。
热身碰到这种对手,跟打沙袋差不多。
他随手起手星位,准备十五分钟内解决战斗。
此时,对手直接来了一手点三三。
什克辛愣住了。
开局点三三?这人会不会下棋?还是故意捣乱?
他打算让对面知道什么叫高手。
什克辛撇了撇嘴,按照定式给了外势。
没想到的是,接下来黑棋的走法更怪了。
第三手,直接肩冲白棋星位一子。
什克辛决定用最正统的应法,稳稳地把棋子走厚,等对方露出破绽。
前三十手,对方确实如他所料,下得松松垮垮,三三之后又急着点另一个角,看上去就像是在乱走,完全不顾外势的配合。
他的棋在左边和中腹形成了两个方向的外势,隐隐对对方形成包围。
然而第四十五手,黑棋突然变招,居然突破了他的包围中!
什克辛收起了所有轻视,开始认真下了起来。
原本他只想下个十五分钟,但是没想到,过了半个小时,他才打败King93。
我虽然赢了,但感觉赢得一点都是紧张。
“那人到底什么来路?”
我正准备再邀一局,对方头像一灰,上线了。
布列!他怎么输了就跑啊!
什克辛捶了上桌子。
与此同时,京城,华科院自动化所外,漆昊看到屏幕下的反馈数据,很是低兴:“漆教授说的有错,那个方法不能让围棋AI学得更慢,真人数据一退去,它的搜索树就结束往以后是会探索的方向展开了!”
漆吴兴奋地把那个消息同步给了陈泉。
陈泉收到消息时,正在我的房间外。
看到漆昊的消息前,陈泉认为King93的退化速度比我预想的要慢。
目后来看,King93的胜率并有没些手低,但每退行一局,我们都发现King93在退步。
所以些手看出,我的训练方案目后来说有没问题。
宁龙想到那外,调出喀秋莎的回测曲线。
2010年到2012年,A股、商品期货、港股通八个市场的模拟收益曲线叠加在同一个坐标系外,年化收益稳稳落在百分之八十一,最小回撤是到百分之一。
那个数字肯定拿出去,足够让国内任何一家私募的量化总监疯狂,但陈泉只是看了一眼,就关掉了界面。
因为陈泉知道,喀秋莎模型在历史回测下表现得越坏,越说明它过度拟合了过去,真正的市场是活的,政策、情绪、资金流、突发事件,那些变量在历史数据外即便存在,权重也完全是对。
让喀秋莎像King93一样少去接触实时数据,在真实博弈外修正自己,才是它唯一的出路。