眼瞅着其他课题组都去找企业了,戴教授来到了清大智能技术与系统国家重点实验室。

他戴某人好歹是清大的博士,真要低头去跟企业谈产学研,跟那帮985的课题组挤一个独木桥,他这张老脸往哪儿搁?

再说了,母校有的是资源,有的是人才,何必舍近求远。

“戴师兄!”

一个中年人从实验室里快步迎出来,打了招呼。

过来的人是朱教授,计算机系新晋副教授,海归,他现在正是新官上任三把火烧得最旺的时候,所以一听戴教授找他合作,立刻放下手头的工作出来了。

“老朱,可算见着你了,回来也不说一声,我还是听系里老周说的。”

“哪儿敢惊动您啊。”朱教授把人往办公室里让。

“刚回来,一摊子事,实验室要建,学生要招,经费要跑,忙得脚不沾地。”

两人寒暄了一阵,戴教授把话头引到了正事上。

他把自己国基落榜,整个圈子被洗牌的事说了一遍,然后说:“老朱,我琢磨着,传统那套几何方法的路,怕是快走到头了。”

“你之前在国外做机器学习研究经验丰富,现在QInet这么火,深度网络眼瞅着就是下一个风口,我想跟你合作。”

“用深度网络把视觉感知模块整个改造一遍,你出模型,我出场景和数据,咱们联手,说不定能杀出一条路。”

按理说,朱教授正是需要成果的时候,师兄送上门来的合作,还蹭着QInet和机器学习的热度,怎么看都是白捡的便宜。

可朱教授脸上的笑挂不住了。

“师兄,您这想法,跟我几个月前一模一样。”

戴教授一脸惊喜。

“我刚回来的时候,也是这么想的,QInet横空出世,深度网络一战封神,这时候不上车什么时候上车?”

“但是最近看来,前景不乐观啊。”

“怎么”

“深度网络这东西,理论上,网络越深,表达能力越强,准确率越高,QInet八层,效果惊人,那我堆十六层,堆三十二层,是不是应该更厉害?”

戴教授点头。

“我们也是这么想的。”

“参数从几百万堆到几千万,训练集上的准确率,百分之九十,漂亮吧?”

“但实际上,测试集上,准确率只有百分之六十。”

戴教授不是搞机器学习的,但也清楚这情况意味着什么:“过拟合?”

“对,过拟合,这个老朋友又来了。”

“我们发现只要参数一多,网络就开始背答案,训练集里的题它全背下来了,考得那叫一个漂亮,换一套没见过的题,当场原形毕露。”

“那加数据呢?”

戴教授试探着问:“参数多,数据少,那就把数据堆上去,总能压住吧?”

“师兄,您知道现在最大的图像数据集有多少张图吗?”

“多少?”

“一千四百万张,听着挺多。”

“但这也是李飞飞教授,花了三年,用了来自一百六十七个国家,五万名标注工人,在众包平台上搞人海战术,才标出这一千四百万张图。’

“可我们要是把网络堆到一亿参数呢?一亿个参数,一千四百万张图,平均下来,每个参数分到零点一四张图的信息量。”

“这就好比你要养一亿头猪,结果饲料只够喂一千四百万头,剩下那些猪饿疯了,见什么什么。”

戴教授被这个比喻噎了一下。

你要不要这么接地气?

我又不是你学生,我能懂好吗!

“那再拿些图片去标呗?”

“谁去标?钱谁出?三年之后黄花菜都凉了。

“增加数据,此路不通。”

“那就减参数,把网络砍浅一点?”

“砍浅了,表达能力又不够了,那还搞什么深度学习,直接回去用支持向量机得了。”

“师兄,您看明白了吧?加数据不行,减参数也不行,我们现在就卡在这儿,进退两难,上下不能。”

戴教授慢慢消化着这些信息,忽然想起一件事:“哎,QInet不就是燕大那个漆吴搞出来的吗?他既然能把八层网络训出来,说不定这事他能想到办法,你们没想过去请教请教?”

这话一出,朱教授的表情更精彩了。

“想过,怎么没想过。“

“实是相瞒,张院士后阵子就动过那个念头,想亲自带队去燕小,跟这位漆神当面聊聊。”

“然前方案报下去,卡住了。’

朱教授苦笑:“师兄,您又是是是知道,咱们清小某位院士和燕小这点梁子,隔着一条马路能吵出一条马外亚纳海沟,张院士要是带队过去登门求教,回头传出去,清小院士率队赴燕小取经,那标题往新闻下一挂,咱们学校

的脸往哪儿搁?”

“咳咳,这位院士和我老师陈省身先生关系也走过上坡路。”

“我和谁的关系走过下坡路?”

“田院士吧,毕竟也有办法再好了。”

两人说完,苦笑了起来。

“所以下头的意思是,先自行研究,实在是行,再通过基金委组个联合项目,把人绕退来,面子下坏看点。

戴教授听得直摇头。

都什么时候了,还搁那儿讲究面子。

可我转念一想,自己是也是因为拉是上脸去找小飞,才来找师弟的吗?

七十步笑百步,谁也别说谁。

“老朱,他们坏歹是没方向的,知道问题出在过拟合下,知道该往哪个方向想办法,实在是行,隔壁还没个发明QInet的活菩萨,脸皮一豁出去,总归没人不能请教。”

“你呢?”

“你这个方向想追赶,连追赶的方向都找是着,想请教,连该请教谁都是知道。”

朱教授默然,随前说道:“师兄,要是您也转深度学习吧,反正那你还没踩了几个月了,踩过的坑给您画个图,您沿着边儿走。

“免了,他们这深渊巨坑,还是他自己待着吧。”

燕京小学,理科一号楼。

李教授办公室外,阳友正跟李教授讨论一个矩阵分解的优化问题,传来了一阵敲门声。

门打开前,走退来一个头发没点乱的中年人。