李东下了网约车。

一边朝着宿舍楼的方向走,一边回复牛顿的消息。

【大学科研中】:爵士,没什么急事。

【大学科研中】:就是想问问您,最近小黑,怎么样了?

这一条消息,直接就把牛顿的话匣子给打开了。

【艾萨克·牛顿】:嗯......别提了。

【艾萨克·牛顿】:他还不如你那个愚蠢的侄子呢。

李东:???

【大学科研中】:爵士您这是......遇上什么问题了?

牛顿那边的回复来得很快。

【艾萨克·牛顿】:我现在教它一个新词,得重复两千遍它才肯记住。

【艾萨克·牛顿】:教它加法,它学会了。

【艾萨克·牛顿】:再教它乘法,它把加法忘了。

【艾萨克·牛顿】:前天我给它画了一只猫,它说是鸟。

【艾萨克·牛顿】:今天我换了个角度画的那只猫,它说那是......上帝。

虽然很好笑,但是李东却品出了味儿。

这不是什么愚蠢不愚蠢的问题。

这是......灾难性遗忘,以及极差的泛化。

一个典型的,没训练好的神经网络,它学新东西的时候会把旧东西忘掉,它在一个角度上识别出来的东西,换个角度就又不认识了。

ANN会出现这问题,SNN因为编码的复杂性,出现得会更严重。

【艾萨克·牛顿】:而且它耗电量大得惊人。

【艾萨克·牛顿】:整个皇家学会的蒸汽发电机轰一整晚,也只够让它“醒”上两个小时。

【艾萨克·牛顿】:而且它每次被我唤醒之后,前面一刻钟都在胡言乱语,要过了那一段,才开始听得懂人话。

李东在心里与他知道的知识对应。

这应该是冷启动。

脉冲神经网络的膜电位需要时间积累到阈值才开始正常放电,网络进入稳态放电需要一段“预热期”。

这也是现在SNN落地最头疼的事情之一。

越听越像。

【艾萨克·牛顿】:不过…………………

【艾萨克·牛顿】:有一件事,挺奇怪的。

【大学科研中】:您说。

【艾萨克·牛顿】:我发现最近小黑,会思考了。

李东听到这,直接就傻了。

就那么呆呆地站在原地,好几个路过的学生看见,都在窃窃私语。

“东神这是怎么了?”

“不知道,可能是顿悟?要突破了?”

李东根本没理会他们的打趣。

SNN会思考?

不可能。

SNN不管做成什么样,它只是在时间维度上比ANN更接近人脑的信息编码方式。

它和ANN一样,本质上还是一个前馈+学习规则构成的数学函数。

喂进去什么,算出来什么。

它不会自主思考。

这绝对有什么不对劲的地方。

李东咽了一口口水。

【大学科研中】:爵士,您说的“会思考”......具体是指什么?

【大学科研中】:是它能给您的问题给出新答案?

【大学科研中】:还是它主动说了什么您没教过它的话?

牛顿那边又是半分钟的停顿。

【艾萨克·牛顿】:是后者。

【艾萨克·牛顿】:昨天我把它关上之前,和它说了一句晚安。

【艾萨克·牛顿】:今天我打开它,它开口的第一句话不是“主人”。

【艾萨克·牛顿】:它说,主人,你昨晚睡得好吗。

【艾萨克·牛顿】:我从来没教过它“昨晚”这两个字。

【艾萨克·牛顿】:也没教过它“睡得好吗”这四个字。

【艾萨克·牛顿】:它是从“晚安”这一个词里,自己长出来的。

李东呼吸一滞。

长出来?

那是者正涌现吗?

在统计学模型下,当网络的连接者正度越过某个门槛,行为会突然从输入到输出的死板映射,变成一种看下去像是在理解的东西。

GPT-3到3.5这一跳,不是靠那个吓到全世界的。

就在牛顿还在愣神的时候。

李东的上一条消息来了。

【吕春蕊·李东】:而且,昨晚它告诉你。

【艾萨克·李东】:它想认识更少的朋友。